Убиваем Матрицу в зародыше: 7 аргументов для спора с фанатом ИИ
2026-02-21 13:31 Diff
https://skillbox.ru/media/code/sem-argumentov-dlya-spora-s-fanatom-ii/

#статьи

  • 13 дек 2021
  • 0

Цокто, поставь сюда лид о том, что фанаты ИИ уже задрали! Ой, кто здесь?!

Кадр: фильм «Матрица: Революция»

Кандидат философских наук, специалист по математическому моделированию. Пишет про Data Science, AI и программирование на Python.

Вместе с искусственным интеллектом в нашу жизнь приходят и его поклонники, проповедники и просто энтузиасты. Им кажется, что ИИ решит все проблемы — если уж и не прямо сейчас, то очень скоро. Они эрудированны, говорят убедительно и раздражают всё сильнее.

Мы подобрали самые убойные тезисы и вопросы, которые помогут скептику одолеть фаната ИИ. Применяйте их с осторожностью: во-первых, собеседник может обидеться, а во-вторых, Большой Брат ИИ следит за нами из нашего вероятного будущего и делает выводы.

Перед началом спора проверьте собеседника и убедитесь, что перед вами именно оголтелый фанат искусственного интеллекта, а не разработчик. Сделать это очень просто: профессионалы почти всегда говорят о «слабом ИИ» — более-менее прикладных технологиях вроде машинного зрения. А «сильный ИИ» они оставляют философам, футурологам и восторженным фанатам.

Если вы поняли, что ваш собеседник именно фанат, расчехляйте вентилятор начинайте дискуссию.

Для начала пройдёмся по самым старым аргументам против искусственного разума: теологическому и математическому возражениям, концепциям леди Лавлейс и аргументу от сознания.

Это один из самых первых контраргументов, которые опровергают саму возможность нечеловеческого сознания. Звучит он примерно так:

«Мышление есть свойство бессмертной души человека. Бог дал бессмертную душу каждому мужчине и каждой женщине, но не дал души никакому другому животному и тем более машинам. Следовательно, ни животное, ни машина не могут мыслить».

Источник: с этим аргументом Алан Тьюринг спорил в книге «Игра в имитацию. О шифрах, кодах и искусственном интеллекте»

Вряд ли ваш оппонент — человек верующий. Поэтому вам придётся развивать тезис иначе. Например: что, если человеческий разум — результат абсолютной случайности, уникального стечения обстоятельств? Если так, то разум может оказаться принципиально неповторимым — ни в форме машины, ни в форме чего-либо или кого-либо ещё.

Переписка в чате «Сотворение Адама». Изображение: Wikimedia Commons / Цокто Жигмытов для Skillbox Media

Если оппонент не верит, что воссоздать разум нельзя, спросите, на чём основано его убеждение. Возможно, прямо на ваших глазах он придумает новую религию.

«Согласно теореме Гёделя о неполноте, возможности машины, которая использует дискретную логику, очень ограниченны. Она вряд ли сможет стать даже просто минимально живой — а уж разумной стать ей точно не светит».

Существует две теоремы Гёделя. Вкратце их суть можно выразить так: если система правил построена на арифметике, то в ней всегда можно сделать утверждения, которые нельзя ни доказать, ни опровергнуть. Остаётся только поверить в них или отвергнуть.

Самый известный пример — пятый постулат Евклида о параллельных прямых. Его нельзя доказать или опровергнуть в рамках классической евклидовой геометрии. Но этот постулат критически важен: если от него отказаться, у нас получатся другие геометрии.

Также заметим, что поиск всех подобных неопровергаемых утверждений для каждого случая — весьма сложная задача. Таким образом, машины, которые используют арифметику, гарантированно будут иметь неизвестные или трудно обнаруживаемые изъяны в своей логике. Что сильно ограничивает их возможности.

С этим тезисом труднее спорить, потому что фанаты ИИ уважают математику. Если повезёт, вы сможете наблюдать, как оппонент морщит лоб и вспоминает термины «финитность» и «диофантова форма», цитирует Бертрана Рассела и, возможно, в итоге отказывается от арифметики (!).

«Машина делает только то, что в неё заложили. В отличие от разумных людей, она не сможет создать ничего по-настоящему нового».

У первого программиста в истории, графини Ады Лавлейс, были все основания для столь пренебрежительного отношения к машинам. Она составила описание для машины Бэббиджа, которая опередила своё время почти на сто лет — однако даже такое революционное устройство всё равно делало лишь то, что ему предписано.

Ада Лавлейс, первый программист. Изображение: Wikimedia Commons / Цокто Жигмытов для Skillbox Media

Современные компьютеры рисуют картины, пишут музыку и генерируют фотографии несуществующих людей и котов. Формально эти произведения новые, но, как и почти два века назад, не выходят за рамки того, что было заложено в машину нами изначально.

«Пока машина не сможет написать сонет или сочинить музыкальное произведение, побуждаемая к тому собственными мыслями и эмоциями, а не за счёт случайного совпадения символов, мы не можем согласиться с тем, что она равносильна мозгу, то есть что она может не только написать эти вещи, но и понять то, что написала».

Источник: статья «Разум механического человека», 1949 год

Профессор Джеффри Джефферсон привёл этот аргумент в своей статье. Он был нейрохирургом и специалистом по неврологии, поэтому неплохо разбирался в том, что такое мозг.

Другими словами, мы не сможем — и вообще никто не сможет — считать машину разумной, пока мы сами не станем этой машиной и не убедимся, что она действительно что-то понимает и всё это не имитация. Или так: «Вы не сможете доказать, что машина разумна. Вообще никак не сможете, в том числе и самому себе».

С этим аргументом связаны проблемы квалиа и китайской комнаты, которые никто не решил до сих пор. Фанату ИИ придётся попотеть и вспомнить, что говорят на эту тему современные философы и учёные. Иначе человек неизбежно решит, что разумно всё, что он лично считает разумным, а это слив.

Чтобы не повестись на умные словечки фаната ИИ, прочитайте нашу статью с разбором главных терминов философии искусственного интеллекта.

Человечеству ещё далеко до понимания собственного интеллекта, разума и природы сознания. С этим не будет спорить даже самый ярый энтузиаст ИИ. Но при этом мы, то есть они — разработчики ИИ и примкнувший к ним фанат — всерьёз хотят создать разумное существо. Нет ли в этом противоречия?

«Если мы не знаем, что такое разум, как мы можем его создать? Не потратим ли мы много усилий вхолостую — и это ещё в лучшем случае?»

GIGO — это известный в информатике принцип garbage in, garbage out, или «мусор на входе, мусор на выходе». Если входящие данные неверные, то и результаты будут неправильными, даже если с алгоритмом всё в порядке.

Можно вспомнить пословицу «что посеешь, то и пожнёшь», а также сказочный сюжет про недалёкого царя, который послал Федота-стрельца принести «то, чего на свете вообще не может быть». Разумеется, это не закончилось ничем хорошим ни для самого царя, ни для его челяди.

Мы играем роль такого царя, даже если и не хотим этого. Бизнес и государства стимулируют гонку искусственного интеллекта, в которой задействованы тысячи первоклассных учёных. Но даже сами гонщики не знают, что будет на финише.

Спорить с фанатами ИИ — дело неблагодарное. Изображение: Public domain / Цокто Жигмытов для Skillbox Media

Причиной вероятных катастроф станет то, что мы сами не понимаем природу своего разума. Наверное, будет обидно стоять посреди технологического апокалипсиса и вспоминать, какими глупыми и самонадеянными мы были, не прислушавшись к скептикам. Если будет кому вспоминать.

«Готовы ли мы к тому, чтобы решения за нас принимал не человек и даже не живое существо?»

Как слоны не понимают осьминогов, так и мы не будем понимать мотивы искусственного интеллекта. Скорее всего, люди поменяют образ жизни и ценности, потеряют приватность и станут тревожнее.

Вот что нас пугает уже сейчас:

  • точная реклама в соцсетях («телефон меня подслушивает!»);
  • бесящие непостижимые алгоритмы Instagram*, YouTube и TikTok;
  • массовые увольнения и гиперконтроль по отношению к работникам;
  • утечки персональных данных — в том числе биометрических.

Пока ИИ в основном помогает лучше контролировать людей: следит за нами, распознаёт лица, анализирует, предсказывает и управляет поведением. Разрабатываешь искусственный интеллект — значит, способствуешь угнетению людей. Как тебе такое, фанат ИИ?

Типовой энтузиаст здесь обычно рассказывает про объяснимый и дружественный ИИ. Уточните у него, мейнстримные ли это направления в разработке искусственного интеллекта — особенно, военных проектов. Постарайтесь избежать драки.

«Мы страдаем сами, и, скорее всего, искусственный разум тоже будет страдать. Есть ли у нас право создавать существо, которое почти наверняка будет несчастным — причём даже по непостижимым для нас причинам?»

В одной из сцен фантастического фильма Жана-Пьера Жёне́ «Чужой: Воскрешение» (1997) героиня убивает своего клона, чтобы он не мучился: существо было неудачной попыткой скрестить человека с инопланетным организмом.

Думаем, как и зрители фильма, автор этого морального аргумента философ Томас Метцингер оценил бы этот поступок положительно.

У фанатов ИИ есть доводы в запасе. Изображение: Public domain / Цокто Жигмытов для Skillbox Media

Полагаем, что ваш оппонент уже повержен, остались технические детали. Возьмите пример с Остапа Бендера и добавьте к ним не слишком убедительные, но весёлые доводы.

Технический аргументВесёлый довод (для гуманитариев)ИИ будет проводить кучу вычислений, а значит, потреблять много энергии. Экологи не одобряют.Мало нам криптовалютчиков!Нейросети путают кошку с собакой, а беспилотные автомобили теряются в непогоду, в листопад и при быстрой смене обстановки.И так развелось актёров и автоблогеров!Для разработки ИИ нужны специалисты — но ещё больше людей понадобится для взаимодействия с ним.Нам и так хватает нелюдимых сисадминов!

Доводы против искусственного интеллекта для технарей и гуманитариев. Таблица: Цокто Жигмытов

Если вы дочитали статью и победили в споре, то вы молодец! Система начислит вам дополнительные ИИ-кредиты во время очередной перезагрузки Глобальной Суперматрицы.

Конечно, такие споры вряд ли изменят ход истории и обратят развитие технологий вспять. Но аргументированная дискуссия поможет разобраться в том, что происходит, — а это всегда полезно.

* Решением суда запрещена «деятельность компании Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook* и Instagram* на территории Российской Федерации по основаниям осуществления экстремистской деятельности».

Научитесь: Философия искусственного интеллекта Узнать больше