9 важных терминов к теме «Философия искусственного интеллекта». С мемасиками
2026-02-21 22:49 Diff
https://skillbox.ru/media/code/9-vazhnykh-terminov-k-teme-filosofiya-iskusstvennogo-intellekta/

#статьи

  • 21 июл 2021
  • 0

Прочитайте, чтобы лучше понимать лектора и реже ставить его на паузу.

 Brett Jordan / Unsplash / Colowgee для Skillbox

Кандидат философских наук, специалист по математическому моделированию. Пишет про Data Science, AI и программирование на Python.

Мы уже рассказывали, зачем искусственному интеллекту философия и какими вопросами она занимается. А сегодня рассмотрим важные термины, без понимания которых невозможно разобраться в этой теме.

Собрали для вас наиболее фундаментальные термины и написали к ним мемасиков понятные объяснения. В статью уместилось только самое необходимое, но надеемся, что и этот минимум поможет.

Вот о каких понятиях будем говорить:

Кадр: «Властелин колец: Братство кольца» / Skillbox Media

Рационалисты считают: основой жизни и поведения людей является разум. «Я мыслю, следовательно, я существую», — сказал Рене Декарт, французский математик, механик и по совместительству один из основоположников классического рационализма.

Ядром и идеалом рационализма выступает математика, которая начинает свой путь с очевидных и несомненных истин (аксиом), а заканчивает объяснением сложнейших вещей вроде квантовой физики. Торжество разума в чистом виде.

В современной культуре немало образов рационалистов:

  • Шерлок Холмс во всех версиях и форматах;
  • Штирлиц из телефильма «Семнадцать мгновений весны»;
  • доктор Манхэттен, комикс и фильм «Хранители»;
  • Шелдон Купер, ситком «Теория большого взрыва»;
  • доктор Хаус из одноимённого сериала.

А также — внезапно — Гарри Поттер, только не из оригинальной книги Джоан Роулинг, а из фанфика «Гарри Поттер и Методы рационального мышления» автора Элиезера Юдковского, исследователя ИИ. Смело рекомендуем эту увлекательную книгу в качестве популярного введения в современный рационализм.

Если вы думаете, что все наши знания происходят из чувственного опыта и непосредственного («прямо на месте») восприятия, то вы сторонник эмпиризма. До недавних пор именно он считался главным конкурентом рационализма на ниве познания мира.

В XX веке выяснилось, что наше восприятие не только обманчиво — на что указывает любая картинка с оптической иллюзией, — но и всегда содержит какие-то предварительные ожидания, не вполне связанные с данным конкретным опытом, событием, местом и временем. «Чистого» опыта и «полностью непосредственного» восприятия просто не существует.

Такие ожидания называются перцептивными гипотезами. Они, в свою очередь, могут способствовать появлению галлюцинаций, превращая колебания шторы в лунном свете в девицу в белом платье.

Кадр: «Звёздные войны», эпизод 6 / Skillbox Media

Хотя наше восприятие адекватно работает только в связке с этими перцептивными гипотезами, не стоит недооценивать его роль — ведь именно оно обеспечивает наиболее прямой контакт с окружающим нас реальным миром. Другого восприятия природа нам не выдала, так что работаем с тем, что есть.

Кадр: «Мстители. Финал» / Skillbox Media

Слово происходит от латинского dualis — «двойственный». Дуалисты полагают, что у мира есть два основополагающих аспекта, или начала: материальное и духовное, физическое и психическое, — короче, тело и душа. Их выделил всё тот же Рене Декарт — и назвал субстанциями:

  • «протяжённая субстанция», или материя;
  • «мыслящая субстанция», или сознание.

При этом мозг человека, несмотря на то, что вполне протяжён, то есть материален, обладает уникальной способностью — вырабатывать мыслящую субстанцию: чувства, эмоции, психику, душу.

Изображение: Renati DesCartes / National Library of Naples

Более того, философ прямо указал место в мозгу, где находится душа, — шишковидное тело, или эпифиз. На рисунке из его трактата эта железа изображена в форме большой капли в центре головы.

Дуалистический подход пронизывает всю нашу жизнь: мы уже с раннего детства делим мир на «я» и «не-я», различаем активные «субъекты» и пассивные «объекты», и даже в прошлогоднем меме «Вы не понимаете, это другое» высмеивается то, что одним что-то позволено, а другим нет.

В науке и философии дуализм, хоть и утратил былое влияние, окончательно своих позиций не сдаёт, ведь разница между психическими и физическими явлениями по-прежнему очень велика. Похоже, нам действительно придётся создать сильный ИИ, чтобы удостовериться, что психика и сознание материальны и порождаются теми же самыми атомами, из которых состоит всё вокруг.

Это набор приёмов и методов, которые упрощают решение задач, особенно нестандартных, творческих, часто в условиях недостатка информации. Главное свойство любой эвристики — это её практическая полезность. Для каждого типа задач эвристика будет своя.

К распространённым эвристическим подходам относятся, например, мозговой штурм и решение по аналогии. Эвристические приёмы, в отличие от строгих формальных алгоритмов, не гарантируют правильного ответа, но повышают вероятность его найти — например, отбрасывая заведомо негодные варианты.

Советы вида «В любой непонятной ситуации делай X» — это тоже эвристики. Изображение: Wikimedia Commons / Skillbox Media

На данный момент именно эвристика сильнее всего отличает человека от искусственных интеллектуальных систем. В узких задачах вроде шахмат или вычислений они могут опередить человека, но присущие человеку эвристические методы, предназначенные:

  • для опознания проблемы,
  • постановки задачи,
  • выбора адекватного способа решения,
  • или конструирования такого способа с нуля,

— машинам пока недоступны.

Похоже, нам нужно прокачивать именно эвристическое мышление, чтобы роботы с искусственным интеллектом не вытеснили людей окончательно.

Большинство учёных и исследователей, занимавшихся вопросами человеческого сознания и мозга, пришли к выводу: наши ощущения и восприятие связаны с определёнными состояниями мозга.

Эти состояния назвали «функциональными», поскольку каждое из них несёт функцию — например, «страдать от жары», «хотеть кофе» или «ощущать вкус яблока». Ощущения и восприятие уподобляются теням, отбрасываемым этими состояниями.

Изображение: Wikimedia Commons

Например, когда вы видите красный круг, — это нейроны вашего мозга сложились в специальное состояние «вижу красный круг». Когда вы думаете о белой обезьяне, то это снова нейроны, только в другом состоянии — «размышления о белой обезьяне». Аналогично с другими, более сложными ощущениями, вплоть до эмоций, озарений и листания ленты в смартфоне.

В соответствии с функционалистским подходом сознание может существовать без мозга, поскольку указанные состояния могут быть реализованы в любой достаточно сложной системе, не обязательно биологической и даже материальной. Это называется принципом множественной реализуемости.

В науках, связанных с изучением сознания, любят ставить мысленные эксперименты. «Китайская комната», один из них, придуман и описан философом Джоном Сёрлом в 1980 году. Он показывает, что система может демонстрировать разумное поведение согласно требованиям теста Тьюринга, но при этом не обладать каким-либо пониманием того, что она делает.

Иллюстрация: Дж. Сёрл / Skillbox Media

«Китайская комната» считается одним из главных аргументов против теста Тьюринга и против функционализма в целом. Она указывает на то, что:

  • Имитации разумного поведения недостаточно для того, чтобы действительно быть разумным.
  • Состояния, порождающие поведение, которое внешне выглядит разумным, имеют значение при ответе на вопрос, разумна ли система.

Этот мысленный эксперимент оказал большое влияние на науку о сознании. Иногда даже говорят, что вся когнитивная наука — это «исследовательский проект по опровержению аргумента Сёрла».

Когда вы видите красный цвет, чувствуете боль от горячей плиты или ощущаете гармонию окружающего пейзажа, то эти внутренние состояния переживания ощущений — и есть квалиа. Иными словами, это ощущения, максимально «очищенные» от внешнего: восприятия и физики.

Квалиа (qualia) — слово во множественном числе. Единственное число будет звучать как «квале» (quale).

Джон Локк в XVII веке догадывался, что «идея» синего цвета может быть разной у разных людей — потому что строение глаза у них различно. Например, у одного человека теоретически может быть инвертированный цветовой спектр (синий вместо красного и так далее).

При этом мы не сможем узнать, что именно происходит в сознании этого человека, когда он видит синий цвет, потому что для нас ничего не изменилось: ведь, несмотря на то, что «наш синий» цвет им воспринимается как «наш красный», он совершенно искренне сообщает, что видит синий цвет.

Квалиа обладают следующими свойствами:

  • невыразимость — их нельзя передать, можно только испытать;
  • несравнимость — квалиа разных людей невозможно сопоставить;
  • непосредственность — сознание испытывает квалиа без какого-либо промежуточного этапа или инструмента.

Считается, что понимание квалиа является ключом к пониманию природы сознания.

Люди с давних времён придают человеческие черты домашним животным, неодушевлённым предметам, растениям, природным стихиям и даже абстрактным понятиям. Некоторые даже ссорятся с домашними цветами, извиняются перед автомобилями, задабривают домовых и леших, молятся духам местности или какой-нибудь игры, например футбола.

Всё это и есть антропоморфизм — мы во всём видим что-то от нас, то есть от человека.

Крайняя форма антропоморфизма — антропоцентризм, утверждающий наличие человеческого измерения в любой части природы, в обществе и в самом познании. Классическую формулировку антропоцентризм обретает в знаменитой формуле Протагора: «Человек есть мера всех вещей».

Кадр: мультипликационный фильм «Король Лев» / Skillbox Media

Хотя почти все ИИ-эксперты смирились с тем, что он не будет похож на нас, то есть отказались от антропоцентризма, в этой области существует направление объяснимого ИИ (explainable AI). Так называются алгоритмы искусственного интеллекта, принцип действия которых человек может понять.

Поскольку объяснимость и понятность машинных алгоритмов — дополнительное требование, ограничивающее их возможности, то сторонники explainable AI редко встречают понимание бизнеса и других исследователей ИИ.

Если кратко, то это учение про то, что «всё когда-нибудь кончится»: конкретный человек, человечество или вообще всё сущее. Присутствует во многих религиях, философских и мировоззренческих системах. Различаются индивидуальная («что будет после смерти») и универсальная («что будет, когда закончится всё») эсхатологии.

Например, христианская эсхатология — это учение о конце света и втором пришествии Спасителя в наш мир. Оно, по некоторым представлениям, будет сопровождаться Страшным Судом и Армагеддоном, финальной битвой Таноса и Мстителей Добра и Зла.

Изображение: Йоша Зауер / Skillbox Media

Стараниями футурологов, писателей и исследователей ИИ формируется и техногенная эсхатология — учение о технологической сингулярности, которая вот-вот настигнет человечество. Это момент, когда развитие технологий — в частности, искусственного интеллекта — окончательно уйдёт из-под контроля человечества.

Конечно, в лекциях встретятся и другие термины: силлогизм и утилитаризм, деонтология, экзокортекс и трансцендентальность. Но они, на наш взгляд, не настолько фундаментальны, как девять терминов выше, и будут вполне понятны из контекста.

Удачи в обучении!

Научитесь: Философия искусственного интеллекта Узнать больше