Философия искусственного интеллекта: что это такое и зачем она нужна
2026-02-21 00:59 Diff
https://skillbox.ru/media/code/filosofiya-iskusstvennogo-intellekta-chto-eto-takoe-i-zachem-ona-nuzhna/

#статьи

  • 8 июн 2021
  • 0

Философия искусственного интеллекта: что это такое и зачем она нужна

А может, проще дождаться, когда компьютеры создадут философию людей?

Кандидат философских наук, специалист по математическому моделированию. Пишет про Data Science, AI и программирование на Python.

Все научные дисциплины и технологии — это инструменты, которые существуют, чтобы решать конкретные проблемы. ГЛОНАСС — чтобы люди знали, где находятся, а математика — чтобы люди страдали недорого и с высокой точностью моделировать сложные процессы из реальности.

Искусственный интеллект — это и наука, и технология одновременно. Его задача — научить машину выполнять функции, которые традиционно считаются прерогативой человека.

Вроде бы всё просто. При чём здесь философия?

Философия определяет место, которое разные объекты занимают в нашей картине мира, помогает понять взаимосвязи и влияние на окружающую их реальность. Например, философия науки изучает методы и суть науки как явления, а философия техники осмысливает природу техники и оценивает её воздействие на общество, культуру и человека.

Вообще, если очень захотеть, свою философию можно создать для любого предмета и явления. Для малярного дела — чтобы изучать, как оно влияет на реальность и что будет, если воспринимать весь мир как неокрашенную стену. А для электрического перфоратора — чтобы понять причины его возникновения и последствия его существования, включая недовольство соседей. К счастью, это теоретическая возможность.

Чем явление сложнее, богаче, чем сильнее оно влияет на окружающий мир или испытывает его влияние, тем нужнее нам философия, чтобы его понимать. У искусственного интеллекта глубокие корни в нашем прошлом, он заметно влияет на наше настоящее и ещё сильнее меняет наше возможное будущее. Философам есть где развернуться и есть чем заняться.

Научим ИИ моральному закону и звёздному небу над головой. Фото: Википедия

Философия ИИ, являясь одновременно и философией науки, и философией техники, с одной стороны, рассматривает искусственный интеллект как феномен общества, культуры и познания, а с другой — пытается осмыслить его природу и оценить воздействие на нашу реальность.

Всё это мы сейчас и проделаем — и станет яснее, чем занята и как работает философия ИИ.

Человеческое восприятие ограничено: мы не видим ультрафиолета и инфракрасных волн, не слышим тихих звуков и ультразвука, наша кратковременная память вмещает 5–9 объектов, а долговременная подвержена различным искажениям — например, воспоминания могут измениться под влиянием окружения.

Даже если бы у нас были развитые органы чувств, они всё равно представляли бы собой темницу из знаменитого мифа о пещере, узники которой прикованы так, что видят лишь смутные тени на одной из её стен — и только по этим теням могут судить о происходящем снаружи.

По Платону, пещера олицетворяет собой чувственный мир, в котором живут люди. Подобно узникам пещеры, они полагают, будто благодаря органам чувств познают истинную реальность. Но это всего лишь иллюзия. Подлинный мир во всём его богатстве и многообразии остаётся за пределами восприятия.

Способность мыслить компенсирует несовершенство чувств и позволяет проникать в суть вещей. Благодаря мышлению мы научились видеть то, что не видно глазу, и слышать то, что не слышно уху, узнали то, что недоступно восприятию, стали быстрее, сильнее и опаснее любого живого существа на планете.

Но у всего есть цена — у мышления тоже. Мозг взрослого человека составляет всего 2% от массы тела, но потребляет до 20% всей энергии. А чтобы подготовить одного учёного, требуются годы, и это не бесплатно — за образование платит либо он сам, либо государство.

Поэтому возникает вопрос: «Как бы всё это удешевить, автоматизировать, а ещё лучше — кому-нибудь делегировать?»

В первой половине XVII века ящик Пандоры стал приоткрываться: Томас Гоббс заявил, что мышление есть вычисление, а Блез Паскаль создал «Паскалину» — одну из первых счётных машин. Появление ИИ стало вопросом времени.

Ведь если:

  • сознание — это совокупность мыслительных процессов,
  • мышление — это вычисление,
  • а вычислять может и машина,

— выходит, что можно создать машину, обладающую своим собственным сознанием. А в нём, в свою очередь, будет отражаться реальность. И мы сможем наконец-то отдохнуть посмотреть на платонову пещеру со стороны.

Фундамент всего современного ИИ — предположение, что человеческое мышление представляет собой процесс вычисления в той или иной форме. Если это не так, всё рухнет.

Но пока похоже, что всё так.

В середине прошлого века машины стали способны реализовывать достаточно сложную математику, и атака на мышление началась всерьёз. Она велась по двум главным направлениям, которые Алан Тьюринг в своём манифесте обозначил как «сверху вниз» и «снизу вверх».

  • С одной стороны, люди разрабатывали алгоритмы, которые могли лежать в основе мышления. Здесь ключевым прорывом стала машина Тьюринга, позволившая разбить задачи вычисления на элементарные шаги, доступные компьютеру. Это направление «сверху вниз».
  • С другой, люди создавали модели нейронов и соединяли их в сети в надежде получить действующую модель мозга — а от него вроде как и до мышления недалеко. Это направление получило название «снизу вверх», или коннекционизм.

Вне зависимости от подхода все современные исследования в области ИИ могут служить иллюстрацией принципа «Fake it till you make it» («Подделывай, пока не получится по-настоящему»). Мы моделируем (подделываем) разные аспекты мозга и мышления, затем соединяем полученное между собой и, как у Стругацких в «Понедельнике», «тупо смотрим, что к чему».

И хотя мы пока что не построили настоящий сильный ИИ, даже неудачные попытки воссоздать человеческий разум в коде и железе помогают нам лучше его понять. Дональд Кнут сказал: «Я не понимаю предмета, если не пытаюсь его запрограммировать». А мы пытаемся закодить себя — и благодаря этому понимаем себя лучше и лучше:

  • Педагоги говорят о необходимости обучать детей вычислительному мышлению: умению разбивать задачу на части, использовать циклы, символы и логические операции, представлять решение в виде ряда упорядоченных шагов, то есть алгоритма.
  • Учёные уже не первый год рассуждают о «вычислительном повороте» — проникновении компьютерных методов в исследовательский процесс, причём не только в технических и точных науках.
  • В прошлом году в энциклопедии Стэнфорда появился раздел, посвящённый вычислительной философии, и это не «философия вычислений», а именно другая философия, использующая цифровые методы.

Всё это инструменты человеческого познания — и одновременно плоды эволюции компьютеров, священным Граалем которой является ИИ.

Разработчики беспилотного транспорта или систем компьютерного зрения и другие ИИ-специалисты — это очень занятые люди. Они постоянно решают свои специальные задачи, и у них просто нет времени на анализ всех возможных последствий их деятельности. Эту работу берёт на себя философия.

Возможно, вы слышали о «проблеме вагонетки» или её вариациях, когда от человека требуют сделать сложный выбор в смоделированной ситуации: ничего не делать и тем самым убить пятерых людей или повернуть рычаг и убить только одного. Предполагается, что ИИ неизбежно столкнётся с этой проблемой — например, когда будет водить автомобили на дорогах общего пользования или управлять полицейскими беспилотниками.

Такие вопросы рассматриваются в исследованиях по цифровой этике — это один из быстрорастущих разделов философии ИИ. Один из важных результатов звучит так: машина может принимать решения о жизни и смерти людей, если в итоге смертей станет меньше.

Другой подход предполагает обращение к мнению людей. Массачусетский технологический институт уже пятый год продолжает свой эксперимент «Моральная машина». В нём интернет-пользователям предлагается решить, кого машина должна задавить в гипотетической аварийной ситуации. Нравственное действие определяется на основе выбора большинства.

Развитие искусственного интеллекта, по убеждению экспертов, отразится и на рынке труда: много профессий исчезнет, но много и появится. Общий вывод в том, что автоматизация и роботизация оставляют людям в основном сложные профессии с существенной творческой составляющей.

Как должны измениться школы, колледжи, университеты, службы занятости и структуры социального обеспечения в свете таких перспектив? Что будет, если они не изменятся? Самое главное — как быть нам и нашим детям?

Всё это — тоже философия ИИ.

Философы обсуждают и не такие насущные, но зато более масштабные темы вроде «Уничтожит ли нас ИИ» и «Что будет после появления ИИ».

Рационалист Элиезер Юдковский считает, что дружественный ИИ станет возможен только после того, как мы постигнем тайны разума, — и это нужно сделать как можно скорее. Технооптимист Рэй Курцвейл полагает, что следование ценностям, которые мы сегодня ставим превыше всего, — наилучшая стратегия для создания мира будущего, неважно, будет там ИИ или нет. Трансгуманист Ник Бостром в своей книге «Искусственный интеллект. Этапы. Угрозы. Стратегии» предупреждает о том, что за созданием ИИ идёт следующая ступень — Сверхразум, и его мы в принципе не будем способны хоть как-то контролировать.

Среди русскоязычных исследователей стоит отметить:

Знакомство с текстами, книгами и интервью как зарубежных, так и отечественных авторов даст более объёмную картину нашего возможного будущего.

Томас Метцингер, автор книги «Тоннель Эго», задаёт неожиданный вопрос: а имеем ли мы право создавать ИИ? Ведь он, будучи создан, станет испытывать различные состояния сознания. И мы не можем гарантировать, что среди этих состояний не будет этически неприемлемых (типа похоти, гнева или жажды убийства) — потому что до сих пор не научились избегать их в собственном сознании.

Иными словами, в процессе решения сиюминутных проблем и задач мы пытаемся создать того, кто с большой вероятностью:

  • будет непохож на нас,
  • будет превосходить нас во всём,
  • какую-то часть времени будет страдать совершенно непредставимым для нас образом.

Вопрос даже не в том, рискован ли этот путь. Вопрос в том, этичен ли он, подобает ли он человеку и человечеству.

Философию искусственного интеллекта можно сравнить с разработкой API — программного интерфейса приложения.

Упрощённо API — это описание способов, которыми одна программа может взаимодействовать с другой. Можно сказать, что рычаг переключения скоростей, педали газа и тормоза, индикаторы, спидометр, кнопки включения фар и поворотников — это API вашего автомобиля. Благодаря ему можно забыть о внутренней логике работы машины и взаимодействовать только с панелью управления.

Аналогично API философия ИИ — это множество разных «ручек» и «кнопок», которые можно вертеть и дёргать. Мы не знаем, как там всё внутри устроено, но если загрузить какие-то данные и понажимать на кнопки — получим результат.

Проблема в том, что технология искусственного интеллекта очень мощная и быстро растёт. Её внедрение способно радикально изменить любую отрасль, но не всегда в ожидаемом направлении:

  • ИИ в Amazon улучшил показатели логистики, но при этом усилил контроль водителей и увеличил нагрузку на сотрудников складов, что изменило условия труда, — и далеко не все работники остались довольны.
  • По тому же пути идёт и Яндекс, обнаруживший, что курьеры проводят по 15–18 минут в ожидании заказа, хотя «могли бы потратить это время на что-то более полезное».
  • Алгоритмы Deepfake представляют новую угрозу для систем, использующих биометрические данные, а сами эти системы посягают на приватность и частную жизнь людей.
  • Разделение ответственности при авариях автомобилей с функцией автопилота, вопрос «Кто был за рулём в момент гибели людей?» — один из камней преткновения в развитии транспортной отрасли.

С развитием ИИ получается такая же история, как если бы ваш автомобиль на ходу эволюционировал то в бульдозер, то в скейтборд, а то и вовсе в реактивный самолёт или в воздушный шар.

Скрытые и нереализованные возможности искусственного интеллекта тоже вызывают интерес философии, и это сближает её с хакингом. Философы как бы говорят: «Хорошо, раз ИИ неизбежен, давайте подумаем, какие у него могут быть особенности и уязвимости, и научимся использовать их, чтобы облегчить нам жизнь».

Самые эпичные фейлы и провалы искусственного интеллекта собраны на сайте AI Incident Database. Его основной раздел называется Discover Incidents, там можно по ключевым словам найти информацию о происшествиях. А краткий обзор этой базы на русском есть на сайте проекта «Инфраструктура научно-исследовательских данных».

Ричард Докинз в «Слепом часовщике» доходчиво показал, как естественный отбор, имея лишь простые исходные формы, порождает впечатляющую сложность, включая и нас, людей. Вполне возможно, что человек тоже является частью этого эволюционного процесса.

То бишь мы, «исходные» и «простые» существа, сможем создать нечто более совершенное, а «наши дети будут лучше, чем мы», как поёт рэпер Баста.

Писатель Эрнст Юнгер вообще полагал, что человек будет лишь единицей измерения могущества будущих искусственных интеллектов, примерно как мощность наших автомобилей измеряется в лошадиных силах. И похоже, что именно у нас есть шанс проверить и его предположение, и все другие гипотезы и пророчества.

Наш курс «Философия искусственного интеллекта», созданный совместно с МГУ, познакомит вас с контекстом, методами и проблемами самой масштабной на данный момент авантюры человечества. Приходите! Ваш дипломный проект не только принесёт вам сертификат МГУ (что уже неплохо), но и, возможно, сделает наше будущее чуть светлее и яснее.

Нейросети

  • 38+ топ-нейросетей в одном курсе: ChatGPT, Midjourney, StableDiffusion, DALL-E 3, Gen-3, Kling, Luma, Suno и другие
  • 190+ готовых промптов, чтобы быстрее решать задачи
  • Практика на реальных кейсах и 10 проектов в портфолио
  • Бессрочный доступ с ежемесячными обновлениями

Узнать о курсе

Практический курс: «Нейросети» Узнать о курсе