Rivalry2

HTML Diff

0 added 0 removed

Original 2026-01-01

Modified 2026-02-21

1 <a>#статьи</a>

2 <ul><li>17 ноя 2023</li>

3 <li>0</li>

4 </ul>Они намного старше, чем вы думаете...

5 Кадр: мультфильм "Миньоны: Грювитация" / Universal Pictures

6 Онлайн-журнал для тех, кто влюблён в код и информационные технологии. Пишем для айтишников и об айтишниках.

7 Несмотря на то, что чат-боты ворвались в нашу повседневную жизнь относительно недавно, их история началась ещё до того, как The Beatles записали первые песни в студии Abbey Road. С тех пор эти виртуальные собеседники прошли путь от ламповых устройств, которые выполняли ограниченный круг задач и отвечали шаблонными фразами, до мощных сервисов, поддерживающих беседу и анализирующих не только текст, но и изображения.

8 ML-инженер и исследователь в области NLP Анна Козлова прошлась по истории развития чат-ботов и рассказала, кто и как повлиял на развитие технологии интеллектуальных помощников.

9 автор

10 Machine Learning Engineer. Исследователь в области NLP. Автор научных статей и публикаций.

11 <a></a>Чат-бот - это программа, способная имитировать разговор с человеком, используя инструменты обработки естественного языка (NLP), такие как<a>сопоставления с образцом</a>(pattern matching) и <a>большие языковые модели</a>(LLM).

12 Упрощённо работу чат-бота можно свести к четырём шагам:

13 <ul><li>Пользователь отправляет ему запрос.</li>

14 <li>Чат-бот анализирует запрос.</li>

15 <li>Чат-бот генерирует ответ.</li>

16 <li>Отправляет ответ пользователю.</li>

17 </ul>Эволюцию чат-ботов можно проследить по тому, как они выполняли второй и третий шаги. Первые интеллектуальные помощники подбирали ответы из наборов шаблонов, ориентируясь на слова в запросе пользователя. Современные чат-боты используют большие языковые модели для имитации живого общения, генерируя текст с нуля на основе больших данных.

18 Мы начнём наше путешествие с Shoebox от IBM - первой машины, которая умела реагировать на голосовые команды, - и дойдём до современных цифровых помощников от Apple, Samsung и других компаний. Но, говоря про чат-ботов и искусственный интеллект, нельзя не вспомнить великого Алана Тьюринга и его знаменитый тест.

19 В 1950 году<a>Алан Тьюринг</a>придумал тест, который должен был выяснить, способна ли машина к полноценному мышлению. За основу теста было взято допущение о том, что если человек, общающийся с программой, примет её за живого собеседника, то такую программу можно считать истинно мыслящей.

20 Алан Тьюринг, создать теста ТьюрингаФото: Wikimedia CommonsСвою идею Тьюринг описал в статье "<a>Computing Machinery and Intelligence</a>" в журнале Mind и предложил рассмотреть вопрос: "Могут ли машины думать?"

21 Для его решения он описал игру для трёх участников, которая получила название "Игра в имитацию". Это эксперимент, в котором человек взаимодействует с двумя участниками, один из которых - человек, а другой - компьютер. Испытуемому необходимо определить, кто из них кто, исходя из текстовых ответов участников.

22 Машина в своих ответах должна подражать человеку настолько, чтобы испытуемый не смог отличить её от живого участника. Если это удалось, то считается, что компьютер успешно прошёл тест Тьюринга.

23 В 1961 году инженер IBM Уильям К. Дерш разработал устройство, которое выполняло арифметические операции по голосовым командам. Изобретение получило ироничное название Shoebox. С этой коробки и началась история чат-ботов.

24 Менеджер IBM демонстрирует Shoebox в работеФотография:<a>IBM Archives</a>Машину представили на Всемирной выставке в 1962 году. Она умела распознавать и реагировать на 16 слов, включая десять цифр от 0 до 9, и простые арифметические операции. Когда учёный произносил числа и названия команд, такие как "плюс", "минус" или "итого", счётная машина производила вычисления и распечатывала ответ.

25 Для управления Shoeboxиспользовался микрофон, который преобразовывал звуки голоса в электрические импульсы. Измерительная схема классифицировала их в соответствии с различными типами звуков и активировала подключённую счётную машину через систему реле.

26 Видеодемонстрация работы IBM ShoeboxКомпьютерная программа для изучения естественного языка общения человека и машины. Её разработал<a>Джозеф Вейценбаум</a>, профессор MIT, в 1966 году. По мнению некоторых экспертов в области искусственного интеллекта, именно Eliza впервые прошла тест Тьюринга, но это мнение разделяют не все.

27 Внешний вид программы Eliza. Один из самых первых примеров чат-бота с текстовым взаимодействием пользователя и машиныФото: Wikimedia CommonsЧат-бот задумывался как психотерапевт, который слушает пользователя, анализирует сказанное и задаёт уточняющие вопросы. Eliza использовала<a>подход сопоставления с образцом</a>(pattern matching) и выбор ответа на основе шаблонов.

28 У такого подхода были серьёзные недостатки. Например, программа не учитывала контекст и не обучалась в процессе диалога, что накладывало ограничения на ответы. Eliza понимала около 200 ключевых слов и правил, что позволяло ей вести довольно примитивные беседы.

29 Пример диалога с ElizaУдивительно, но с Eliza можно поговорить сегодня. Она<a>доступна в онлайн-версии</a>.

30 В 1972 году американский психиатр и учёный из Стэнфорда<a>Кеннет Колби</a>разработал программу Parry, которую некоторые пользователи называли улучшенной версией Eliza. Считалось, что Parry обладала "личностью" и большей вариативностью в диалоге, чем её предшественница. Бот определял ответы пациента на основе системы предположений и "эмоциональных реакций", активируемых изменением веса в высказываниях пользователя.

31 В 1979 году Parry приняла участие в <a>эксперименте</a>с психиатрами. Пять опытных врачей-психиатров общались с чат-ботом, пытаясь определить, с кем они переписываются - с параноидальным пациентом или компьютерной симуляцией паранойи. В половине случаев Parry удалось обмануть специалистов, несмотря на его долгие ответы и неспособность выражать эмоции.

32 В январе 1973 года Parry и Eliza встретились в ARPANET для<a>общения</a>. Вот что из этого вышло:

33 Eliza:Добрый вечер. Расскажите мне о своих проблемах.

34 Пожалуйста, завершайте ввод точкой или знаком вопроса.

35 Parry:Люди иногда действуют мне на нервы.

36 Eliza:Я не уверена, что понимаю вас полностью.

37 Parry:Вам следует быть более внимательным.

38 Eliza:Предположим, вам следует быть более внимательным.

39 Parry:Вы имеете право на собственное мнение.

40 Eliza:С чего вы взяли, что я имею право на собственное мнение?

41 В 1988 году британский программист<a>Ролло Карпентер</a>создал, по его утверждению, "<a>первого чат-бота</a>с искусственным интеллектом". Бот должен был имитировать естественное человеческое общение в интересной, развлекательной и юмористической манере. Его исходный код был написан на предметно-ориентированном языке программирования -<a>CleverScript</a>.

42 Jabberwacky хранил информацию о диалоге с пользователем и находил наиболее подходящую фразу для ответа, используя метод сопоставления контекстных шаблонов. Главное отличие от предшественников - принцип обратной связи, позволяющий ориентироваться не только на строго заданные правила, но и на контекст диалога.

43 При этом база Jabberwacky пополнялась самими пользователями. Его можно было обучить английскому сленгу, словесным играм и шуткам.

44 В 2008 году Ролло Карпентер запустил<a>Cleverbot</a> - продвинутую версию Jabberwacky. Новый бот обучался прямо в процессе общения с пользователями, что позволяло ему генерировать связанные с контекстом общения ответы.

45 Пример диалога с Cleverbot в веб-интерфейсеСкриншот:<a>Cleverbot</a>/ Skillbox Media"Доктора Сбайтсо" взрастили инженеры Creative Labs, специально для операционки MS-DOS в 1992 году. Это была ещё одна программа, имитирующая психолога. Но в отличие от предшественников, в неё была зашита технология синтеза речи, которая позволяла озвучивать текст.

46 С Dr. Sbaitso<a>можно поговорить и сейчас</a>.

47 Демонстрация работы Dr. SbaitsoВ 1995 году Нобелевский лауреат<a>Ричард Уоллес</a>разработал чат-бота, используя инструменты обработки естественного языка (NLP) и язык<a>AIML</a>(Artificial Intelligence Markup Language), созданный специально для этой цели.

48 AIML - это диалект XML, основанный на системе сопоставления шаблонов (pattern matching). Следовательно, бот, написанный на AIML, соотносит вводимые пользователем данные с набором образцов, а затем генерирует ответ на основе совпавшего шаблона.

49 Пример диалога с ALICE в веб-интерфейсеСкриншот:<a>REVE Chat</a>/ Juwel RanaОснова ALICE - метод сопоставления шаблонов. Её база знаний включала около 41 тысячи шаблонов с вопросами и соответствующими ответами. Позже на основе ALICE разработали много других ботов, использующих метод сопоставления шаблонов.

50 Был разработан в 2001 году компанией ActiveBuddy для платформ обмена быстрыми сообщениями, таких как<a>AOL IM</a>и <a>MSN Messenger</a>.

51 Это был настоящий прорыв - впервые чат-бот мог не просто развлекать людей, а помогать им в решении повседневных задач. Пользователи получили доступ к афишам кинотеатров, результатам спортивных соревнований, котировкам акций, новостям и прогнозу погоды.

52 Демонстрация работы SmartChildЧат-бот, который создал<a>Стив Уорсвик</a>в 2005 году. Mitsuku пять раз получал<a>Премию Лебнера</a>как чат-бот, которые лучше всех справился с тестом Тьюринга.

53 Mitsuku написан на языке AIML - том самом, который впервые использовали при разработке ALICE. Позже он получил новое имя - Kuki. Кроме<a>чата</a>, у него есть свой ютуб-канал и аккаунт в Discord.

54 Скриншот:<a>Kuki</a>/ Skillbox MediaЭто уже не просто чат-бот, а целый суперкомпьютер, оснащённый системой искусственного интеллекта и созданный для поиска ответов на вопросы пользователя.

55 IBM Watson в 2011 годуФото: Wikimedia CommonsШирокой публике Watson стал известен после участия в телеигре Jeopardy! - аналоге "Своей игры" на российском телевидении. Он установил новый рекорд по заработанной за программу сумме и значительно превзошёл соперников-людей по числу правильных ответов.

56 Это<a>терапевтический бот</a>, созданный в 2017 году командой психологов из Стэнфорда и экспертов по ИИ. Предшественниками были виртуальный терапевт Ellie и арабоязычный терапевтический бот Karim.

57 Woebot ведёт короткие ежедневные беседы, проводит психологические игры и использует другие инструменты, которые позволяют людям улучшить своё психическое здоровье. Бот позиционируется как замена специалиста в тех случаях, когда пациент не может регулярно оплачивать психотерапию или не хочет общаться с живым человеком.

58 Отдельную страницу в историю чат-ботов занимают виртуальные помощники от крупных компаний, таких как Apple, Google и Amazon.

59 Была создана<a>Международным центром искусственного интеллекта SRI</a>на основе технологии компании Nuance Communications. Впервые была представлена публике в 2010 году в виде отдельного приложения для iPhone, но разработка велась с 2007 года. Компания Apple почти сразу же выкупила новое приложение для интеграции в свои гаджеты.

60 Демонстрация работы первой версии SiriВ 2012 году Google представил проект Google Now, который в 2016 году сменил название на <a>Google Assistant</a>. Оригинальная версия Google Now стала одним из первых сервисов, анализирующих данные о времени суток, местоположении и предпочтениях пользователя для предоставления необходимой информации в чате.

61 Google Assistant повысил персонализацию и добавил возможность пользователю вступать с ним в диалог.

62 <a>Интеллектуальный личный помощник</a>, созданный Amazon в 2014 году. Сейчас он встроен в различные девайсы компании, такие как Amazon Echo (умная колонка), Echo Dot (её компактная версия), Echo Show (интеллектуальный дисплей) и другие. Alexa умеет поддерживать разговор с пользователем, отвечать на его вопросы, зачитывать погоду, новости и выполнять другие действия.

63 Различные устройства Amazon с AlexaФото: Wikimedia CommonsПоявление Alexa и её интеграция в умные устройства обеспечило прогресс в области интернета вещей (IoT), позволив пользователям интерактивно взаимодействовать с ними и получать необходимую информацию, а не только удалённо включать и выключать гаджеты.

64 Виртуальный помощник, созданный Microsoft. Впервые был продемонстрирован на Microsoft Build 2014. После этого компания интегрировала его в смартфоны с Windows Mobile и компьютеры с Windows 10.

65 Cortana реагировала на голосовые команды и выполняла разные действия - определяла текущее время и месторасположение, создавала напоминания, составляла списки дел, общалась в чате, искала информацию и так далее.

66 Голосовой<a>цифровой помощник</a>Samsung, выпущенный в 2017 году. Ассистент послужил заменой вышедшему в 2012 году S Voice. Сейчас с помощью Bixby можно управлять смартфоном, умными часами, планшетом и наушниками Samsung.

67 С появлением больших языковых моделей (LLM) в истории с чат-ботами произошла настоящая революция. LLM позволили не просто отвечать на вопросы пользователей и выполнять их команды, но и генерировать текст для решения конкретных задач на основе запроса человека. Например, составлять юридические документы или писать стихи.

68 Что такое LLM?

69 Это модель<a>глубокого обучения</a>, содержащая миллионы параметров и прошедшая обучение на большом количестве текстовых данных. LLM анализирует запрос пользователя, или промт, и подбирает (предсказывает) наиболее подходящее для него следующее слово в своём ответе. Полученная строка вновь подаётся на вход в модель и она подбирает следующее слово. Процесс повторяется сотни и тысячи раз. Так формируется с виду вполне осмысленный ответ.

70 Главный амбассадор чат-ботов, определивший их популярность в последние два года. Модель GPT разрабатывается компания<a>OpenAI</a>. GPT-1 была представлена в 2018 году. Она содержала более 110 миллионов параметров и была предварительно обучена на большом массиве текстовых данных с использованием<a>архитектуры Transformer</a>.

71 Если говорить просто, то Transformer состоит из двух компонентов: энкодера и декодера, а также механизма внимания, который используется для учёта контекста. В энкодер на вход передаётся последовательность токенов, то есть слов и предложений, которая преобразуется в векторное представление. После некоторых вычислений внутри модели векторное представление передаётся в декодер, где генерируется выходная последовательность символов, то есть ответ.

72 GPT-1 могла генерировать простые тексты, которые по структуре и стилю воспринимались как написанные человеком. Но, были и недостатки: ограниченное понимание контекста и неспособность обрабатывать сложные логические связи. В некоторых случаях она могла генерировать неправдоподобные или несвязные ответы.

73 Следующая ступень - GPT-2 (2019) - включала уже 1,5 миллиарда параметров. Основой сохранилась архитектура Transformer. Основное преимущество GPT-2 - учёт контекста при общении.

74 Настоящий прорыв случился в 2020 году. Open AI представила GPT-3 и GPT-3.5 Turbo. Это модели, которые включали 175 миллиардов параметров. Сгенерированный ими текст сложно отличить от созданного человеком. Именно на основе GPT-3.5 Turbo появился<a>ChatGPT</a>, набравший большую популярность за последние пару лет.

75 Скриншот: ChatGPT / Skillbox MediaВ 2023 году была выпущена GPT-4 и GPT-4 Turbo, которую уже можно протестировать в подписке ChatGPT Plus. Она включает в себя новую мультимодальную версию модели, воспринимающую на вход не только текст, но и изображения.

76 Ответом на выпуск ChatGPT от OpenAI стал<a>Bard</a>от Google AI, анонсированный в 2022 году. Это чат-бот, работающий на большой языковой модели<a>LaMDA</a>.

77 Bard ещё находится в стадии эксперимента, но, как говорит сам бот, он обучается на наборе данных из более чем 1,5 триллиона слов и сейчас способен генерировать текст на более чем 100 языках.

78 Начиная с марта 2023 года он доступен для пользователей. Bard имеет несколько интересных функций, отличающих его от ChatGPT, например возможность экспортировать ответы в Gmail или Google Docs.

79 Подробнее про LaMDA можно узнать из видео:

80 Российский чат-бот, созданный в 2022 году разработчиками "Сбера". Основу бота составляет мультимодальная нейросеть NeONKA (NEural Omnimodal Network with Knowledge-Awareness), которая включает в себя модели ruGPT-3.5, Kandinsky 2.1, ruCLIP и FRED-T5.

81 Скриншот: GigaChat / Skillbox MediaМодель обучена на большом количестве текстовых данных на русском языке и решает различные задачи пользователей: ведёт с ними диалог, пишет код, рисует изображения и так далее.

82 <a>Китайский чат-бот</a>, представленный в 2023 году компанией Baidu. ERNIE Bot был разработан на основе моделей серии<a>ERNIE</a>(enhanced representation through knowledge integration) и PLATO (pre-trained dialogue generation model).

83 Среди ключевых технологий -<a>дообучение</a>с учителем (supervised fine-tuning),<a>обучение с подкреплением на основе человеческих предпочтений</a>(reinforcement learning with human feedback), обучение на основе запросов (prompt learning), knowledge enhancement, retrieval enhancement и dialogue enhancement.

84 Ernie Bot ориентирован на китайский рынок и используется преимущественно внутри страны. Его главная особенность и отличие от конкурентов - отличное понимание китайского языка за счёт обучения на большом локальном наборе данных.

85 <a>Чат-бот</a>выпущенный в 2023 году командой компании "Яндекс" и находящийся на этапе тестирования. Работает на основе<a>YandexGPT</a>, которая тестируется с июля 2023 года. Чат-бот уже интегрирован в голосовой помощник "Алиса" и "Яндекс Браузер".

86 Если коротко, то вся эта история с чат-ботами стремительно движется к так называемому<a>универсальному искусственному интеллекту</a>. Это видно по анонсам<a>GPT-4 Turbo</a>от Open AI и <a>Grok</a>от X. Новые модели не просто дают более точные ответы на запросы пользователей, но и учатся взаимодействовать с модальностями, отличными от текста, например с изображения или видео.

87 Интерес к чат-ботам проявляют не только пользователи и компании, но и учёные, которые продолжают исследовать и улучшать большие языковые модели, лежащие в основе современных чат-ботов.

88 Просто взгляните, как с 2016 года выросло число научных публикаций по этой теме:

89 Результаты поиска в Scopus - крупнейшем архиве научных публикаций. Начиная с 1998 года начинается медленный рост числа статей, а с 2016 года он становится почти экспоненциальным. Поиск выполнен по ключевым словам "чат-бот", "разговорный агент" или "разговорный интерфейс"Инфографика: Skillbox Media (Источник:<a>Machine Learning with Applications</a>)Лидеры по числу исследований в области интеллектуальных помощников - США и Великобритания:

90 Распределение стран по числу научных публикаций. Поиск выполнен по ключевым словам "чат-бот", "разговорный агент" или "разговорный интерфейс"Инфографика: Skillbox Media (Источник:<a>Machine Learning with Applications</a>)Но не стоит списывать со счетов и другие страны, чат-боты которых ориентированы в первую очередь на локальный рынок, например Россию и Китай. В обеих странах существуют свои виртуальные помощники, обученные на большом объёме местных текстов, что делает их ответы точнее для пользователей, использующих локальный язык.

91 <a>Бесплатный курс по Python ➞Мини-курс для новичков и для опытных кодеров. 4 крутых проекта в портфолио, живое общение со спикером. Кликните и узнайте, чему можно научиться на курсе. Смотреть программу</a>