Rivalry2

HTML Diff

0 added 0 removed

Original 2026-01-01

Modified 2026-02-21

1 <a>#Мнения</a>

2 <ul><li>29 дек 2021</li>

3 <li>0</li>

4 </ul><h2>Новый уроборос: почему машины обязательно будут доминировать над человеком</h2>

5 Развитие искусственного интеллекта не остановить. Дрожим от страха и читаем, как так вышло. А потом бежим закупаться солью и туалетной бумагой.

6 Фанат Free Software Foundation, использует Linux и недолюбливает Windows. Пишет истории про кодинг и программы на Python. Влюблён в Lisp, но пока что не умеет на нём программировать.

7 Александр Нефёдов

8 об эксперте

9 Разрабатывает распределённые системы в энтерпрайзе. Стек - Java, Spring. Любит играть в теннис, лежать на диване и смотреть в потолок.

10 Я сторонник немного странного мнения и считаю, что в относительно скором времени машины будут интеллектуально доминировать над человеком. Причём я уверен, что это практически неизбежно. Не могу сказать, что мне самому эта мысль по душе, однако логика - вещь упрямая.

11 Когда я объясняю кому-то эту идею,<a>со мной редко соглашаются</a>. В противовес обычно приводят два основных аргумента. Их я и попробую разобрать.

12 Доля правды в этом есть, потому что мы сами до конца не понимаем, как он работает. Однако мы знаем - или как минимум у нас есть все основания так полагать, - что изначально интеллекта на планете не было. Он сформировался в ходе естественного отбора, эволюции. На это указывает, например, огромное многообразие самых разных нервных систем: от самых простых, состоящих из относительно небольшого количества нейронов до невероятно сложных - как у млекопитающих или человека.

13 Этот аргумент, по сути, подкрепляется только одним фактом: человек, став первым умником на планете, устранил всех своих конкурентов. Просто на всякий случай. Иначе у нас на планете было бы несколько видов разумных существ, а вопрос об исключительности человеческого интеллекта отпал бы сам собой.

14 Сложнейшая система, такая как человеческий мозг, не возникает просто так. Определённо тут должно было присутствовать некое серьёзное давление - давление внешней среды, которая фактически заставила мозг эволюционировать. Когда такого давления нет, организмы обычно прибегают к более примитивным способам выживания: так, быть самым сильным или самым быстрым гораздо менее затратно, чем быть самым умным. Но предки человека существовали в очень изменчивой среде, где без хитрости было не выжить.

15 А потом (хотя это могло произойти и раньше) люди стали применять хитрость друг против друга - и уроборос человечества стал пожирать свой хвост. Хитрость порождала сложность: чтобы выживать успешнее в очень сложной среде чрезвычайно хитрых сородичей, стало необходимостью быть хитрее. Задачи и вызовы, с которыми надо было работать, стремительно усложнялись, и за несколько миллионов лет мозг человека увеличился в 4-5 раз. Так появился человеческий интеллект.

16 Вывод простой: если на Земле уже появился один интеллект, то легко может появиться ещё один.

17 Эта группа аргументов звучит как вопрос. Действительно, если все знают, что искусственный интеллект опасен, зачем вообще его создавать?

18 Тут поможет аналогия: а зачем вообще создавать нечто опасное - ту же<a>ядерную бомбу</a>?

19 Ответ на самом деле прост. У человеческого интеллекта есть один интересный побочный эффект: люди всегда ищут более совершенные способы убивать других людей.

20 Уже в древние времена изготовление оружия, более эффективного, чем у противников, было одной из важнейших задач. Ею занимались лучшие умы человечества, потому что, если у другого племени дубинки окажутся лучше, у вас будут большие проблемы.

21 Так оружие постепенно усложнялось - и как только наука открывала что-то, что можно было использовать для убийства, это использовалось для убийства. Такое вот своеобразное rule 34 для всего, что несёт смерть.

22 Появилась возможность использовать железо - из него начали ковать мечи. Научились делать порох - появилось огнестрельное оружие. Сумели расщепить атом и увидели, насколько мощная энергия при этом высвобождается, - и появление ядерного оружия стало просто вопросом времени.

23 Кстати, Манхэттенский проект тоже был своего рода реакцией - реакцией на полученные от разведки данные о том, что нацистские учёные уже пытаются разработать ядерное оружие. То есть вопроса, делать или не делать ядерную бомбу, вообще не было - был лишь вопрос, кто сделает её быстрее.

24 Как и ядерное оружие, технологии машинного обучения приносят своим создателям и обладателям преимущества. Преимущества эти могут быть менее заметны по сравнению с гигантским ядерным грибом (хотя найти для машинного интеллекта подходящие боевые задачи может даже первоклассник), но они не менее весомы. Причина простая: они помогают человеку принимать более успешные решения, быть хитрее остальных или тратить меньше денег на сотрудников, которых легко можно заменить машиной.

25 Хитрость же, как мы помним, порождает сложность. А сложность, в свою очередь, порождает ещё большую хитрость. Поэтому и в случае искусственного интеллекта мы снова видим того же уробороса, пожирающего свой хвост. То есть у человечества появился чрезвычайно мощный стимул разрабатывать всё более и более умные машины. И опять не стоит вопрос, делать их или не делать, - есть лишь вопрос, кто окажется быстрее.

26 Что мы имеем в сухом остатке: отсутствие фундаментальных препятствий и превосходную мотивацию производить машины, которые смогут самостоятельно принимать всё более и более сложные решения, будут всё ближе и ближе к человеку. А следовательно, машины точно превзойдут человека в интеллекте - вопрос только,<a>когда именно</a>.

27 <a>Научитесь: Философия искусственного интеллекта Узнать больше</a>