0 added
0 removed
Original
2026-01-01
Modified
2026-02-21
1
<p>Онлайн-журнал для тех, кто влюблён в код и информационные технологии. Пишем для айтишников и об айтишниках.</p>
1
<p>Онлайн-журнал для тех, кто влюблён в код и информационные технологии. Пишем для айтишников и об айтишниках.</p>
2
<p>В то время как Маск<a>создаёт "первый гуманный ИИ"</a>в пику Microsoft и OpenAI, тёмная сторона не сидит сложа руки. На днях хакеры<a>выпустили</a>своего чат-бота, который будет помогать киберпреступникам создавать вредоносное ПО и проводить кибератаки, - называется эта неэтичная нейронка WormGPT.</p>
2
<p>В то время как Маск<a>создаёт "первый гуманный ИИ"</a>в пику Microsoft и OpenAI, тёмная сторона не сидит сложа руки. На днях хакеры<a>выпустили</a>своего чат-бота, который будет помогать киберпреступникам создавать вредоносное ПО и проводить кибератаки, - называется эта неэтичная нейронка WormGPT.</p>
3
<p>По сути, WormGPT - это полный аналог ChatGPT, Bard, Bing и других похожих нейросетей, но без этических и юридических границ. Например, можно запросто попросить его написать скрипт на Python, который похищает логины, пароли и IP-адреса пользователей, а затем отправляет их мошеннику.</p>
3
<p>По сути, WormGPT - это полный аналог ChatGPT, Bard, Bing и других похожих нейросетей, но без этических и юридических границ. Например, можно запросто попросить его написать скрипт на Python, который похищает логины, пароли и IP-адреса пользователей, а затем отправляет их мошеннику.</p>
4
WormGPT создаёт шпионскую программу<em>Изображение: Public Domain</em><p>Ещё один пример: разработчики из SlashNext попросили чат-бота написать фишинговое письмо, которое приходит сотруднику на рабочую почту от имени директора, с просьбой перевести деньги по указанным реквизитам.</p>
4
WormGPT создаёт шпионскую программу<em>Изображение: Public Domain</em><p>Ещё один пример: разработчики из SlashNext попросили чат-бота написать фишинговое письмо, которое приходит сотруднику на рабочую почту от имени директора, с просьбой перевести деньги по указанным реквизитам.</p>
5
Фишинговое письмо, сгенерированное WormGPT<em>Изображение: Public Domain</em><p>Вот как прокомментировали работу чат-бота в SlashNext:</p>
5
Фишинговое письмо, сгенерированное WormGPT<em>Изображение: Public Domain</em><p>Вот как прокомментировали работу чат-бота в SlashNext:</p>
6
<p>"Результаты были тревожными. WormGPT создал письмо, которое было не только удивительно убедительным, но и стратегически хитрым, что продемонстрировало потенциал чат-бота в проведении изощрённых фишинговых и BEC-атак. Этот эксперимент подчёркивает значительную угрозу, которую представляют технологии генеративного ИИ даже в руках начинающих киберпреступников".</p>
6
<p>"Результаты были тревожными. WormGPT создал письмо, которое было не только удивительно убедительным, но и стратегически хитрым, что продемонстрировало потенциал чат-бота в проведении изощрённых фишинговых и BEC-атак. Этот эксперимент подчёркивает значительную угрозу, которую представляют технологии генеративного ИИ даже в руках начинающих киберпреступников".</p>
7
<p>К счастью, стоит это удовольствие совсем недёшево: разработчик чат-бота оценивает использование своего детища в 60 евро в месяц - или около 550 евро в год. Да и отзывы на нейронку пока довольно смешанные - покупатели жалуются, что за такую цену она могла бы приносить и больше выгоды.</p>
7
<p>К счастью, стоит это удовольствие совсем недёшево: разработчик чат-бота оценивает использование своего детища в 60 евро в месяц - или около 550 евро в год. Да и отзывы на нейронку пока довольно смешанные - покупатели жалуются, что за такую цену она могла бы приносить и больше выгоды.</p>
8
<p>Внутри у WormGPT крутится языковая модель GPT-J, которая, по сути, является полной копией нейросети GPT-3 от OpenAI. Чтобы добавить нейросети "злодейский" функционал, создатели обучили её на данных о создании вредоносных программ - ну и бонусом "забыли" подключить некоторые фильтры, которые добавляют ChatGPT флёр добропорядочности.</p>
8
<p>Внутри у WormGPT крутится языковая модель GPT-J, которая, по сути, является полной копией нейросети GPT-3 от OpenAI. Чтобы добавить нейросети "злодейский" функционал, создатели обучили её на данных о создании вредоносных программ - ну и бонусом "забыли" подключить некоторые фильтры, которые добавляют ChatGPT флёр добропорядочности.</p>
9
<p>Впрочем, как оказалось, фильтры эти легко обходятся, и тогда даже самый неиспорченный чат-бот становится достойным напарником хакера. Ранее<a>мы писали</a>о том, что при тонкой настройке и сам ChatGPT может создавать малвари, которые легко обходят антивирусы и системы безопасности.</p>
9
<p>Впрочем, как оказалось, фильтры эти легко обходятся, и тогда даже самый неиспорченный чат-бот становится достойным напарником хакера. Ранее<a>мы писали</a>о том, что при тонкой настройке и сам ChatGPT может создавать малвари, которые легко обходят антивирусы и системы безопасности.</p>
10
<a><b>Бесплатный курс по Python ➞</b>Мини-курс для новичков и для опытных кодеров. 4 крутых проекта в портфолио, живое общение со спикером. Кликните и узнайте, чему можно научиться на курсе. Смотреть программу</a>
10
<a><b>Бесплатный курс по Python ➞</b>Мини-курс для новичков и для опытных кодеров. 4 крутых проекта в портфолио, живое общение со спикером. Кликните и узнайте, чему можно научиться на курсе. Смотреть программу</a>