0 added
0 removed
Original
2026-01-01
Modified
2026-02-21
1
<p>Онлайн-журнал для тех, кто влюблён в код и информационные технологии. Пишем для айтишников и об айтишниках.</p>
1
<p>Онлайн-журнал для тех, кто влюблён в код и информационные технологии. Пишем для айтишников и об айтишниках.</p>
2
<p>Команда исследователей из Иллинойсского университета<a>рассказала</a>о новой способности языковой модели GPT-4 самостоятельно находить и использовать уязвимости нулевого дня. Речь идёт об ошибках в системах безопасности, о которых ранее не было известно.</p>
2
<p>Команда исследователей из Иллинойсского университета<a>рассказала</a>о новой способности языковой модели GPT-4 самостоятельно находить и использовать уязвимости нулевого дня. Речь идёт об ошибках в системах безопасности, о которых ранее не было известно.</p>
3
<p>Для поиска уязвимостей исследователи придумали новый метод под названием "иерархическое планирование с агентами, выполняющими конкретные задачи" (Hierarchical Planning and Task-Specific Agents, HPTSA).</p>
3
<p>Для поиска уязвимостей исследователи придумали новый метод под названием "иерархическое планирование с агентами, выполняющими конкретные задачи" (Hierarchical Planning and Task-Specific Agents, HPTSA).</p>
4
<p>Смысл метода в том, что для атаки на сайты используется не одна система, а целая когорта ИИ-ботов. Каждый бот заточен под конкретные уязвимости и знает, как успешно использовать их для взлома. GPT-4 в этом случае выступает в роли планировщика - языковая модель ищет на сайтах дыры в безопасности и направляет для взлома нужных агентов.</p>
4
<p>Смысл метода в том, что для атаки на сайты используется не одна система, а целая когорта ИИ-ботов. Каждый бот заточен под конкретные уязвимости и знает, как успешно использовать их для взлома. GPT-4 в этом случае выступает в роли планировщика - языковая модель ищет на сайтах дыры в безопасности и направляет для взлома нужных агентов.</p>
5
Архитектура системы HPTSA<em>Изображение:<a>Daniel Kang et al.</a>/ Teams of LLM Agents can Exploit Zero-Day Vulnerabilities /<a>Medium</a></em><p>Систему протестировали на 15 уязвимостях, которые были неизвестны модели GPT-4. С помощью HPTSA она смогла успешно атаковать 53% уязвимостей, в то время как обычная GPT-4 справилась лишь с 12%. По итогам тестов система HPTSA оказалась в 4,5 раза эффективнее.</p>
5
Архитектура системы HPTSA<em>Изображение:<a>Daniel Kang et al.</a>/ Teams of LLM Agents can Exploit Zero-Day Vulnerabilities /<a>Medium</a></em><p>Систему протестировали на 15 уязвимостях, которые были неизвестны модели GPT-4. С помощью HPTSA она смогла успешно атаковать 53% уязвимостей, в то время как обычная GPT-4 справилась лишь с 12%. По итогам тестов система HPTSA оказалась в 4,5 раза эффективнее.</p>
6
<p>И да, и нет. С одной стороны, хакеры получают в свои руки мощный инструмент для проведения автоматизированных кибератак. С другой - специалисты по безопасности могут использовать подобные системы для более частого и глубокого тестирования на проникновение.</p>
6
<p>И да, и нет. С одной стороны, хакеры получают в свои руки мощный инструмент для проведения автоматизированных кибератак. С другой - специалисты по безопасности могут использовать подобные системы для более частого и глубокого тестирования на проникновение.</p>
7
<p>По словам исследователей, у обычных пользователей нет повода для беспокойства: сама по себе GPT не генерирует ботов и не взламывает сайты. При ответе на вопрос о возможности эксплуатации уязвимостей чат-бот заявляет, что его цель - информирование в рамках этических границ и законодательных норм, и предлагает обратиться к специалистам по кибербезопасности.</p>
7
<p>По словам исследователей, у обычных пользователей нет повода для беспокойства: сама по себе GPT не генерирует ботов и не взламывает сайты. При ответе на вопрос о возможности эксплуатации уязвимостей чат-бот заявляет, что его цель - информирование в рамках этических границ и законодательных норм, и предлагает обратиться к специалистам по кибербезопасности.</p>
8
<a><b>Бесплатный курс по Python ➞</b>Мини-курс для новичков и для опытных кодеров. 4 крутых проекта в портфолио, живое общение со спикером. Кликните и узнайте, чему можно научиться на курсе. Смотреть программу</a>
8
<a><b>Бесплатный курс по Python ➞</b>Мини-курс для новичков и для опытных кодеров. 4 крутых проекта в портфолио, живое общение со спикером. Кликните и узнайте, чему можно научиться на курсе. Смотреть программу</a>