0 added
0 removed
Original
2026-01-01
Modified
2026-02-21
1
<p>Онлайн-журнал для тех, кто влюблён в код и информационные технологии. Пишем для айтишников и об айтишниках.</p>
1
<p>Онлайн-журнал для тех, кто влюблён в код и информационные технологии. Пишем для айтишников и об айтишниках.</p>
2
<p><a>OpenAI анонсировала в своём блоге</a>возможность использования ChatGPT для модерации социальных сетей и сообществ. Представители компании говорят, что это не только позволит сократить расходы на управление контентом, но и повысит его качество.</p>
2
<p><a>OpenAI анонсировала в своём блоге</a>возможность использования ChatGPT для модерации социальных сетей и сообществ. Представители компании говорят, что это не только позволит сократить расходы на управление контентом, но и повысит его качество.</p>
3
<p>Предложенный метод для анализа материалов с использованием ChatGPT подробно описан в публикации:</p>
3
<p>Предложенный метод для анализа материалов с использованием ChatGPT подробно описан в публикации:</p>
4
<ul><li>Для GPT-4 определяются правила оценки сообщений и постов.</li>
4
<ul><li>Для GPT-4 определяются правила оценки сообщений и постов.</li>
5
<li>Они валидируются на тестовой выборке с примерами контента, которые могут нарушать или не нарушать их. Например, в правилах может быть указан запрет на выдачу инструкции по самостоятельному изготовлению оружия. Если в комментариях будет указана подобная информация, то её следует расценивать как однозначное нарушение.</li>
5
<li>Они валидируются на тестовой выборке с примерами контента, которые могут нарушать или не нарушать их. Например, в правилах может быть указан запрет на выдачу инструкции по самостоятельному изготовлению оружия. Если в комментариях будет указана подобная информация, то её следует расценивать как однозначное нарушение.</li>
6
<li>Эксперты вручную размечают примеры и передают каждый из них без разметки в GPT-4, наблюдая за тем, насколько метки модели совпадают с их собственным результатом.</li>
6
<li>Эксперты вручную размечают примеры и передают каждый из них без разметки в GPT-4, наблюдая за тем, насколько метки модели совпадают с их собственным результатом.</li>
7
<li>Если у экспертов возникают вопросы к выводам нейросети, то они могут попросить GPT-4 обосновать свои ответы. В случае выявления расхождений или неточностей изначальные правила могут быть скорректированы либо может быть проведена повторная разметка конкретного примера.</li>
7
<li>Если у экспертов возникают вопросы к выводам нейросети, то они могут попросить GPT-4 обосновать свои ответы. В случае выявления расхождений или неточностей изначальные правила могут быть скорректированы либо может быть проведена повторная разметка конкретного примера.</li>
8
</ul><p>Все шаги повторяются до тех пор, пока эксперты не будут удовлетворены ответами с учётом заданных правил. Этот процесс множественных итераций позволяет получить чётко сформированные правила, которые могут стать основой для классификаторов, используемых для модерации контента в социальных сетях и других сервисах.</p>
8
</ul><p>Все шаги повторяются до тех пор, пока эксперты не будут удовлетворены ответами с учётом заданных правил. Этот процесс множественных итераций позволяет получить чётко сформированные правила, которые могут стать основой для классификаторов, используемых для модерации контента в социальных сетях и других сервисах.</p>
9
Скриншот: OpenAI / Skillbox Media<p>Важно, что сама компания подчёркивает важность человеческого контроля за работой системы:</p>
9
Скриншот: OpenAI / Skillbox Media<p>Важно, что сама компания подчёркивает важность человеческого контроля за работой системы:</p>
10
<p>"Суждения, выносимые языковыми моделями, уязвимы для нежелательных предубеждений, которые могли быть внесены в модель в процессе обучения. Как и в случае с любым другим приложением, использующим искусственный интеллект, необходимо тщательно отслеживать, проверять и уточнять результаты, не выпуская из поля зрения человека, который участвовал в разработке и разметке данных".</p>
10
<p>"Суждения, выносимые языковыми моделями, уязвимы для нежелательных предубеждений, которые могли быть внесены в модель в процессе обучения. Как и в случае с любым другим приложением, использующим искусственный интеллект, необходимо тщательно отслеживать, проверять и уточнять результаты, не выпуская из поля зрения человека, который участвовал в разработке и разметке данных".</p>
11
<p><strong>Блог OpenAI</strong></p>
11
<p><strong>Блог OpenAI</strong></p>
12
<p>OpenAI позиционирует своё решение как уникальное. Но инструменты модерации на основе искусственного интеллекта существуют уже несколько лет. Например, Perspective, поддерживаемая технологической группой Google по противодействию оскорблениям, была запущена в 2017 году. И это не всё. Существует несколько десятков стартапов, предоставляющих автоматическую модерацию: Spectrum Labs, Cinder, Hive и Oterlu, который недавно приобрёл Reddit.</p>
12
<p>OpenAI позиционирует своё решение как уникальное. Но инструменты модерации на основе искусственного интеллекта существуют уже несколько лет. Например, Perspective, поддерживаемая технологической группой Google по противодействию оскорблениям, была запущена в 2017 году. И это не всё. Существует несколько десятков стартапов, предоставляющих автоматическую модерацию: Spectrum Labs, Cinder, Hive и Oterlu, который недавно приобрёл Reddit.</p>
13
<a><b>Бесплатный курс по Python ➞</b>Мини-курс для новичков и для опытных кодеров. 4 крутых проекта в портфолио, живое общение со спикером. Кликните и узнайте, чему можно научиться на курсе. Смотреть программу</a>
13
<a><b>Бесплатный курс по Python ➞</b>Мини-курс для новичков и для опытных кодеров. 4 крутых проекта в портфолио, живое общение со спикером. Кликните и узнайте, чему можно научиться на курсе. Смотреть программу</a>