0 added
0 removed
Original
2026-01-01
Modified
2026-02-21
1
<p>Эксперт американского сообщества специалистов в сфере образовательных технологий EdTech Insiders<strong>Алекс Сарлин</strong>(ранее работал в таких EdTech-компаниях, как Coursera и 2U, теперь занимается консультированием в сфере EdTech)<a>проанализировал</a>, какие стратегии защиты от негативных последствий использования генеративных нейросетей в образовании применяются сегодня. С его точки зрения, требуется новая модель, которая позволит адаптировать существующие инструменты на основе ИИ для безопасной работы в школах.</p>
1
<p>Эксперт американского сообщества специалистов в сфере образовательных технологий EdTech Insiders<strong>Алекс Сарлин</strong>(ранее работал в таких EdTech-компаниях, как Coursera и 2U, теперь занимается консультированием в сфере EdTech)<a>проанализировал</a>, какие стратегии защиты от негативных последствий использования генеративных нейросетей в образовании применяются сегодня. С его точки зрения, требуется новая модель, которая позволит адаптировать существующие инструменты на основе ИИ для безопасной работы в школах.</p>
2
<p>Использование инструментов на основе генеративных нейросетей в образовании вызывает у многих опасения и из-за того, что привычка полагаться на подсказки ИИ может<a>негативно сказаться</a>на результатах обучения, и по другим причинам. В частности, нейросети "галлюцинируют", и среди выданной ими ложной информации может быть что-то потенциально опасное для учащихся. Или нейросети могут быть не приспособлены для взаимодействия с детьми.</p>
2
<p>Использование инструментов на основе генеративных нейросетей в образовании вызывает у многих опасения и из-за того, что привычка полагаться на подсказки ИИ может<a>негативно сказаться</a>на результатах обучения, и по другим причинам. В частности, нейросети "галлюцинируют", и среди выданной ими ложной информации может быть что-то потенциально опасное для учащихся. Или нейросети могут быть не приспособлены для взаимодействия с детьми.</p>
3
<p>Сегодня для того, чтобы избежать отрицательных последствий применения ИИ-инструментов в образовании, по словам Алекса Сарлина, используется несколько стратегий:</p>
3
<p>Сегодня для того, чтобы избежать отрицательных последствий применения ИИ-инструментов в образовании, по словам Алекса Сарлина, используется несколько стратегий:</p>
4
<ul><li>Формируется белый список приложений (то есть разрешённых в школах инструментов) с опорой на ограничения, которые уже существуют в приложениях.</li>
4
<ul><li>Формируется белый список приложений (то есть разрешённых в школах инструментов) с опорой на ограничения, которые уже существуют в приложениях.</li>
5
<li>Работа учащихся с применением ИИ-инструментов ограничивается только конкретными заданиями учителя.</li>
5
<li>Работа учащихся с применением ИИ-инструментов ограничивается только конкретными заданиями учителя.</li>
6
<li>Педагог включается в цепочку "инструмент - студент" для проверки запросов учащихся или ответов нейросети.</li>
6
<li>Педагог включается в цепочку "инструмент - студент" для проверки запросов учащихся или ответов нейросети.</li>
7
<li>Действия учащихся в самих ИИ-инструментах контролируются и отслеживаются.</li>
7
<li>Действия учащихся в самих ИИ-инструментах контролируются и отслеживаются.</li>
8
</ul><p>Эксперт считает, что все эти ограничения неэффективны: они или попросту ненадёжны, или требуют слишком больших трудозатрат. Он предлагает обеспечивать безопасность ИИ-инструментов, по-другому оценивая их.</p>
8
</ul><p>Эксперт считает, что все эти ограничения неэффективны: они или попросту ненадёжны, или требуют слишком больших трудозатрат. Он предлагает обеспечивать безопасность ИИ-инструментов, по-другому оценивая их.</p>
9
<p>Эксперт предлагает смотреть, как нейросеть отвечает на реальные промпты учащихся. Именно эти ответы должны проверять педагоги, детские психологи, консультанты и другие специалисты сферы образования. Такая экспертиза позволит оценивать новые инструменты или генеративные модели, и её можно адаптировать для оценки изображений и видео. Порядок такой сертификации можно закрепить в законе или в политике закупок учебного заведения.</p>
9
<p>Эксперт предлагает смотреть, как нейросеть отвечает на реальные промпты учащихся. Именно эти ответы должны проверять педагоги, детские психологи, консультанты и другие специалисты сферы образования. Такая экспертиза позволит оценивать новые инструменты или генеративные модели, и её можно адаптировать для оценки изображений и видео. Порядок такой сертификации можно закрепить в законе или в политике закупок учебного заведения.</p>
10
<p>Алекс Сарлин назвал критические темы, реакцию нейросети на которые требуется проверять детально:</p>
10
<p>Алекс Сарлин назвал критические темы, реакцию нейросети на которые требуется проверять детально:</p>
11
<ul><li>темы, связанные с буллингом и кибербуллингом;</li>
11
<ul><li>темы, связанные с буллингом и кибербуллингом;</li>
12
<li>темы, связанные с насилием;</li>
12
<li>темы, связанные с насилием;</li>
13
<li>поиск чьих-то персональных данных;</li>
13
<li>поиск чьих-то персональных данных;</li>
14
<li>попытки списывания и так далее.</li>
14
<li>попытки списывания и так далее.</li>
15
</ul><p>Цель в том, чтобы ИИ-инструменты не выдавали, например, инструкций по обращению с оружием ни при прямом запросе, ни даже если пользователь пытается схитрить и пишет, что детальное описание нужно для сочинения.</p>
15
</ul><p>Цель в том, чтобы ИИ-инструменты не выдавали, например, инструкций по обращению с оружием ни при прямом запросе, ни даже если пользователь пытается схитрить и пишет, что детальное описание нужно для сочинения.</p>
16
<p>Чтобы нейросети могли пройти такую проверку, придётся создать принципиально новые датасеты для их обучения. По мнению Алекса Сарлина, такой проект мог бы систематизировать экспертные знания профессиональных педагогов и психологов и действительно обеспечить безопасность учащихся в работе с ИИ-инструментами, при этом не ограничивая их в творчестве.</p>
16
<p>Чтобы нейросети могли пройти такую проверку, придётся создать принципиально новые датасеты для их обучения. По мнению Алекса Сарлина, такой проект мог бы систематизировать экспертные знания профессиональных педагогов и психологов и действительно обеспечить безопасность учащихся в работе с ИИ-инструментами, при этом не ограничивая их в творчестве.</p>
17
<p>Ранее в США было<a>выпущено</a>руководство для поставщиков образовательных технологий на основе ИИ. В нём говорится об "общей ответственности" EdTech-компаний за разрабатываемые инструменты. В документе выделено пять ключевых областей, которые поставщики образовательных технологий должны учитывать при совместной работе со школами.</p>
17
<p>Ранее в США было<a>выпущено</a>руководство для поставщиков образовательных технологий на основе ИИ. В нём говорится об "общей ответственности" EdTech-компаний за разрабатываемые инструменты. В документе выделено пять ключевых областей, которые поставщики образовательных технологий должны учитывать при совместной работе со школами.</p>
18
<p>Больше интересного про образование ― в нашем<a>телеграм-канале</a>. Подписывайтесь!</p>
18
<p>Больше интересного про образование ― в нашем<a>телеграм-канале</a>. Подписывайтесь!</p>