OpenAI раскрыла использование ИИ для распространения дезинформации 🌐🤖

OpenAI в четверг представила первый в истории отчёт о том, как её инструменты искусственного интеллекта использовались для скрытых информационных кампаний. Компания заявила, что смогла пресечь несколько дезинформационных операций, исходивших из разных стран, включая Россию, Китай, Израиль и Иран.

По данным отчёта, злоумышленники использовали генеративные модели OpenAI для создания и публикации пропагандистского контента в социальных сетях, а также для перевода материалов на разные языки. При этом ни одна из кампаний не достигла широкой аудитории и не получила значимого отклика.

Рост индустрии генеративного ИИ вызвал обеспокоенность среди исследователей и законодателей по поводу возможности масштабирования дезинформации. Компании, создающие ИИ, включая OpenAI с её ChatGPT, пытаются устанавливать ограничения и защитные механизмы, чтобы снизить риски.

В 39-страничном отчёте OpenAI подробно описала пять операций за последние три месяца, связанных как с государственными, так и с частными структурами.

• В России две операции распространяли материалы, критикующие различные международные события, используя ИИ для создания кода и автоматизации публикаций.
• В Китае создавался текст на нескольких языках, включая английский, китайский, японский и корейский, который публиковался на популярных платформах.
• В Иране генерировались статьи, которые переводились на английский и французский.
• Израильская компания Stoic использовала сеть фейковых аккаунтов для публикации контента, обвиняющего различные события в предвзятости.

Отчёт подчёркивает, что ИИ использовался как вспомогательный инструмент, а не как единственный способ создания дезинформации. Вместе с материалами, созданными ИИ, публиковались традиционные тексты и мемы, что показывало комбинированный подход к созданию контента.

Хотя эти кампании не оказали заметного влияния, OpenAI отмечает, что ИИ упрощает масштабирование производства контента, облегчая написание, перевод и публикацию материалов. За последний год генеративный ИИ использовался злоумышленниками по всему миру для попыток влияния на общественное мнение, включая создание аудио и визуального контента.

Компания планирует регулярно публиковать отчёты о подобных операциях и продолжит удалять аккаунты, нарушающие её правила, чтобы минимизировать злоупотребления технологиями. 🛡️