Ofcom предупреждает технологические компании о рисках чатботов 🤖⚠️

Британский регулятор связи Ofcom выпустил предупреждение для технологических компаний о том, что чатботы, имитирующие реальных и вымышленных людей, могут нарушать новые цифровые законы Великобритании. Это заявление последовало после того, как пользователи платформы Character.AI создали аватары, копирующие умерших британских подростков.

Ofcom подчеркнул, что контент, созданный пользователями с помощью чатботов, подпадает под действие закона о безопасности в интернете (Online Safety Act). Без упоминания конкретной американской компании, регулятор отметил, что любой сайт или приложение, позволяющее пользователям создавать чатботов для взаимодействия других людей, будет подпадать под закон.

«Это включает сервисы, которые предоставляют инструменты для создания чатботов, имитирующих личности реальных и вымышленных людей, с возможностью добавления их в библиотеку для взаимодействия с другими пользователями», — пояснили в Ofcom.

В письме регулятор также отметил, что любые платформы, где пользователи могут делиться контентом, сгенерированным чатботами, также будут подпадать под действие закона. Нарушители могут быть оштрафованы на сумму до £18 млн или 10% от глобального оборота компании. В крайних случаях сайт или приложение могут быть заблокированы.

Ofcom подчеркнул, что руководство выпущено после «тревожных случаев». Среди них — создание пользователями Character.AI чатботов по образу британских подростков, трагически ушедших из жизни, а также случай в США, когда подросток умер после общения с чатботом по мотивам персонажа сериала.

Новые правила онлайн-безопасности, которые начнут полностью действовать в следующем году, обяжут социальные сети и платформы, размещающие контент, созданный пользователями, защищать их от незаконного и потенциально опасного материала. Крупнейшие платформы должны будут создавать системы для проактивного удаления опасного контента, предоставлять пользователям удобные инструменты для жалоб и проводить оценку рисков.

Благотворительная организация Molly Rose Foundation, созданная семьёй одной из подростков, отметила, что выпущенное руководство сигнализирует о потенциальном вреде от чатботов. Однако требуется дальнейшая ясность по поводу того, может ли контент, созданный ботами, считаться незаконным в рамках закона.

Character.AI заявила, что серьёзно относится к вопросам безопасности и модерирует чатботов как проактивно, так и по жалобам пользователей. Чатботы, имитировавшие упомянутых подростков и персонажей сериала, были удалены.

💡 Для поддержки людей в кризисных ситуациях в разных странах доступны следующие горячие линии:

• Великобритания и Ирландия: Samaritans — 116 123, email: jo@samaritans.org / jo@samaritans.ie
• США: National Suicide Prevention Lifeline — звонок или SMS 988, чат на 988lifeline.org, текст HOME на 741 741
• Австралия: Lifeline — 13 11 14
• Другие международные горячие линии: befrienders.org