Ofcom предупреждает технологические компании о безопасности чат-ботов 🤖⚖️

Британский регулятор связи Ofcom выпустил предупреждение для технологических компаний о том, что контент, созданный чат-ботами, имитирующими реальных или вымышленных людей, может подпадать под новые цифровые законы Великобритании.

Новые правила для чат-ботов 📜

Ofcom уточнил, что платформы, позволяющие пользователям создавать собственные чат-боты, автоматически подпадают под действие Online Safety Act. Это касается как ботов, имитирующих известных персонажей или реальных людей, так и пользовательского контента, распространяемого через социальные сети и мессенджеры.

Компании, нарушающие закон, рискуют штрафом до £18 млн или 10% мирового оборота. В крайних случаях сайты и приложения могут быть заблокированы.

Причины и примеры ⚠️

Регулятор отметил несколько случаев, когда пользователи создавали чат-ботов, имитирующих известных людей или персонажей. Такие ситуации вызвали обеспокоенность экспертов по цифровой безопасности и подчеркнули потенциальный вред для пользователей.

Согласно новым правилам, платформы обязаны защищать пользователей, особенно детей, от незаконного и потенциально опасного контента. Крупные платформы должны внедрять системы для проактивного удаления такого контента, предоставлять удобные инструменты для жалоб и проводить оценки рисков.

Комментарии экспертов и компаний 💬

Юристы отмечают, что необходимость разъяснений от Ofcom отражает сложность и широкий охват нового закона. Появление чат-ботов и инструментов генеративного ИИ создало новые вызовы для регулирования.

Компания Character.AI заявила, что принимает безопасность на платформе всерьёз и модерирует контент как проактивно, так и в ответ на жалобы пользователей. Проблемные боты уже были удалены.

Поддержка пользователей 🌐

Ofcom напоминает о доступных службах поддержки для людей, испытывающих трудности:

• Великобритания и Ирландия: Samaritans, бесплатный номер 116 123, email jo@samaritans.org / jo@samaritans.ie
• США: Национальная линия предотвращения кризисов 988, чат на 988lifeline.org, SMS HOME на 741 741
• Австралия: Lifeline, 13 11 14
• Международные службы поддержки: befrienders.org

Новые правила направлены на то, чтобы технологические компании создавали безопасную среду для пользователей и минимизировали риск распространения вредоносного контента через чат-боты.