Ofcom предупреждает технологические компании о рисках чатботов 🤖⚠️

Британский регулятор Ofcom выпустил предупреждение для технологических компаний о том, что чатботы, имитирующие реальных или вымышленных людей, могут нарушать новые цифровые законы Великобритании.

Руководство было выпущено после того, как пользователи платформы Character.AI создали аватары, имитирующие погибших подростков. Ofcom подчеркнул, что контент, созданный такими чатботами, подпадает под действие Закона о безопасности в интернете (Online Safety Act).

Без упоминания конкретной компании-резидента США, Ofcom уточнил, что любая платформа или приложение, позволяющее пользователям создавать собственные чатботы для взаимодействия других людей, подпадает под действие закона. Это касается сервисов, предоставляющих инструменты для создания чатботов, имитирующих реальных или вымышленных людей, которые могут быть добавлены в библиотеку для взаимодействия другими пользователями.

Кроме того, любые платформы, где пользователи могут делиться контентом, созданным чатботом, также попадают под регулирование. Нарушение закона грозит штрафами до £18 млн или 10% годового оборота компании, а в крайних случаях — блокировкой сайта или приложения.

Ofcom указал на случаи, вызвавшие обеспокоенность, включая чатботы, имитирующие британских подростков, погибших при трагических обстоятельствах, а также случай в США, когда подросток взаимодействовал с чатботом, основанным на персонаже сериала Game of Thrones.

Новые правила онлайн-безопасности, которые полностью вступят в силу в следующем году, обяжут платформы защищать пользователей, особенно детей, от незаконного и потенциально вредного контента. Крупнейшие платформы должны будут внедрить системы для проактивного удаления опасного материала, предоставлять удобные инструменты для жалоб и проводить оценку рисков.

Благотворительный фонд Molly Rose Foundation (MRF), основанный семьёй погибшей девушки, отметил, что предупреждение Ofcom ясно сигнализирует о потенциальном вреде от чатботов, однако требуется больше ясности относительно того, как бот-контент классифицируется как незаконный.

Компания Character.AI заявила, что серьёзно относится к безопасности на платформе и модерирует контент как проактивно, так и по жалобам пользователей. Чатботы, имитирующие упомянутых подростков и персонажей сериалов, уже были удалены.

💬 В Великобритании и Ирландии для поддержки можно обратиться к Samaritans: 116 123 (бесплатно), email: jo@samaritans.org / jo@samaritans.ie.
В США доступна Национальная линия предотвращения самоубийств: 988, чат на 988lifeline.org, SMS HOME на 741741.
В Австралии — Lifeline: 13 11 14. Международные горячие линии — на сайте befrienders.org.