В Великобритании предлагают запретить приложения для «нюдификации» детей 📵🛡️

Детский комиссар Англии призывает к запрету так называемых приложений для «нюдификации», которые с помощью искусственного интеллекта создают сексуализированные изображения людей, включая детей.

Что такое «нюдификация»?

Технологии генеративного ИИ позволяют создавать «deepfake»-изображения, где на фото человека «убирают одежду», изменяют позу или совмещают голову с обнажённым телом. Такие изображения часто выглядят крайне реалистично.

Приложения для «нюдификации» обучаются на огромных наборах данных, в основном на изображениях женщин, из-за чего около 99% доступных в интернете сексуальных deepfake-материалов относятся к женщинам и девушкам. Хотя владение контентом с изображением детей незаконно, сами модели ИИ пока не запрещены.

Как может работать запрет?

Детский комиссар предлагает обязать законодательство запретить ИИ-инструменты, разработанные или рекламируемые как сервисы для «нюдификации».

Возможные механизмы включают:

• Поправку к закону о безопасности продукции, которая потребует от разработчиков генеративного ИИ проводить оценку рисков и предотвращать незаконное использование.
• Введение нового закона об ИИ, который возложит на провайдеров моделей ответственность за предотвращение их применения для создания нежелательного контента с детьми.

Критики предупреждают, что запрет может быть сложен в исполнении, так как модели ИИ совершенствуются, и различить «реальные» и созданные ИИ материалы становится всё труднее.

Роль Online Safety Act

Детский комиссар отмечает, что текущий закон о безопасности в интернете не обеспечивает полной защиты детей, но риски частично снижаются благодаря контролю Ofcom. Поставщики контента обязаны проверять возраст пользователей, однако это не предотвращает создание изображений детей взрослыми.

В отчёте предлагается:

• Разработать инструменты для быстрого удаления интимного контента, включая созданный ИИ.
• Включить информацию о сексуальных deepfake-технологиях в школьные курсы по личной, социальной и экономической грамотности (PSHE).
• Требовать от технологических компаний активной оценки и снижения рисков для детей.

Эксперты подчеркивают, что запрет и меры контроля должны идти вместе с образованием и поддержкой детей, чтобы минимизировать возможный вред в цифровой среде.