Приложения с «нудификацией» и возможный запрет в Великобритании 📱⚖️

В Англии детский комиссар предложил запретить так называемые приложения с «нудификацией» для защиты детей от создания нежелательных изображений.

Что такое «нудификационные» приложения?
Это программы и сайты, использующие искусственный интеллект для генерации фальшивых изображений людей без одежды. С помощью таких инструментов можно «снимать» одежду с фото, анимационно двигать изображение или переносить лицо на другое тело. Результаты зачастую выглядят реалистично.

Чаще всего такие приложения обучены на больших наборах изображений женщин, поэтому около 99% материалов создаются с изображением женщин и девочек. Хотя незаконно владеть такими изображениями с участием детей, сами модели ИИ, которые их создают, пока не подпадают под запрет.

Как может работать запрет?
Комиссар предлагает законодательно запретить инструменты, разработанные или продвигаемые как сервисы «нудификации». Это можно сделать несколькими способами:

1. Через поправку к закону о безопасности продуктов, требующую от разработчиков ИИ оценивать риски незаконного и вредного использования своих продуктов и предотвращать их.
2. Через специальный закон об ИИ, который обяжет разработчиков тестировать свои модели на возможность создания опасного контента и не допускать его использования против детей.

Однако критики отмечают, что запрет может быть сложен для исполнения из-за постоянного улучшения ИИ, усложняющего различие между «реальными» и созданными ИИ изображениями.

Роль Закона о безопасности в интернете
Детский комиссар указывает, что действующий Закон о безопасности в интернете не полностью защищает детей, но риск можно частично снизить через работу регулятора Ofcom. Компании должны проверять возраст пользователей и проводить оценку рисков нового контента. Также предлагается ввести инструменты быстрого уведомления и удаления нежелательных изображений, созданных с помощью ИИ.

Дополнительные меры
В отчете предлагается включить тему технологии «нудификации» в образовательные программы по личной, социальной, экономической и здоровьесберегающей грамотности, чтобы дети понимали возможные риски и знали, как защитить себя.

📌 Цель всех мер — обеспечить безопасное использование технологий ИИ и защитить детей от потенциального вреда.