Расследование: как работает приложение ClothOff и кто стоит за ним 🕵️‍♂️💻

В последнее время внимание общественности привлекло приложение ClothOff, которое с помощью искусственного интеллекта позволяет изменять изображения людей. Случай в испанском городе Альмендралехо показал, насколько быстро такие технологии могут распространяться и влиять на жизнь подростков.

Медицинский работник Мириам аль-Адиб рассказала, что впервые узнала о проблеме, когда её дочь показала ей изображение, созданное с помощью приложения. Изображение выглядело настолько реалистично, что, если бы мать не знала точных особенностей тела ребёнка, она бы приняла его за настоящее фото. В городе несколько школьниц испытывали стресс, панические атаки и были подвергнуты давлению со стороны сверстников.

Прокуратура Испании рассматривает возможность привлечения к ответственности некоторых школьников, которые использовали приложение для создания изображений, однако личности разработчиков остаются неизвестными. Предполагается, что они находятся в Восточной Европе.

Расследование, проведённое Guardian в рамках подкаст-серии Black Box, выявило несколько имён и связей, которые могут быть связаны с ClothOff. След ведёт в Беларусь и Россию, а также проходит через компании, зарегистрированные в Европе и Лондоне.

Сайт ClothOff, который получает более 4 миллионов посещений в месяц, предлагает пользователям «раздеть кого угодно с помощью ИИ». За использование приложения взимается плата примерно £8,50 за 25 кредитов, позволяющих загружать фотографии и получать их изменённую версию.

Скриншоты показывают, что аккаунт в Telegram на имя Даши Бабичевой, предположительно проживающей в Минске, участвовал в управлении ClothOff, включая обсуждение финансовых и технических вопросов. Её брат, Александр Бабичев, также, по данным расследования, связан с приложением через дублирующий сайт AI-Imagecraft.

Дополнительные связи выявлены с онлайн-игровой платформой GGSel и фирмой GG Technology Ltd в Лондоне. При этом представители всех упомянутых компаний отрицали связь с ClothOff.

Развитие подобных технологий делает всё сложнее отличать реальных людей от цифровых идентичностей, которые могут сопровождаться фотографиями, видео и аудио высокого качества. Это вызывает серьёзные вопросы о безопасности и ответственности при использовании ИИ.

Великобритания заблокировала доступ к ClothOff, однако приложение по-прежнему доступно в других странах. Подробный рассказ о расследовании будет опубликован в следующем эпизоде подкаста Black Box.