Опасности использования ИИ для создания запрещённого контента и меры безопасности ⚠️🤖

Организации по интернет-безопасности предупреждают, что технологии искусственного интеллекта (ИИ) могут быть использованы для создания незаконного и опасного контента, что представляет серьёзный вызов для онлайн-среды.

Британская организация Internet Watch Foundation (IWF) зафиксировала почти 3 000 изображений, созданных с помощью ИИ, которые нарушают законы Великобритании. Специалисты предупреждают, что новые технологии позволяют использовать существующие материалы и интегрировать их в модели ИИ для генерации новых изображений.

В некоторых случаях ИИ использовался для изменения изображений известных людей, делая их визуально моложе, и создания сцен, нарушающих законы. Кроме того, программы могут «обрабатывать» фотографии, чтобы создавать нежелательные визуальные эффекты.

IWF отмечает, что распространение таких материалов ускоряется. По словам главы организации Сюзи Харгривс, «ужасные прогнозы стали реальностью»: преступники используют ИИ для обработки изображений уже пострадавших людей, создавая новые опасные сценарии.

Исследование IWF охватило один месяц наблюдений за форумом в даркнете. Из 11 108 изображений, изученных на форуме, 2 978 нарушали законы Великобритании. Большинство нарушений подпадали под Protection of Children Act 1978, с категориями тяжести, включая самые серьёзные случаи, когда изображаются акты насилия.

Организация предупреждает, что массовое появление незаконного контента, созданного ИИ, может отвлечь правоохранительные органы от борьбы с реальными преступлениями и поддержкой пострадавших.

IWF также зафиксировала обсуждения использования открытых моделей ИИ, таких как Stable Diffusion, для генерации запрещённого контента. Разработчики таких инструментов заявляют о запрете на использование технологий в незаконных целях, а правительства работают над законами, которые требуют от платформ предотвращать появление подобного контента.

💡 Вывод: технологии ИИ несут огромный потенциал, но вместе с ним приходят риски. Контроль, правовое регулирование и ответственность разработчиков помогают минимизировать угрозы и защищать пользователей в интернете.