Опасность ИИ: фальшивые изображения детей угрожают интернету ⚠️💻

Новая волна искусственного интеллекта вызывает тревогу у специалистов по безопасности: технологии могут создавать фальшивые изображения детей в неподобающих ситуациях, и этот контент начинает стремительно распространяться в сети.

Британская организация Internet Watch Foundation (IWF) сообщила о почти 3 000 таких изображений, нарушающих законы Великобритании. По данным фонда, существующие изображения реальных детей, подвергшихся насилию, используются для обучения моделей ИИ, которые затем создают новые сцены. Кроме того, технологии применяются для «омоложения» изображений известных личностей и их последующего размещения в подобных сценариях.

Другие случаи включают использование ИИ для создания неподобающих изображений детей, исходно одетых на фотографиях. Ранее IWF предупреждала, что подобный контент может появляться, но последние данные показывают, что распространение ускорилось.

Генеральный директор IWF Сьюзи Харгривз отметила, что «наши худшие опасения стали реальностью». Она подчеркнула, что преступники используют изображения реальных жертв для обучения ИИ, создавая новые сцены, что усугубляет проблему.

Организация также обнаружила, что такие изображения иногда продаются в интернете. Исследование IWF охватило более 11 000 изображений на форуме в «тёмной сети», около 3 000 из которых нарушали британское законодательство.

По закону о защите детей 1978 года в Великобритании запрещены создание, хранение и распространение «неприличных фотографий или псевдофотографий» детей. Более 20 % найденного контента были признаны наиболее серьёзными категориями, включающими сцены насилия.

Эксперты IWF предупреждают, что массовое появление фальшивых изображений может отвлекать правоохранителей от выявления реальных случаев насилия и помощи жертвам. Главный технический директор IWF Дэн Секстон отметил, что на форуме обсуждалось использование публичного ИИ-инструмента для генерации изображений.

Компания Stability AI, создавшая модель Stable Diffusion, заявила о запрете использования платформы для незаконных или аморальных целей, включая детский контент. Правительство Великобритании подтвердило, что законодательство о безопасности в интернете будет охватывать и ИИ-контент, а социальные сети обязаны предотвращать его появление на своих платформах.

🌐 Итог: технология ИИ открывает новые возможности, но требует строгого контроля, чтобы предотвратить опасное и незаконное использование, особенно когда речь идёт о защите детей.