США: подозреваемый использовал ИИ для создания запрещённых изображений, ФБР расследует ⚖️💻

ФБР предъявило обвинения Стивену Андерреггу, жителю США, в создании более 10 000 запрещённых изображений с участием детей, которые, как утверждают следователи, были сгенерированы с помощью популярного инструмента искусственного интеллекта. Мужчина также обвиняется в отправке этих изображений несовершеннолетнему через Instagram✱.

Согласно материалам дела, Андеррегг создал около 13 000 «гиперреалистичных изображений», на которых дети изображены в неприемлемых ситуациях. Проверка его ноутбука выявила использование модели Stable Diffusion, которая преобразует текстовые описания в изображения.

Обвинения последовали после того, как Национальный центр по работе с пропавшими и эксплуатируемыми детьми (NCMEC) получил два сообщения о его аккаунте в Instagram✱ и уведомил правоохранительные органы. После обыска на ноутбуке нашли тысячи изображений и доказательства использования очень точных и явных текстовых подсказок для генерации запрещённого контента.

Андерреггу предъявлены четыре обвинения: создание, распространение и хранение запрещённого материала, а также отправка его несовершеннолетнему. В случае признания виновным ему грозит до 70 лет тюрьмы. СМИ отмечают, что это один из первых случаев, когда ФБР предъявляет обвинения за создание такого материала с помощью ИИ.

Специалисты по безопасности детей и исследователи ИИ давно предупреждали, что генеративные технологии могут увеличить количество запрещённых материалов. В 2023 году сообщения о таких нарушениях в NCMEC выросли примерно на 12%, частично из-за ИИ-сгенерированного контента, что создало нагрузку на систему уведомлений.

Власти США напоминают: создание и распространение такого контента незаконно, независимо от того, сгенерировано оно ИИ или создано традиционными способами. Заместитель генпрокурора Лиза Монако подчеркнула:
«Материалы с детьми, созданные ИИ, остаются запрещёнными, и мы будем привлекать к ответственности тех, кто использует ИИ для создания неприемлемых изображений».

Разработчики модели Stable Diffusion заявили, что запрещают использование своего инструмента для незаконного контента, и с 2022 года внедрили дополнительные меры безопасности.

Если вы стали свидетелем нарушений или нуждаетесь в помощи, в США можно обратиться на Childhelp Abuse Hotline по телефону 800−422−4453, в Великобритании — в NSPCC на 0800 1111, в Австралии — в Kids Helpline на 1800 55 1800.

Эта история подчёркивает, насколько важно контролировать использование технологий ИИ и защищать детей от потенциально опасного контента 🛡️👶.

        * Упомянутые организации запрещены на территории РФ