Растет количество опасного контента в интернете с использованием ИИ: данные отчета 📊⚠️

По последним данным Национального центра по делам пропавших и подвергшихся эксплуатации детей (NCMEC, США), контент, связанный с сексуальной эксплуатацией детей, продолжает увеличиваться в интернете, причем появляются новые формы, включая изображения и видео, созданные с помощью искусственного интеллекта.

В 2023 году количество сообщений о подозрительном контенте выросло более чем на 12% по сравнению с предыдущим годом и превысило 36,2 млн обращений. Большая часть сообщений касалась распространения фотографий и видео сексуальной эксплуатации детей, однако также отмечался рост случаев финансового шантажа, когда злоумышленники вынуждают несовершеннолетних отправлять интимные материалы и требуют деньги.

Согласно отчету NCMEC, центр получил 4 700 сообщений о материалах сексуальной эксплуатации детей, созданных с помощью генеративного ИИ. Это новый тип отчетов, который начали отслеживать только в 2023 году. В отчете подчеркивается, что создание подобных материалов незаконно в США, а также наносит серьезный вред детям и их семьям. Использование ИИ для генерации подобных материалов затрудняет идентификацию реальных жертв.

Всего в 2023 году более 35,9 млн отчетов касались предполагаемых случаев детской сексуальной эксплуатации, из которых около 1,1 млн были переданы в полицию США, а 63 892 случая считались срочными и включали детей в непосредственной опасности. Сообщения о попытках вовлечь детей в опасные действия увеличились на 300% по сравнению с 2022 годом.

Наибольшее количество отчетов поступило от социальных платформ: Facebook✱ — 17,8 млн, Instagram✱ — 11,4 млн, WhatsApp✱ — 1,38 млн, Google — 1,47 млн, Snapchat — 713 тыс., TikTok — 590 тыс., Twitter — 597 тыс. В целом 245 компаний прислали отчеты в NCMEC из примерно 1 600 зарегистрированных участников программы.

Центр отмечает, что существует разрыв между количеством отчетов и их качеством: многие сообщения, созданные автоматически алгоритмами модерации контента, не могут быть обработаны правоохранительными органами без участия человека, что мешает своевременному выявлению опасных ситуаций.

Отчет подчеркивает необходимость дальнейших действий со стороны правительства и международного технологического сообщества для улучшения системы отчетности и защиты детей.

📞 Горячие линии и ресурсы помощи:

• США: Childhelp Abuse Hotline 800−422−4453, NCMEC CyberTipline
• Великобритания: NSPCC 0800 1111 (дети), 0808 800 5000 (для взрослых о ребенке), Napac 0808 801 0331 (взрослые)
• Австралия: Kids Helpline 1800 55 1800, Bravehearts 1800 272 831, Blue Knot Foundation 1300 657 380

Эти ресурсы помогают детям, родителям и взрослым в случае подозрения на эксплуатацию или опасный контент.

        * Упомянутые организации запрещены на территории РФ