Эксперты предупреждают: ИИ усложняет борьбу с онлайн-угрозами для детей ⚠️🤖

Развитие искусственного интеллекта открыло массу новых возможностей, но вместе с этим принесло и серьёзные риски. По словам специалистов по детской безопасности, технологии генерации изображений и текстов начинают активно использоваться злоумышленниками, и это создаёт новые вызовы для правоохранительных органов и организаций, работающих в сфере защиты детей.

В чём проблема

ИИ-системы способны создавать десятки тысяч изображений за короткое время. Это приводит к тому, что интернет переполняется контентом, который внешне выглядит как реальный, но при этом может быть полностью сгенерирован компьютером. В ряде случаев такие изображения настолько правдоподобны, что даже экспертам трудно сразу понять, связано ли оно с реальными пострадавшими.

Юристы и специалисты отмечают, что такие технологии позволяют «маскировать» данные, изменять фотографии или создавать их с нуля. Это затрудняет работу следователей: когда речь идёт о реальном преступлении, каждое лишнее изображение усложняет поиск настоящих жертв.

Угроза перегрузки систем

Организации, которые получают миллионы сообщений о подозрительных материалах в интернете, признаются: ресурсы уже работают на пределе. Появление генеративного ИИ грозит вызвать лавину новых обращений, среди которых будет всё сложнее находить реальные случаи, требующие немедленного вмешательства.

Ранее такие материалы удавалось отслеживать благодаря уникальным цифровым «отпечаткам» файлов, но любая модификация или новая генерация меняет этот код. В результате автоматическая проверка теряет эффективность.

Роль технологий и компаний

Исследователи отмечают, что проблема усугубилась в 2022 году, когда генеративный ИИ стал доступен широкой публике. Многие модели обучались на огромных базах изображений, и в некоторых из них уже встречались нежелательные материалы. Это привело к тому, что системы начали воспроизводить опасный контент.

Представители отрасли подчеркивают: компании-разработчики должны уделять больше внимания вопросам безопасности ещё на этапе создания ИИ. Если инструменты запускаются без надёжных фильтров, последствия могут быть масштабными и необратимыми.

Что предлагают эксперты

По мнению специалистов, для противодействия угрозам нужны:

• новые законы, регулирующие использование генеративного ИИ,
• больше человеческих модераторов, способных проверять контент вручную,
• тесное сотрудничество IT-компаний с правоохранительными органами и организациями по защите детей.

«Если крупные компании не выполняют даже базовых мер по проверке материалов, сложно рассчитывать, что они будут действовать на опережение без чётких правил и контроля», — отмечают эксперты.

Итог

ИИ становится мощным инструментом не только для прогресса, но и для тех, кто использует его во вред. Чтобы минимизировать риски, необходимо объединять усилия: от технологических компаний и законодателей до специалистов по безопасности. Только так можно сохранить баланс между развитием технологий и защитой людей, особенно детей, в цифровом пространстве.