Искусственный интеллект создает все более реалистичные изображения: отчет надзорного органа

Надзорный орган в сфере интернет-безопасности сообщил о значительном улучшении качества изображений, созданных с помощью искусственного интеллекта.

По данным Internet Watch Foundation (IWF), развитие технологий ИИ напрямую влияет на качество нелегального контента. В ежегодном отчете организации отмечается, что в 2024 году качество видеоматериалов, созданных с помощью ИИ, выросло в геометрической прогрессии.

Статистика нарушений показывает тревожную динамику: в 2024 году было получено 245 сообщений о материалах, нарушающих законодательство Великобритании, что на 380% больше по сравнению с 51 случаем в 2023 году. Эти сообщения включали 7 644 изображения и небольшое количество видеоматериалов.

Особую обеспокоенность вызывает тот факт, что наиболее серьезные материалы (категория А) составили 39% от всего обнаруженного контента.

В ответ на растущую проблему правительство Великобритании приняло решение запретить владение, создание и распространение инструментов ИИ, предназначенных для генерации подобного контента. Также будет запрещено распространение руководств по использованию ИИ для создания незаконных материалов.

Важный аспект проблемы заключается в том, что материалы, созданные с помощью ИИ, все чаще появляются не только в даркнете, но и в открытом интернете. По словам экспертов IWF, некоторые материалы настолько реалистичны, что даже профессиональные аналитики не могут отличить их от настоящих изображений.

Дополнительные меры безопасности включают запуск нового инструмента Image Intercept, который бесплатно предоставляется небольшим веб-платформам. Этот инструмент способен обнаруживать и блокировать изображения из базы данных IWF, содержащей 2,8 миллиона помеченных материалов.

Представители власти отмечают, что угрозы в интернете постоянно эволюционируют, и внедрение инновационных решений, таких как Image Intercept, является важным шагом в обеспечении безопасности онлайн-пространства для детей.