Искусственный интеллект и безопасность детей: рост опасного контента в сети ⚠️💻

Контент, созданный с помощью технологий искусственного интеллекта (ИИ), всё чаще появляется в открытом интернете и вызывает серьёзную обеспокоенность у специалистов по интернет-безопасности. По данным британской организации Internet Watch Foundation (IWF), количество обнаруженного ИИ-контента, нарушающего законы о защите детей, за последние шесть месяцев уже превысило показатель всего прошлого года.

IWF отметила, что почти весь опасный контент находился на общедоступных ресурсах, а не на «тёмной сети», для доступа к которой требуется специализированное программное обеспечение. Временный генеральный директор организации Дерек Рэй-Хилл подчеркнул, что уровень реалистичности некоторых изображений указывает на использование ИИ, обученного на материалах с участием реальных людей. «Проблема не исчезает, а, наоборот, становится более серьёзной», — отметил он.

Аналитики IWF считают, что ситуация с ИИ-контентом достигает «точки невозврата», когда трудно определить, связано ли изображение с реальным человеком, которому нужна помощь. За шесть месяцев до сентября этого года организация обработала 74 сообщения о незаконных материалах, созданных с помощью ИИ, что сопоставимо с 70 случаями за предыдущие 12 месяцев.

Помимо изображений, созданных на основе реальных материалов, встречаются так называемые «deepfake»-видео, где взрослый контент модифицируется с помощью ИИ. IWF также фиксировала случаи, когда технологии ИИ использовались для создания фальшивых изображений знаменитостей, «омолаживаемых» и помещаемых в неподобающие сцены, а также материалы, где ИИ использовался для изменения фотографий детей, найденных в интернете.

Более половины такого контента размещается на серверах в США и России, значительные объёмы также находятся в Японии и Нидерландах. Адреса страниц с опасным контентом передаются IWF технологическим компаниям для блокировки и недоступности. Около 80% сообщений о незаконных изображениях поступают от пользователей, которые обнаружили их на форумах и в галереях ИИ.

В ответ на растущие угрозы платформы социальных сетей также вводят меры защиты. Например, Instagram✱ запускает функцию размытия получаемых пользователями интимных изображений в личных сообщениях, чтобы предотвратить шантаж. Пользователи смогут сами решать, просматривать ли такие изображения, а также блокировать отправителя и сообщать о подозрительных сообщениях. Для подростков эта функция будет включена по умолчанию, а для взрослых — по желанию. Платформа также скрывает списки подписчиков и подписок от потенциальных злоумышленников.

Эти меры направлены на повышение безопасности пользователей и предотвращение распространения опасного контента в сети. 🔒🌐

        * Упомянутые организации запрещены на территории РФ