Meta✱ заявила о блокировке около 20 скрытых операций влияния в 2024 году 🌐🛡️

Компания Meta✱ в 2024 году вмешалась и ликвидировала около 20 скрытых операций влияния по всему миру. При этом опасения по поводу манипуляций с помощью ИИ, способных искажать общественное мнение, не подтвердились.

Ник Клегг, президент по глобальным вопросам Meta✱, отметил, что Россия остаётся основным источником недобросовестной активности в сети, но удивительно мало использовала ИИ для попыток повлиять на пользователей в самый насыщенный год выборов по всему миру.

Meta✱ с её более чем 3 миллиардами пользователей за месяц до президентских выборов США пришлось заблокировать чуть более 500 000 запросов на генерацию изображений с участием известных политиков через собственные инструменты ИИ. Однако эксперты компании столкнулись с новой волной операций, где фейковые аккаунты использовались для влияния на общественные дискуссии с определёнными стратегическими целями — более одной операции каждые три недели.

Примеры выявленных операций

• Сеть из России использовала десятки фейковых аккаунтов и вымышленные новостные сайты для влияния на пользователей в Грузии, Армении и Азербайджане.
• Другая российская операция применяла ИИ для создания фейковых новостных сайтов под брендами известных СМИ, чтобы повлиять на международное восприятие событий, включая Африку и Европу.

Клегг подчеркнул: «Россия остаётся основным источником скрытых операций влияния, с 39 сетями, заблокированными с 2017 года». Далее по числу выявленных вмешательств идут Иран и Китай.

Влияние ИИ на дезинформацию

После мониторинга более 50 стран, включая США, Индию, Тайвань, Францию, Германию и Великобританию, Клегг заявил, что ожидаемые риски широкого распространения deepfake и кампаний дезинформации с ИИ оказались ограниченными и незначительными.

Тем не менее он предупредил, что низкое текущее влияние синтетического контента скорее всего изменится: «Эти инструменты будут всё более распространены, и мы увидим больше синтетического и гибридного контента в сети».

Заключение экспертов

Centre for Emerging Technology and Security отмечает, что контент, созданный с помощью ИИ, в 2024 году действительно мог влиять на дискуссии, усиливая существующие формы дезинформации и обостряя обсуждения, но доказательств серьёзного влияния на результаты выборов пока нет.

Алан Тьюринг Институт добавляет, что ИИ может тонко формировать электоральные дискуссии и усиливать опасные нарративы, например, создавая слухи и мемы, которые быстро распространяются в интернете.

Meta✱ продолжает наблюдать за ростом синтетического контента и предупреждает о необходимости осторожного подхода к новым технологиям, чтобы минимизировать потенциальное влияние на пользователей. 🌍🔍

Meta✱, Instagram✱ запрещены на территории РФ

        * Упомянутые организации запрещены на территории РФ