Массовое использование дипфейков на Facebook✱ показывает риски ИИ перед выборами 🤖📺

За последний месяц более 100 видеороликов с дипфейками, имитирующими Риши Сунака, были оплачены для продвижения на Facebook✱, сообщает исследование, поднявшее тревогу о потенциальных рисках ИИ в преддверии выборов. Такие объявления могли охватить до 400 000 человек, несмотря на то, что они нарушали несколько правил платформы. Это первый случай, когда изображение премьер-министра системно изменялось в массовом масштабе.

На рекламу потрачено более £12 929 на 143 объявления, созданные в 23 странах, включая США, Турцию, Малайзию и Филиппины. Среди роликов есть видео с фейковым выпуском новостей BBC, где ведущая якобы сообщает о скандале вокруг Сунака и утверждает, что он тайно заработал «колоссальные суммы» на проекте для граждан. Видео продолжает с поддельной сценой, где премьер якобы говорит, что правительство решило протестировать приложение для анализа фондового рынка, а далее появляется фальшивая страница BBC, продвигающая мошенническую инвестицию.

Исследование провела компания Fenimore Harper, основанная Маркусом Бирдом, бывшим сотрудником Даунинг-стрит, который возглавлял работу по борьбе с теорией заговора во время кризиса Covid. Он предупреждает, что новые объявления показывают рост качества дипфейков и потенциальный риск манипуляций на выборах с помощью большого количества высококачественных фальшивок.

«С появлением дешевых и простых в использовании технологий клонирования голоса и лица мало знаний и опыта требуется, чтобы использовать чужой образ в злонамеренных целях», — отметил он.

При этом проблема усугубляется мягкой модерацией платной рекламы. Несмотря на нарушение нескольких правил Facebook✱, большинство роликов не были удалены.

Правительство Великобритании заявило, что активно работает над обеспечением готовности к быстрому реагированию на любые угрозы избирательным процессам. Закон о онлайн-безопасности требует от платформ оперативного удаления незаконной дезинформации, включая контент, созданный ИИ.

BBC напоминает, что для борьбы с фальшивыми новостями создана команда BBC Verify, которая проверяет видео, анализирует данные и обучает аудиторию выявлять дипфейки.

Регуляторы обеспокоены, что времени на внедрение изменений, позволяющих избирательной системе идти в ногу с ИИ, остаётся мало. Электронная комиссия Великобритании утверждает, что требования к цифровой политической рекламе с указанием источника финансирования помогут избирателям видеть, кто за ней стоит.

Представитель Facebook✱ подчеркнул: «Мы удаляем контент, нарушающий наши правила, независимо от того, создан он ИИ или человеком. Большинство этих объявлений были отключены до публикации отчёта, а менее 0,5% пользователей в Великобритании видели отдельные ролики. С 2018 года мы обеспечиваем прозрачность рекламы по социальным вопросам и продолжаем улучшать эти усилия».

        * Упомянутые организации запрещены на территории РФ