Опасность фейковых видео: сенатор призывает запретить использование ИИ для подделок в выборах 🤖📹

Сенатор Дэвид Покок привлёк внимание к рискам, которые несёт генеративный ИИ, показав, как легко можно создать поддельные видео. Он опубликовал два ролика с участием политических лидеров Австралии — премьер-министра и лидера оппозиции — где они якобы поддерживают полный запрет на рекламные кампании. На самом деле эти видео сгенерировал ИИ, чтобы продемонстрировать, насколько технология может вводить людей в заблуждение.

«Это видео фейковое, и в настоящее время нет законов, запрещающих создание подобных роликов», — отметил Покок. Он подчеркнул, что глубокие подделки (deepfakes) и генеративный ИИ представляют реальную угрозу демократии, и призвал правительство ввести запрет на их использование в предвыборный период.

В одном из видео премьер-министру приписано объявление о поэтапном трёхлетнем запрете рекламы, а в другом лидер оппозиции будто бы поддерживает это решение. Оба сюжета не соответствуют действительности, а Покок специально выбрал спорную тему, чтобы показать потенциал манипуляций.

Ранее правительство планировало частичный запрет на рекламные кампании, что многие эксперты считают недостаточным. Покок создавал видео, чтобы побудить парламент принять меры до следующих выборов и защитить демократический процесс от манипуляций с помощью ИИ.

Пример показал, что даже развлекательные ролики, созданные ИИ, могут вызвать широкий резонанс. В июле видео с участием премьер-министра одного из штатов Австралии, созданное оппозицией, вызвало общественный дебат о политическом применении deepfakes. Эксперты предупреждали, что такие материалы могут легко вводить людей в заблуждение, особенно если их использовать более незаметно и тонко.

Представитель офиса министра по парламентским делам отметил: «Эта технология не исчезнет. Нам нужно найти способы защитить людей от намеренно ложной информации».

ИИ создаёт новые возможности, но также требует правового регулирования, чтобы общество и избиратели были защищены от манипуляций и фальшивых данных. 🛡️📱