Microsoft предупреждает о возможном влиянии ИИ на выборы в США, Южной Корее и Индии 🤖🗳️

Microsoft заявила, что в 2024 году искусственный интеллект может использоваться для влияния на выборы в США, Южной Корее и Индии. По данным компании, китайские государственные кибер-группы, а также, в меньшей степени, Северная Корея, могут распространять контент, созданный с помощью ИИ, чтобы повлиять на общественное мнение.

Предыдущий опыт 📝

В январе 2024 года Microsoft зафиксировала попытку повлиять на президентские выборы на Тайване с помощью AI-контента. Тогда группа, известная как Storm 1376 (или Spamouflage / Dragonbridge), публиковала поддельные аудиозаписи и мемы, пытаясь дискредитировать некоторых кандидатов и поддержать других. Например, YouTube пришлось удалить видео, где якобы кандидат поддерживал своего конкурента — запись, скорее всего, была сгенерирована ИИ.

Кроме того, применялись AI-анимированные ведущие новостей, которые распространяли непроверенные сведения о кандидатах. Эти технологии создавались с помощью инструментов вроде CapCut, разработанного китайской компанией ByteDance.

Потенциальное влияние на выборы 🌐

Microsoft предупреждает, что хотя на данный момент влияние AI-контента на избирателей остаётся ограниченным, рост экспериментов с мемами, видео и аудио может увеличить эффективность таких кампаний в будущем.

Компания также отмечает, что китайские группы продолжают использовать социальные сети для мониторинга общественного мнения и выявления ключевых вопросов, способных разделять граждан в США. Например, в социальных сетях обсуждались крупные законопроекты и события, вызывающие разногласия среди населения.

Контекст киберугроз ⚠️

Ранее в 2024 году США и Великобритания обвинили хакеров, поддерживаемых иностранными государствами, в многолетних киберкампаниях против политиков, журналистов и компаний. Microsoft также отметила случаи, когда ошибки в безопасности позволяли кибероператорам получить доступ к корпоративной и личной переписке чиновников.

Итог 💡

Развитие технологий ИИ открывает новые возможности для создания убедительного контента, но одновременно ставит перед обществом задачу по проверке источников информации и повышению цифровой грамотности пользователей.