Глава MI5 и директора FBI предупреждают о потенциальных угрозах ИИ ⚠️🤖

Искусственный интеллект (ИИ) может быть использован злоумышленниками для создания опасных устройств, распространения недостоверной информации или вмешательства в важные процессы, заявили руководители британской MI5 и американского FBI. Кен МакКаллум, глава MI5, и Кристофер Рэй, директор FBI, подчеркнули, что их организации следят за развитием технологий и сотрудничают с экспертами частного сектора для выявления новых угроз.

МакКаллум отметил, что разработчики ИИ внедряют меры безопасности, чтобы пользователи не могли использовать программы для создания опасных устройств, однако существует риск обхода этих ограничений. «Если вы разбираетесь в безопасности, было бы неблагоразумно полностью полагаться на непробиваемость этих систем», — сказал он. «Существует реальная опасность того, что некоторые ИИ-системы могут быть использованы не так, как планировали их создатели».

Рэй добавил, что террористические группы уже пытались использовать ИИ для обхода встроенных ограничений и поиска способов создания опасных устройств, а также для более убедительного распространения своей пропаганды, используя переводческие и генеративные инструменты.

Оба руководителя выступали на саммите разведслужб стран «Пять глаз» в Стэнфорде (США), где обсуждались вопросы международного сотрудничества и мониторинга угроз, связанных с ИИ. МакКаллум отметил, что некоторые из этих рисков будут обсуждаться на предстоящем глобальном саммите по ИИ, который пройдёт в начале ноября. «Это вопрос, по которому никто не имеет монополии на знание, поэтому крайне важно сотрудничество между государственными и частными структурами, а также международные партнёрства», — подчеркнул он.

Кроме того, оба руководителя отметили потенциальную угрозу использования ИИ для вмешательства в политические процессы. Современные технологии способны создавать фейковые изображения и аудио, которые могут вводить в заблуждение публику. Примеры подобных подделок уже появлялись в медиа и социальных сетях, демонстрируя возможности ИИ по созданию реалистичных, но ложных материалов.

МакКаллум подчеркнул, что наблюдение за дезинформацией не является основной задачей MI5, но агентство активно отслеживает попытки манипулирования общественным мнением. «Мы должны рассматривать такие возможности, чтобы выполнять свои обязанности эффективно», — добавил он.

Руководители также обсуждали необходимость повышенного внимания к новым технологическим рискам, включая промышленные шпионажи и потенциальные угрозы безопасности, возникающие с развитием ИИ.

Итог: ИИ открывает новые возможности, но одновременно создаёт потенциальные риски, требующие постоянного мониторинга и сотрудничества экспертов из разных стран и отраслей. 🌐🔍