Риски ИИ нужно обсуждать открыто — предупреждает Риши Сунак перед технологическим саммитом 🤖⚠️

Искусственный интеллект (ИИ) открывает новые возможности для общества, но также несёт потенциальные риски, которые необходимо обсуждать открыто, заявил премьер-министр Риши Сунак. Правительство Великобритании признало, что нельзя полностью исключить возможность серьёзного влияния технологий на общество, включая возможные глобальные последствия.

Сунак подчеркнул, что мощные системы ИИ открывают «новые возможности» для экономического роста, но одновременно несут «новые опасности», включая киберугрозы, создание сложных систем автоматизации и влияние на рынок труда. В преддверии глобального саммита по безопасности ИИ в Блетчли-парке, который соберёт политиков, экспертов и технологические компании, Сунак призвал к честному разговору о рисках технологии.

«Правильное решение — прямо говорить о рисках, давая уверенность в том, что мы обеспечим безопасность, одновременно открывая возможности для лучшего будущего для вас и ваших детей», — отметил Сунак.

Документы правительства о рисках ИИ

В официальных документах описаны потенциальные опасности, связанные с развитием передовых ИИ-систем (Frontier AI). Хотя эксперты считают вероятность серьёзных угроз низкой, документы подчёркивают необходимость контроля. Среди возможных сценариев:

• Воздействие на рынок труда: автоматизация задач может привести к изменениям занятости, что вызовет общественные дебаты о будущем образования и профессий.
• Массовые кибератаки и мошенничество: злоупотребление ИИ для мошенничества, фишинга и распространения недостоверной информации может вызвать социальную нестабильность.
• Персонализированная дезинформация: ИИ способен создавать убедительные сообщения, ориентированные на отдельных людей, что потенциально снижает доверие к источникам информации.
• Усиление киберрисков: системы ИИ могут создавать сложные вирусы, фишинговые атаки и другие угрозы безопасности.
• Системные предвзятости: ИИ воспроизводит и усиливает предвзятости, содержащиеся в данных обучения, что требует контроля и корректировки.

Цель саммита

Саммит станет платформой для обсуждения глобальных стандартов безопасности ИИ, координации разработки и внедрения технологий, а также обмена опытом между странами и компаниями. Сунак подчеркнул, что важно сочетать инновации с ответственным подходом к разработке систем, чтобы технологии приносили пользу, но не создавали новые риски для общества.

«Необходимо обсуждать и готовить меры заранее, чтобы инновации ИИ становились безопасными, а технологии использовались на благо общества», — отметил премьер.

Саммит позволит участникам обсудить как возможности, так и вызовы, включая управление рисками, этические стандарты и международное сотрудничество. Цель — превратить потенциальные угрозы в управляемые риски, сохраняя преимущества ИИ для экономики и общества. 🌐💡