В Великобритании впервые признали «экзистенциальный» риск ИИ 🤖⚠️

Правительство Великобритании впервые официально признало потенциальный «экзистенциальный» риск, связанный с развитием искусственного интеллекта, после встречи премьер-министра с руководителями ведущих исследовательских групп в области ИИ.

Риши Сунак и министр науки, инноваций и технологий Хлоя Смит встретились с генеральными директорами Google DeepMind, OpenAI и Anthropic AI, чтобы обсудить меры безопасности и регулирование технологии. В совместном заявлении участники отметили: «Обсуждались меры безопасности, добровольные инициативы лабораторий для управления рисками и возможные направления международного сотрудничества по безопасности и регулированию ИИ».

Руководители лабораторий согласились работать с правительством Великобритании, чтобы подход к регулированию ИИ соответствовал скорости инноваций как в стране, так и за её пределами. В ходе встречи обсуждались риски технологии — от дезинформации и вопросов национальной безопасности до потенциальных экзистенциальных угроз. Премьер-министр подчеркнул, что подход к регулированию должен идти в ногу с быстрым развитием ИИ.

Для Сунак это первый раз, когда он публично признаёт риск создания «суперинтеллектуального» ИИ без надлежащих мер защиты — угроза, которая контрастирует с традиционно позитивным подходом правительства к развитию технологий.

Сунак продолжит уточнять подход к регулированию отрасли на встрече с Сундаром Пичаи, генеральным директором Google. Пичаи отметил в Financial Times: «Я по-прежнему считаю, что ИИ слишком важен, чтобы его не регулировать, и слишком важен, чтобы регулировать плохо».

Глава OpenAI Сэм Альтман призвал мировых лидеров создать международный орган, аналогичный Международному агентству по атомной энергии, чтобы ограничить скорость развития суперинтеллектуального ИИ. Он подчеркнул, что, хотя краткосрочные правила не должны быть чрезмерно строгими, при появлении настоящего суперинтеллекта «необходимо относиться к этому так же серьёзно, как к ядерным материалам».

Подход Великобритании к регулированию ИИ подвергается критике за мягкость. Профессор компьютерных наук Стюарт Рассел из Калифорнийского университета в Беркли отметил, что полагаться на разрозненные существующие регуляторы недостаточно, и необходимо выработать комплексный подход, который минимизирует последствия для рынка труда и потенциальные экзистенциальные угрозы.

Эта встреча показывает, что вопросы безопасности и регулирования ИИ становятся приоритетом на международном уровне, а технологии развиваются настолько быстро, что требуют глобального подхода и координации. 🌍🔒