Саммит по безопасности ИИ в Блетчли-Парке: пустая трата времени или реальный прогресс? 🤖🌍

На прошлой неделе в Блетчли-Парке прошёл международный саммит по безопасности искусственного интеллекта, который вызвал у участников неожиданный прилив оптимизма. Профессор MIT и исследователь ИИ Макс Тегмарк, один из авторов письма с призывом приостановить разработку передовых систем, признался, что увиденное превзошло его ожидания: «Я работаю над этой проблемой уже около десяти лет, и увидеть такой саммит своими глазами было очень эмоционально», — отметил он.

Декларация Блетчли

Саммит открылся коммюнике, подписанным почти 30 странами, включая США, Китай и государства ЕС. В нём подчёркивается, что ИИ открывает огромные глобальные возможности для улучшения качества жизни и благополучия человечества, но его разработка должна быть человекоориентированной, надёжной и ответственной.

Особое внимание уделили так называемому «передовому ИИ» — самым мощным системам. В декларации отмечается: «Существуют потенциальные риски серьёзного, даже катастрофического ущерба, как намеренного, так и случайного, исходящего от возможностей этих моделей ИИ». Кроме того, затронуты более актуальные угрозы, такие как кибератаки и дезинформация, причём консенсус участников был в том, что ИИ-дезинформация требует немедленного внимания.

Саммит получил продолжение: Южная Корея проведёт виртуальное мероприятие через шесть месяцев, а Франция — полноценный саммит через год.

Отчёт о состоянии науки ИИ

Премьер-министр Великобритании Риши Сунак анонсировал создание отчёта «Состояние науки ИИ», возглавляемого Йошуа Бенджио, лауреатом премии Тьюринга и одним из «крёстных отцов» ИИ. В состав группы войдут ведущие учёные, а также консультативная панель стран-участниц саммита. Цель отчёта — создать глобальные рекомендации по безопасности ИИ, сравнимые с международными инициативами по климату.

Международное тестирование ИИ

Государства и крупные компании, включая Google, OpenAI, Microsoft, Amazon и Meta✱, договорились совместно проверять свои модели ИИ до и после публичного релиза. Среди правительственных участников — США, Великобритания, ЕС, Австралия и Япония (Китай не присоединился). Великобритания уже установила партнёрства с аналогичными институтами США и Сингапура.

Тем не менее, этот подход пока добровольный, и остаётся вопрос, насколько заявления саммита будут эффективны без обязательного регулирования. Сунак отметил, что законодательно вмешиваться пока рано, но «обязательные требования» могут появиться в будущем.

Важные темы саммита

• Прозрачность: информация о том, как и где используется ИИ.
• Надёжность и безопасность: защита от ошибок, предвзятости и подделок.
• Сотрудничество: международное научное взаимодействие и тестирование моделей.
• Регулирование и контроль: необходимость создания правовых рамок и человеческого надзора.

Эксперты считают, что саммит стал важной вехой, объединив разные подходы и мнения, и позволил сосредоточиться не только на гипотетических угрозах, но и на реальных, актуальных проблемах ИИ, таких как прозрачность, справедливость и ответственность.

📌 Вывод: Несмотря на первоначальные сомнения, саммит в Блетчли-Парке стал важным шагом к глобальному диалогу по безопасности ИИ, создав основу для сотрудничества государств и компаний и подчеркнув необходимость контроля над развитием технологий будущего.

        * Упомянутые организации запрещены на территории РФ