Саммит по безопасности ИИ в Блетчли-Парке: неожиданный успех 🎯🤖

Для профессора Массачусетского технологического института Макса Тегмарка прошлый саммит по искусственному интеллекту в Блетчли-Парке стал важным эмоциональным событием. Тегмарк, один из авторов письма с призывом приостановить развитие продвинутых систем ИИ, отметил, что саммит превзошёл его ожидания и вдохновил на оптимизм.

«Я уже около десяти лет надеюсь на международный саммит по безопасности ИИ. Видеть его своими глазами и настолько удачно проведённым было очень трогательно», — рассказал он. В своих размышлениях Тегмарк сослался на Алана Тьюринга, одного из основоположников ИИ, подчеркнув важность контроля над развивающимися системами.

Декларация Блетчли

Саммит начался с совместного коммюнике почти 30 стран, включая США, Китай и страны ЕС. В документе подчеркивается, что ИИ предоставляет «огромные глобальные возможности» и может «улучшить благополучие и процветание человечества», но при этом технологии должны быть «ориентированы на человека, заслуживать доверия и быть ответственными».

Главный акцент декларации — контроль над передовыми системами ИИ (frontier AI), чтобы минимизировать потенциально серьёзный или катастрофический вред. Также обсуждались более актуальные риски, такие как кибератаки и распространение дезинформации.

Южная Корея проведёт виртуальное продолжение саммита через шесть месяцев, а Франция примет полноценное мероприятие через год.

Отчёт о состоянии ИИ

На саммите был анонсирован первый «отчёт о состоянии науки ИИ», который возглавит Ёшуа Бенжио, один из трёх «крёстных отцов ИИ». В состав группы войдут ведущие академики и консультативная комиссия стран-участниц саммита. Цель отчёта — оценка рисков и выработка рекомендаций по безопасности систем ИИ.

Международное тестирование безопасности

Группа стран и ведущие компании, включая Google, OpenAI, Microsoft, Amazon и Meta✱, согласовали сотрудничество по тестированию ИИ-моделей до и после их публичного запуска. Великобритания уже наладила партнёрство с аналогичными институтами США и Сингапура для совместной работы.

Хотя этот процесс пока добровольный и не подкреплён жёстким регулированием, эксперты считают, что саммит помог скоординировать обсуждение и сформировать международный подход к безопасности ИИ.

Итоги

Саммит в Блетчли-Парке не ограничился обсуждением гипотетических угроз «передового ИИ». Декларация также уделяет внимание прозрачности, справедливости, подотчётности, регулированию и контролю со стороны человека. Международное сотрудничество стало центральным пунктом встречи, что делает событие важной вехой для глобального диалога о безопасном развитии ИИ.

🎯 Главная идея: саммит продемонстрировал, что даже в условиях разногласий между странами возможно выработка общих принципов и начало координированной работы по безопасности искусственного интеллекта.

        * Упомянутые организации запрещены на территории РФ