Власти Великобритании начинают всерьёз задумываться о рисках ИИ 🤖⚖️

Джеймс Филлипс, бывший советник по технологиям в Даунинг-стрит, отмечает, что правительство долгое время не уделяло должного внимания возможным угрозам со стороны искусственного интеллекта. «Мы всё ещё недостаточно говорим о том, насколько опасны эти технологии», — говорит Филлипс, покинувший государственную службу после ухода Бориса Джонсона. Он отмечает, что уровень обеспокоенности в правительстве пока не дотягивает до того, что чувствуют специалисты в отрасли.

Однако последние месяцы показывают заметные изменения в подходе министров к ИИ. На недавнем бюджете канцлер Джереми Хант говорил о том, что Великобритания должна «выиграть глобальную гонку ИИ», при этом подчеркивая, что страна не будет создавать «защитные барьеры» для своих ключевых отраслей. А к концу встречи G7 в Японии премьер-министр Риши Сунак сделал акцент на безопасности: «Если использовать ИИ безопасно, безусловно, есть преимущества для экономики, общественных услуг и общества в целом. Но это должно делаться надёжно, с соблюдением всех правил».

Смена тона премьера, по всей видимости, связана с рядом факторов: развитием ChatGPT, предупреждениями одного из «крестных отцов ИИ» Джеффри Хинтона и обсуждениями на саммите G7. Эксперты предупреждают о краткосрочных рисках, таких как использование ИИ для мошенничества на экзаменах, распространения дезинформации кандидатами на выборах или принятия дискриминационных решений при найме сотрудников. Также возможны ошибки технологий: например, в прошлом году в одной из школ Нью-Йорка произошло происшествие с использованием ИИ-системы для обнаружения оружия.

Долгосрочная тревога касается гипотетической ситуации, если ИИ станет разумным. Регулировать столь быстро развивающуюся отрасль непросто, но возможны меры: компании могут быть обязаны делиться данными для обучения моделей с государственными органами или привлекать внешние «красные команды» для проверки, как технологии могут быть использованы во вред. Разработчики чувствительных технологий могли бы подписывать соглашения о запрете передачи их определённым группам или государствам.

Вопрос ответственности также остаётся открытым: кто будет нести ответственность в случае проблем — пользователь или разработчик?

Сунак, по данным инсайдеров, заинтересован в том, чтобы Великобритания сыграла активную роль в формулировании международных принципов ИИ, обновляющих рекомендации ЮНЕСКО 2021 года. Пока что в краткосрочной перспективе в Даунинг-стрит не планируют увеличивать ресурсы существующих регуляторов для мониторинга ИИ.

Филлипс призывает правительство создать собственный исследовательский центр по ИИ, чтобы лучше понимать отрасль. «Нужны люди, которые глубоко понимают технологии, и лучший способ — это нанимать тех, кто сам их создавал», — говорит он. Но он также предупреждает: «Сейчас мы постоянно пытаемся догнать события, потому что последние три–четыре года практически ничего не делалось».