Эксперт по ИИ призывает включать представителей общества в советы директоров компаний 🧠🌐

Компании, разрабатывающие мощные системы искусственного интеллекта, должны включать в свои советы директоров независимых членов, представляющих «интересы общества», заявил Йошуа Бенгио, один из ведущих специалистов в области ИИ и лауреат премии Тьюринга 2018 года, которую называют «Нобелевской премией в информатике».

Бенгио отметил, что стремительное развитие технологий требует демократического надзора за их внедрением, чтобы гарантировать безопасность общества и предотвратить злоупотребления. «Как убедиться, что эти технологии развиваются безопасно и не используются для увеличения власти отдельных игроков? — сказал эксперт. — Решение очевидно: нужна демократическая система управления, включая независимых людей в советах компаний, которые могут контролировать процессы и действовать иначе, чем регуляторы».

Профессор Монреальского университета и основатель Института искусственного интеллекта Mila выразил обеспокоенность тем, что, несмотря на недавние события вокруг OpenAI и смену руководства компании, разработка ИИ в отрасли не замедлится. Он подчеркнул, что конкуренция между компаниями может превалировать над безопасностью пользователей.

Бенгио также высказался о недавно достигнутом добровольном соглашении между правительствами и ИИ-компаниями на глобальном саммите по безопасности ИИ в Великобритании. По его мнению, процесс тестирования моделей «скорее выгоден компаниям», так как нагрузка ложится на государство по выявлению проблем, вместо того чтобы компании доказывали безопасность своих технологий. Он предложил модель, аналогичную фармацевтической отрасли: компании должны предоставлять научные доказательства безопасности своих продуктов, а регулятор проверяет эти данные.

Эксперт возглавит первый доклад о состоянии науки в области ИИ, который ожидается до следующего саммита в Корее в мае. Доклад будет сосредоточен на вопросах безопасности и, как надеется Бенгио, будет публиковаться каждые шесть месяцев, чтобы отслеживать быстрые изменения в индустрии.

Он также указал, что возможное появление системы, способной выйти из-под человеческого контроля, может произойти в диапазоне от пяти до двадцати лет, и правительства должны защищать общество от потенциальных рисков.

Бенгио положительно оценил исполнительный указ президента США о регулировании ИИ, опубликованный незадолго до саммита, как шаг к более строгому контролю отрасли, подчеркнув, что другие страны должны следовать этому примеру.

Йошуа Бенгио вместе с Джеффри Хинтоном и Янном Лекуном получил премию Тьюринга за открытия в области глубоких нейронных сетей, которые стали ключевыми в развитии современных технологий искусственного интеллекта. 🚀