Бывший исследователь OpenAI критикует компанию за приоритет «блестящих продуктов» над безопасностью 🤖⚠️

Бывший старший сотрудник OpenAI заявил, что компания, создавшая ChatGPT, ставит «блестящие продукты» выше вопросов безопасности. Ян Лайке, ключевой исследователь по безопасности и сопредседатель направления супервыравнивания, покинул компанию после того, как разногласия с руководством по стратегическим приоритетам достигли «критической точки».

Лайке отвечал за то, чтобы мощные системы искусственного интеллекта соответствовали человеческим ценностям и целям. Его уход произошёл через несколько дней после запуска новой модели GPT-4o. За неделю до этого также ушли два старших сотрудника по безопасности, включая Илью Сутскевера, соучредителя OpenAI и коллегу Лайке по направлению супервыравнивания.

В серии сообщений на X (ранее Twitter) Лайке подчеркнул, что культура безопасности стала второстепенной по сравнению с выпуском новых продуктов. «За последние годы процессы обеспечения безопасности отошли на второй план перед блестящими продуктами», — написал он.

По его словам, OpenAI, создавшая также генератор изображений Dall-E и видеогенератор Sora, должна больше инвестировать в безопасность, социальное воздействие, конфиденциальность и защиту своих будущих моделей. «Создание машин, умнее человека, само по себе крайне рискованно. OpenAI несёт огромную ответственность за всю человечество и должна стать компанией, которая ставит безопасность на первое место», — отметил Лайке.

Генеральный директор OpenAI Сэм Альтман в ответ поблагодарил Лайке за вклад в культуру безопасности и подчеркнул, что компания продолжает работу в этом направлении. Илья Сутскевер добавил, что уверен в способности OpenAI создавать безопасные и полезные системы ИИ под текущим руководством.

Предупреждения Лайке совпали с публикацией первого международного отчёта по безопасности ИИ, в котором отмечается разногласие среди экспертов относительно возможности мощных ИИ-систем выходить из-под контроля человека. В то же время отчёт предупреждает, что регуляторы могут отставать от стремительного развития технологий, создавая «разрыв между темпами технологического прогресса и скоростью регулирования». 🚀📊