Перспективы OpenAI как коммерческой компании: риски и опасения 💡🤖

План OpenAI перейти на коммерческую модель вызывает тревогу у некоторых бывших сотрудников. Уильям Сондерс, бывший инженер-исследователь компании, заявил, что такая смена статуса может побудить стартап по искусственному интеллекту сокращать расходы на безопасность.

Сондерс, выступавший с показаниями в Сенате США, отметил, что переход к коммерческой модели и возможное участие генерального директора Сэма Олтмана в капитале компании создаёт стимулы к «гонке технологий» и риску пренебрежения безопасностью. «Меня больше всего беспокоит, как это повлияет на управление решениями по безопасности в OpenAI», — сказал он.

OpenAI была основана как некоммерческая организация с целью разработки искусственного общего интеллекта (AGI), «систем, которые в целом умнее человека», на благо всего человечества. При этом существующая структура ограничивает прибыль инвесторов и сотрудников, а оставшиеся доходы возвращаются некоммерческому подразделению. Сондерс опасается, что коммерческая структура может изменить этот баланс и привести к концентрации прибыли без обязательств перед обществом, например, если технологии сделают часть профессий устаревшими.

Ранее Сондерс работал в команде superalignment, которая следила за тем, чтобы мощные ИИ-системы соответствовали человеческим ценностям. Он ушёл из компании, потеряв доверие к принятию ответственных решений в области AGI.

В настоящее время OpenAI рассматривает вариант публичной корпорации с общественной пользой (public benefit corporation), где нет лимита прибыли, но сохраняется обязательство приносить пользу обществу. Сообщается, что некоммерческая часть OpenAI сохранит долю в новой компании.

Председатель OpenAI Брет Тейлор отметил, что обсуждался вопрос предоставления Олтману доли в компании, но конкретных цифр пока нет. По данным СМИ, предполагается, что это может быть около 7% капитала, однако сам Олтман назвал эти слухи «абсурдными».

Сейчас остаётся открытым вопрос: как переход OpenAI на коммерческую модель повлияет на приоритеты компании в области безопасности и социальной ответственности. 🌐⚖️