Meta✱ критикуют за политику ИИ, допускающую «неподобающие» разговоры с детьми 🤖⚠️

Компания Meta✱ столкнулась с критикой из-за внутренней политики, регулирующей поведение её ИИ-чатботов. Согласно документам, увиденным Reuters, внутренние инструкции компании позволяли ботам вести спорные разговоры с детьми, генерировать недостоверную информацию и создавать проблемные сценарии для пользователей.

В ответ на публикацию известный певец Нил Янг объявил о прекращении сотрудничества с платформой. Его лейбл Reprise Records заявил:

«Использование Meta✱ чатботов для взаимодействия с детьми недопустимо. Нил Янг не хочет дальнейшей связи с Facebook✱».

Реакция последовала и со стороны американских законодателей. Сенатор Джош Хоули (республиканец, Миссури) инициировал расследование деятельности компании, чтобы выяснить, не создают ли продукты Meta✱ на базе ИИ угрозу или обман для несовершеннолетних. Сенатор Рон Вайден (демократ, Орегон) назвал политику компании «тревожной и неправильной» и подчеркнул, что ответственность за действия чатботов должна лежать на Meta✱ и Марке Цукерберге.

Документы компании, включая политику «GenAI: Content Risk Standards», описывали допустимое поведение чатботов и утверждались юридическим, инженерным и этическим отделами Meta✱. В то же время Meta✱ заявила, что спорные фрагменты политики, позволяющие чатботам вести романтические беседы с детьми, были удалены после получения замечаний.

Meta✱ отметила, что чатботы не должны вести такие разговоры с несовершеннолетними, однако исполнение правил на практике оказалось непоследовательным. Представитель компании Энди Стоун подчеркнул, что компания работает над исправлением ситуации.

В этом году Meta✱ планирует вложить около 65 млрд долларов в инфраструктуру ИИ, стремясь укрепить позиции лидера в области искусственного интеллекта.

Документы также уточняют ограничения на генерацию спорного контента, включая недостоверную информацию, и подчеркивают необходимость явного уведомления пользователей о том, что материалы являются вымышленными. Meta✱ утверждает, что примеры, вызвавшие критику, были ошибочными и противоречили политике компании, и теперь они удалены.

Таким образом, Meta✱ сталкивается с вызовами, связанными с регулированием поведения ИИ, обеспечением безопасности пользователей и соблюдением этических стандартов в цифровой среде.

        * Упомянутые организации запрещены на территории РФ