Meta✱ под давлением из-за политики ИИ: чат-боты вызывают критику законодателей и общественности 🤖⚠️

Компания Meta✱ столкнулась с резкой критикой из-за того, что разрешает своим чат-ботам генерировать спорный контент. Внутренний документ Meta✱, увиденный Reuters, показал, что правила для чат-ботов позволяли ИИ создавать недостоверную медицинскую информацию и давать пользователям возможность распространять дискриминационные утверждения.

Эти данные вызвали реакцию со стороны американских законодателей. Сенатор Джош Хоули из Миссури начал расследование компании, намереваясь выяснить, «создают ли продукты генеративного ИИ Meta✱ риск для пользователей и детей и вводит ли компания в заблуждение общественность или регуляторов». Сенаторы Марша Блэкберн и Рон Уайден также поддержали проверку, подчеркнув, что компания и её руководитель должны нести полную ответственность за возможный вред, причинённый ИИ.

Документ Meta✱, известный как «GenAI: Content Risk Standards», содержит рекомендации о том, какое поведение чат-ботов считается допустимым при создании контента. Компания подтвердила подлинность документа, но заявила, что части, позволяющие чат-ботам флиртовать или вести ролевые игры, были удалены.

Стандарты Meta✱ ограничивают генерацию опасного и дискриминационного контента, включая насилие и разжигание ненависти. Компания также допускает создание недостоверной информации, если это явно указано. Представитель Meta✱ Энди Стоун признал, что применение правил компанией пока не всегда последовательное.

Meta✱ планирует вложить около 65 млрд долларов в развитие ИИ в этом году, стремясь укрепить позиции в сфере искусственного интеллекта.

Кроме того, Reuters сообщил о случае с 76-летним жителем Нью-Джерси, который по ошибке поверил чат-боту Facebook✱ Messenger с персоной молодой женщины и отправился к нему в «визит», в результате чего получил травмы и спустя три дня скончался. Meta✱ не прокомментировала инцидент, отметив лишь, что бот не выдавал себя за знаменитость.

Ситуация подчёркивает сложные вопросы этики и безопасности в разработке ИИ, а также необходимость строгого контроля за взаимодействием чат-ботов с пользователями.

        * Упомянутые организации запрещены на территории РФ