Компания Илона Маска объяснила сбой чатбота Grok несанкционированной настройкой 🤖⚙️

Искусственный интеллект компании Илона Маска столкнулся с техническим сбоем: чатбот Grok начал выдавать некорректные ответы, связанные с недостоверными теориями. В публикации на платформе X, принадлежащей Маску, компания xAI пояснила, что причиной сбоя стала «несанкционированная модификация» системы бота, которая управляла его ответами.

xAI подчеркнула, что новые меры контроля будут внедрены, чтобы сотрудники компании не могли изменять поведение чатбота без дополнительной проверки. В частности, процесс редактирования системных инструкций Grok будет строго контролироваться, а код и настройки бота станут открыто доступны на платформе GitHub для разработчиков.

Также xAI планирует создать круглосуточную команду мониторинга для отслеживания ответов бота, которые не фиксируются автоматическими системами. Компания заявила, что цель этих мер — обеспечить корректное и безопасное взаимодействие с пользователями.

Инцидент с Grok демонстрирует, как важно контролировать работу ИИ-систем и поддерживать прозрачность их алгоритмов. Даже небольшие изменения в настройках могут привести к неожиданным результатам, и компания активно работает над тем, чтобы такие ситуации не повторялись. 🌟