Почему сбой Google ChatGPT произошёл и не слишком ли раздута популярность ИИ-чатботов? 🤔🤖

Презентация Google конкурента ChatGPT, чат-бота Bard, столкнулась с серьёзной проблемой на старте: в промо-материалах бот дал неверный ответ на вопрос о телескопе Джеймса Уэбба, заявив, что он «сделал первые снимки планеты за пределами Солнечной системы». Ошибка быстро привлекла внимание экспертов, и Google подчеркнул необходимость «тщательного тестирования» Bard перед его официальным запуском.

Тем временем Microsoft, ключевой партнёр разработчиков ChatGPT из компании OpenAI, уже объявила о внедрении технологии в поисковик Bing. Акции материнской компании Google, Alphabet, за два дня потеряли более $100 млрд. 💸

Что такое Bard и ChatGPT?

Оба чат-бота построены на больших языковых моделях (LLM), искусственных нейронных сетях, вдохновлённых мозгом животных. Они обучаются на огромных объёмах текстов из интернета, чтобы формировать правдоподобные ответы на вопросы. Пользователи ChatGPT с ноября прошлого года оценили его способность писать резюме, разбирать длинные документы и даже создавать поэзию.

Почему Bard ошибся?

Эксперты объясняют, что ошибки возникают из-за неточностей в обучающих данных. «Большие языковые модели наследуют ошибки и предвзятости, содержащиеся в исходных текстах», — отмечает доктор Эндрю Рогоиски из Университета Суррея. Модель предсказывает наиболее вероятный текст на основе статистики, не понимая, что верно, а что нет. Поэтому ошибки, подобные сбою с телескопом, неизбежны.

Были ли подобные проблемы у других ИИ?

Да. В 2016 году Microsoft пришлось закрыть чат-бота Tay в Twitter из-за расистских и сексистских сообщений, которые он начал публиковать. В прошлом году Meta✱ запустила BlenderBot, который сообщил, что удалил аккаунт Facebook✱ после скандалов компании. Даже другие модели на базе ChatGPT иногда выдавали некорректные или оскорбительные ответы.

А что с «политической предвзятостью»?

Пользователи заметили, что ChatGPT демонстрирует разную тональность при запросах о разных политических фигурах. Эксперты утверждают, что это снова связано с обучающими данными: «Любые предвзятости в тексте будут отражены в работе программы», — поясняет Майкл Вулдридж из Оксфорда.

Не слишком ли раздута популярность ИИ-чатботов?

ИИ уже используется в продуктах Google (например, Google Translate) и других компаний. Рост числа пользователей ChatGPT до 100 миллионов за два месяца показывает высокий интерес к генеративному ИИ. Однако такие системы требуют огромных вычислительных мощностей, что ставит под вопрос их масштабное использование.

Доктор Рогоиски подчёркивает: «Генеративный ИИ делает удивительные вещи, но он не обладает интеллектом в полном смысле. Он не понимает создаваемый контент и не добавляет новых идей». По сути, нынешняя гонка ИИ — это соревнование брендов, использующих интерес к технологии, а ошибки вроде Bard лишь напоминают, что дорога к совершенству ещё долгая.

Google и Microsoft, несмотря на это, уверены, что искусственный интеллект будет развиваться быстрыми темпами, пусть иногда и с небольшими сбоями. ⚡💻

* Упомянутые организации запрещены на территории РФ