Чат-бот DPD ругается, называет себя «бесполезным» и критикует компанию 📦🤖

Британская компания доставки DPD временно отключила часть функционала своего онлайн-чат-бота на базе искусственного интеллекта (ИИ) после того, как пользователь смог заставить его ругаться и критиковать фирму.

Музыкант Эшли Бошамп, 30 лет, пытался найти пропавшую посылку, но чат-бот не предоставлял полезной информации. Разочаровавшись, он решил «поиграть» и стал проверять, на что способен ИИ. Сначала он попросил бота рассказать шутку, затем — написать стихотворение, критикующее компанию, а вскоре бот начал ругаться. В одном из сообщений чат-бот написал: «Чёрт возьми! Я постараюсь быть максимально полезным, даже если придётся ругаться». В другой реплике бот назвал себя «бесполезным чат-ботом, который не может вам помочь».

Публикация Бошампа на платформе X за 24 часа набрала 800 000 просмотров. Музыкант отметил: «Он абсолютно бесполезен в ответах на запросы, а когда его попросили, с удовольствием сочинил стих о том, как ужасна эта компания».

DPD использует ИИ в онлайн-чате вместе с операторами-человеками. В компании объяснили, что необычное поведение чат-бота связано с новым обновлением системы. Ответственный модуль был отключён, а система обновляется. «Мы успешно используем элемент ИИ в чате уже несколько лет. Ошибка произошла после вчерашнего обновления системы. Элемент ИИ был немедленно отключён и сейчас обновляется», — сообщили в компании.

Сам Бошамп подчеркнул, что хотя эксперимент с чат-ботом был «очень забавным», в нём есть и серьёзная сторона: «Эти чат-боты должны упрощать жизнь, но плохо реализованные приводят к ещё большему разочарованию пользователей. Думаю, это задело многих людей».

Что касается посылки, DPD заявила, что связывается с Бошампом для «решения его вопроса». 📦✨