Новый ИИ-чатбот на Gov.UK помогает бизнесу — результаты пока смешанные 🤖💼

Правительство Великобритании запускает искусственный интеллект-чатбот для помощи бизнесу в навигации по гигантскому сайту Gov.UK, который насчитывает около 700 000 страниц. Пользователи могут ожидать разные результаты при взаимодействии с ним.

Экспериментальная система будет тестироваться до 15 000 пользователей бизнеса, прежде чем станет доступной более широко, возможно, уже в следующем году. Перед началом работы чатбот предупреждает: «Основное ограничение инструментов ИИ, как я, — это так называемая „галлюцинация“. Это значит, что иногда мы создаём ложную информацию, но подаём её уверенно». Решение, по его словам, простое: проверять ссылки на сайт Gov.UK, которые сопровождают ответы, выдаваемые примерно за семь секунд.

Во время испытаний в феврале Пол Уилмотт, председатель Центрального офиса цифровых и данных (Central Digital and Data Office), отметил, что необходимо устранить «1% случаев, когда агент ведёт себя вызывающе, оскорбительно или даже манипулятивно». На тестовом запуске для журналистов представители правительства заявили, что ошибки теперь более банальны — например, битые ссылки или сокращённые ответы.

Чатбот на основе технологии GPT-4o от OpenAI охотно объяснял, какие требования должны соблюсти фермеры конопли перед посевом, но на вопрос о легализации каннабиса в Великобритании ответил: «Я не могу давать прогнозы или высказывать мнения». Он пояснял правила по облицовке многоэтажек после трагедии на Grenfell Tower, но не раскрывал выводы общественного расследования о работе правительства. В одном случае чатбот даже кратко ответил на валлийском языке.

Некоторые вопросы, например о системе корпоративного налогообложения, остались без ответа, вероятно из-за словоформы «regime». Зато чатбот свободно объяснил стимулы для установки солнечных панелей.

Сейчас система не обучена на всех документах Gov.UK, поэтому материалы из речей министров и пресс-релизов могут быть упущены. В чатбот добавлены «ограждения», чтобы он не отвечал на запросы, способные привести к незаконным ответам, раскрытию конфиденциальной финансовой информации или политическим позициям. Совместно с Институтом безопасности ИИ разработчики внедрили защиты от вмешательства хакеров, но полностью исключить риск невозможно.

Питер Кайл, министр науки и технологий, отметил, что цель правительства — «использовать ИИ для улучшения государственных услуг безопасно и надежно, демонстрируя пример в продвижении инноваций». Он добавил: «Устаревшие и громоздкие процессы в государственном секторе слишком часто тратят время людей: в среднем взрослый житель Великобритании ежегодно проводит эквивалент полутора рабочих недель на взаимодействие с бюрократией. Мы хотим изменить это, экспериментируя с новыми технологиями, чтобы экономить время людей и облегчать их жизнь, как мы делаем с чатботом Gov.UK».