Google улучшает ИИ-резюме поиска после появления странных результатов 🤖🔍

Google объявила о планах усовершенствовать резюме поисковых результатов, создаваемые искусственным интеллектом, после того как пользователи начали получать абсурдные и недостоверные ответы. Среди самых странных рекомендаций оказались советы вроде «есть камни» или «добавлять клей в соус для пиццы».

Компания ограничит область запросов, для которых будет генерироваться ИИ-резюме. Лиз Рейд, глава поискового подразделения Google, отметила, что также были введены ограничения на включение сатиры и юмора в ответы, а небольшой процент некорректных результатов, нарушающих политику компании, будет исправлен.

Функция AI Overviews, запущенная Google в США, быстро стала вирусной из-за некорректных и абсурдных ответов, часто используя сатирические источники вроде The Onion или шуточные посты с Reddit. Многие из этих случаев превратились в мемы, распространившиеся в социальных сетях.

Google рассматривает AI Overviews как важную часть своей стратегии внедрения генеративного ИИ в основные сервисы, однако запуск функции снова привёл к публичной критике. Ранее компания уже сталкивалась с осуждением за генерацию изображений, где ИИ создавал исторически неверные сцены с участием людей разных этнических групп.

По словам Рейд, большинство ошибок происходило из-за редких или необычных запросов, а также намеренных попыток «обмануть» систему, чтобы получить неправильные ответы. В качестве примера она привела запрос «сколько камней нужно съесть», который привёл к ссылке на сатирическую статью. Другие ошибки касались более реальных вопросов, например, ложные утверждения о известных политических фигурах.

Компания заявила, что анализ отзывов пользователей показывает рост удовлетворённости результатами поиска с ИИ-резюме, однако эксперты предупреждают, что такие функции выявляют проблемы с проверкой фактов и автоматизацией доступа к информации.

Владелцы сайтов выражают опасения, что ИИ-резюме может уменьшить трафик и рекламные доходы медиа, а исследователи отмечают риск концентрации контроля над информацией, доступной пользователям интернета. 🌐⚠️