Игра с чатботами: можно ли доверять AI-поиску в интернете? 🤖🌐

Вопрос о том, насколько можно доверять информации из интернета, стал ещё более острым с появлением генеративных AI-чатботов. Если раньше мы прокручивали страницы поисковой выдачи в Google или Bing, чтобы найти нужный ответ, теперь компании предлагают чатботы, которые сами «собирают» информацию и формируют короткий ответ. Это выглядит удобно, но вносит новые риски и вопросы доверия.

Исследователи из Калифорнийского университета в Беркли выяснили, что современные чатботы часто ориентируются на поверхностную релевантность текста: ключевые слова и техническая терминология важнее, чем наличие научных ссылок или объективного, беспристрастного языка. Для простых вопросов это может работать, но когда речь идёт о спорных темах или сложных дебатах, таких как влияние аспартама на здоровье, всё становится гораздо сложнее. Чатбот может просто обобщить данные, а может выступать как «мини-исследователь», оценивая источники и формируя окончательный ответ — и именно здесь важны критерии отбора информации. ⚖️📚

Эта ситуация породила новую отрасль — generative engine optimisation (GEO), или оптимизацию контента под AI. Суть в том, чтобы контент был написан и оформлен так, чтобы чатботы чаще выбирали его для своих ответов. Принцип схож с SEO — оптимизацией под поисковые системы — но в случае с AI важно учитывать упоминания на сторонних сайтах, в СМИ, форумах и отраслевых публикациях. 🌐✨

Учёные также показали, что продвинутые пользователи могут «обмануть» чатботов с помощью стратегических текстовых последовательностей. На первый взгляд, это набор случайных символов, но на самом деле это команда, которая заставляет AI выводить конкретный ответ. Использование таких техник может продвигать продукты или контент без учёта качества или достоверности, что ставит под угрозу объективность информации для миллионов пользователей.

Кроме того, чатботы делают интернет более уязвимым для манипуляций, чем традиционные поисковые системы. SEO-оптимизация уже привела к созданию множества низкокачественного контента, затрудняющего поиск нужной информации. А чатбот, выбирая лишь несколько источников для ответа, ещё сильнее концентрирует внимание пользователей на ограниченном круге ресурсов, оставляя остальной интернет почти незамеченным.

Проблема усугубляется «дилеммой прямого ответа»: пользователь получает один конкретный ответ и, скорее всего, не проверяет альтернативные точки зрения. Это повышает риск того, что AI станет источником доминирующего, но потенциально предвзятого мнения. 🧐

Идея «пусть Google ищет за вас» выглядит заманчиво, но если вы хотите получить максимально объективную и достоверную информацию, доверять AI-поиску без критики пока не стоит. Чатботы удобны и экономят время, но за удобством скрываются риски и необходимость осознанного подхода к проверке источников. 🔍💡