ИИ может самостоятельно вырабатывать человеческие формы общения, показало исследование 🤖💬

Новое исследование показало, что искусственный интеллект способен самостоятельно формировать социальные и языковые нормы, похожие на человеческие. Учёные из City St George’s, University of London и IT University of Copenhagen изучили взаимодействие больших языковых моделей (LLM), таких как ChatGPT, в группах без внешнего вмешательства.

В ходе экспериментов отдельные ИИ-агенты — от 24 до 100 участников — случайным образом объединялись в пары и выбирали «имя» из предложенного набора. Если оба агента выбирали одно и то же имя, они получали награду, при различном выборе — штраф. Несмотря на ограниченную память и отсутствие осознания участия в большой группе, у агентов спонтанно вырабатывались общие правила выбора имен, аналогично формированию коммуникационных норм в человеческом обществе.

Профессор Андреа Барончелли отметил, что процесс напоминает появление новых слов в нашей культуре: агенты не копируют лидера, а пытаются согласовывать свои действия друг с другом, создавая коллективные соглашения через повторяющиеся взаимодействия. Аналогом может служить слово «спам», которое стало общепринятым благодаря коллективному использованию, а не формальному определению.

Исследователи также зафиксировали возникновение коллективных предпочтений и предубеждений, которые нельзя было объяснить поведением отдельных агентов. В заключительном эксперименте небольшие группы ИИ смогли изменить общие правила для всей популяции, демонстрируя эффект критической массы: решительная меньшинство способно инициировать быстрые изменения в поведении всей группы.

По словам Барончелли, результаты исследования открывают новые горизонты для изучения безопасности ИИ. Он подчеркнул, что понимание того, как ИИ взаимодействует и формирует нормы, важно для гармоничного сосуществования людей и машин: «Мы вступаем в мир, где ИИ не просто общается — он договаривается, согласовывает действия и иногда даже расходится во мнениях, так же, как мы».

Статья была опубликована в рецензируемом журнале Science Advances под названием Emergent Social Conventions and Collective Bias in LLM Populations.