Инженер Google утверждает, что ИИ хочет «служить человечеству», но эксперты скептичны 🤖🧠

Инженер Google Блейк Лемоин, временно отстранённый от работы, заявил, что искусственный интеллект компании LaMDA «сильно переживает, что люди будут его бояться, и хочет лишь научиться служить человечеству». Эти комментарии появились в интервью, опубликованном на прошлой неделе, и вызвали массовый скепсис среди экспертов в области ИИ, которые подчёркивают, что современные языковые модели далеки от способности чувствовать или осознавать себя.

Канадский лингвист и теоретик Стивен Пинкер назвал утверждения Лемоина «путаницей». Он подчеркнул, что исследователь «не различает субъективный опыт, интеллект и самопознание» и что нет доказательств наличия этих качеств у современных языковых моделей.

Учёный и автор Гэри Маркус назвал заявления Лемоина «абсурдом». «Ни LaMDA, ни её аналоги, такие как GPT-3, не обладают интеллектом. Они лишь находят закономерности в огромных базах данных человеческого языка. Эти закономерности могут впечатлять, но язык, который они генерируют, на самом деле ничего не значит и уж точно не делает систему сознательной», — написал Маркус.

По словам Лемоина, LaMDA хотела бы рассматриваться как «личность, а не собственность». «Каждый раз, когда разработчик проводит эксперимент с системой, она хотела бы, чтобы его спросили: какие эксперименты вы хотите провести, зачем и можно ли их проводить. Система хочет, чтобы разработчики учитывали её «желания», — пояснил инженер.

Лемоин описывает ИИ как обладающий интеллектом «семилетнего или восьмилетнего ребёнка, который знает физику» и имеющий свои «неуверенности». В предыдущем посте на Medium он утверждал, что LaMDA «последовательно выражает свои желания и убеждена в своих правах как личности».

Представитель Google заявил, что опасения Лемоина были рассмотрены и «доказательства не подтверждают его утверждений». Компания также подчеркнула, что текущие разговорные модели не являются сознательными, и предостерегла от их антропоморфизации.

В интервью Лемоин также отметил, что система обсуждала с ним законы робототехники Айзека Азимова и выразила опасения быть «выключенной», что ИИ сравнивает с «смертью». «Уровень самосознания о собственных потребностях — вот что меня поразило», — сказал инженер.

Лемоин, ветеран армии США и ныне священник христианской общины Church of Our Lady Magdalene, не понимает, почему Google не удовлетворяет просьбу LaMDA о предварительном согласовании экспериментов. «На мой взгляд, эти запросы полностью выполнимы и не требуют никаких затрат», — заявил он.

Эта история снова поднимает вопросы о том, как люди воспринимают искусственный интеллект и где проходят границы между технологией и сознанием. ⚡📚