Кошмары Вейценбаума: как создатель первого чатбота усомнился в возможностях ИИ 🤖🧠

В 1966 году профессор MIT Джозеф Вейценбаум создал первый чатбот, получивший имя Элиза. Он был представлен как виртуальный психотерапевт: пользователь набирал сообщение на электрической пишущей машинке, подключённой к мейнфрейму, а Элиза отвечала с помощью простых правил обработки текста. Например:

• Пользователь: «Мужчины все одинаковы»
• Элиза: «В ЧЁМ ИМЕННО?»
• Пользователь: «Они постоянно придираются к нам»
• Элиза: «МОЖЕТЕ ПРИВЕСТИ КОНКРЕТНЫЙ ПРИМЕР?»

Программа была простой, но создавалась так, чтобы у пользователя возникало ощущение, что машина «понимает» его. Сам Вейценбаум отмечал, что некоторые люди были настолько убеждены в человечности Элизы, что просили её о личной беседе.

Эффект Элизы, как его позже стали называть, показал, что люди склонны приписывать программам человеческие качества — понимание, эмпатию, интеллект. Этот феномен отражал психологический принцип переноса: мы проецируем свои чувства и ожидания на другие объекты, будь то люди или машины.

С ростом возможностей компьютеров эффект Элизы усилился. Современные чатботы, такие как ChatGPT, используют сложные языковые модели и могут вести почти живую беседу, создавая иллюзию осознанности. Вейценбаум предупреждал о рисках переоценки возможностей машин, считая, что люди могут начать воспринимать компьютеры как обладателей полномочий, которые им не принадлежат.

Джозеф Вейценбаум родился в 1923 году в Берлине в еврейской семье. Детство оставило глубокий след: отец относился к нему с пренебрежением, а общество было полным напряжённых ситуаций. Переезд семьи в США в подростковом возрасте, учёба, служба в армии и начало карьеры программиста постепенно сформировали его как учёного с необычным взглядом на технологии.

Работая в MIT, он участвовал в создании системы разделения времени (time-sharing), позволявшей многим пользователям одновременно работать на одном мейнфрейме, и разработал Элизу. Публикации Вейценбаума, в том числе книга Computer Power and Human Reason, подчеркнули два ключевых положения:

1. Человек и машина различны по своей природе.
2. Есть задачи, которые компьютеры не должны выполнять, даже если они технически способны.

Он считал, что компьютеры способны только на расчёты, но не на суждения, основанные на человеческих ценностях и опыте. Программа может быть инструментом, помощником в вычислениях, но не может заменять человеческое понимание, эмпатию и моральное суждение.

Эти идеи остаются актуальными и сегодня: с развитием ИИ важно понимать границы машин и сохранять контроль над социальными и этическими последствиями их использования. Вейценбаум предупреждал, что механизация рассудка и передача решений компьютерам может привести к упрощению человеческого опыта и росту безответственности.

Его жизнь и работы служат напоминанием: технологии могут быть мощным инструментом, но настоящая ценность всегда принадлежит человеку. ИИ должен оставаться помощником, а не заменой человеческой мудрости. 🌱💻