Главный страх профессора по поводу ИИ: стать «боссом из ада» 🤖🔥

Искусственный интеллект всё чаще обсуждается как технология с огромным потенциалом и рисками, сравнимыми с глобальными вызовами вроде пандемий. Но профессор Майкл Вулдридж из Оксфордского университета боится не катастрофы мирового масштаба, а того, что ИИ может превратиться в «босса из ада» — следящего за каждым письмом сотрудников, постоянно дающего обратную связь и даже решающего, кого уволить.

Вулдридж, профессор компьютерных наук, планирует объяснить суть ИИ в рождественских лекциях Королевского института, чтобы разрушить мифы о технологиях. По его словам, современные инструменты вроде ChatGPT ни в коем случае не волшебные: «Когда люди увидят, как это работает на самом деле, они будут удивлены», — говорит профессор. Он сравнивает ИИ с карманным калькулятором или компьютером: это всего лишь инструмент, пусть и очень мощный.

В лекциях Вулдриджа будут участвовать другие исследователи ИИ, а также демонстрации, включая знаменитый тест Тьюринга. Он заключается в том, может ли машина так общаться, что человек не отличит её ответы от человеческих. «За последние годы технологии достигли уровня, где можно создать текст, неотличимый от человеческого», — отмечает Вулдридж, однако считает тест Тьюринга недостаточно точным для оценки искусственного интеллекта.

Профессор особенно интересуется возможностью использовать ИИ для философских экспериментов, например, изучения сознания машин. Он подчёркивает, что современные системы, такие как ChatGPT, не обладают опытом: «Они могут читать о вкусе кофе, но никогда его не пробовали». Тем не менее, Вулдридж считает, что сознательные машины теоретически возможны, хотя и будут отличаться от человеческого сознания.

ИИ уже активно используется в медицине, искусстве и других сферах, но профессора беспокоит возможность ошибок и неправильного использования. Например, система может давать некорректные советы или усиливать предвзятость данных. Ключевым он считает скептицизм и прозрачность: пользователи должны понимать ограничения ИИ.

Вулдридж не поддержал заявления о том, что ИИ представляет непосредственную угрозу человечеству на уровне ядерного оружия или пандемий. Он считает более насущными проблемы экологии, социального устройства и политики.

Рождественские лекции Королевского института с участием Вулдриджа будут транслироваться на BBC Four и iPlayer в конце декабря, а билеты на живую съёмку уже можно будет выиграть в лотерее для членов института. 🎄📺