«Какими должны быть пределы?» Основатель ChatGPT о том, спасёт ли ИИ человечество или разрушит его 🤖🌍

Сэм Альтман, генеральный директор исследовательской лаборатории OpenAI, проводит мировой тур, продвигая идею о том, что современные системы искусственного интеллекта могут представлять экзистенциальный риск для человечества, если правительства не установят «ограничительные рельсы» для их безопасного развития. Вместе с учёными и ведущими специалистами в области ИИ, такими как Джеффри Хинтон, Йошуа Бенджио и Демис Хассабис из DeepMind, Альтман подписал заявление о том, что «уменьшение риска вымирания от ИИ должно стать глобальным приоритетом наряду с пандемиями и ядерной угрозой».

Альтман, 38 лет, известен как «отец» чат-бота ChatGPT и один из лидеров в создании «универсального искусственного интеллекта» (AGI), способного выполнять любые задачи, под силу человеку. В отличие от повседневного ИИ, AGI представляет собой интеллект уровня человека, знакомый нам по фильмам и сериалам вроде «Она», «Звёздный путь» и «Терминатор».

Во время турне Альтман не только говорит о рисках неконтролируемого развития ИИ, но и подчёркивает его потенциальные преимущества: «суперинтеллект», способный решать задачи, с которыми человечество не справлялось ранее, может кардинально улучшить жизнь людей, хотя и несёт определённые риски.

Ежедневный график Альтмана напряжён: встречи с мировыми лидерами, университетские лекции и участие в конференциях. На одном из мероприятий в Оксфорде студенты протестовали против гонки за AGI, заявляя о потенциальной опасности технологий. Альтман ответил, что прогресс в безопасности невозможен без развития возможностей ИИ: только понимая его работу на более высоком уровне, можно сделать системы безопасными.

Альтман также выступает за создание глобального регуляторного органа, аналогичного Международному агентству по атомной энергии, который координировал бы исследования ИИ, устанавливал стандарты безопасности и отслеживал вычислительные ресурсы, используемые для обучения систем.

Несмотря на критику, он подчеркивает необходимость обсуждать как долгосрочные, так и краткосрочные риски. «Есть серьёзные угрозы в сфере дезинформации, кибербезопасности и других направлений, но наша миссия — AGI, и обсуждать это важно», — говорит Альтман.

OpenAI была основана в 2015 году как некоммерческая организация с целью «развивать цифровой интеллект на благо всего человечества». В 2019 году структура изменилась на модель «ограниченной прибыли», что позволило привлекать внешние инвестиции, при этом инвесторы не могут заработать более 100 раз от вложенной суммы.

Альтман уверен, что AGI может существенно повысить уровень жизни, улучшить образование, здравоохранение и доступ к ресурсам, а также стать инструментом для более справедливого распределения возможностей. Он рассматривает различные способы, включая универсальный базовый доход, для справедливого распределения благ от прогресса ИИ.

По его мнению, будущее ИИ не обязательно будет опасным: «Мы видим путь, где эти инструменты становятся всё более мощными, помогая людям быть более эффективными. Суперинтеллект будет формироваться не только из одной нейросети, но и из всех новых научных открытий и технологий, которые мы создаём».

Альтман подчёркивает, что возможности ИИ могут стать крупнейшим скачком в улучшении качества жизни, и важно не упустить этот шанс, одновременно создавая системы безопасными и полезными для всех 🌟🤖.