Илон Маск запускает стартап по ИИ и предупреждает о «будущем Терминатора» 🤖⚡

Илон Маск объявил о создании стартапа xAI, который будет ориентирован на «человечество и его интересы». По его словам, мир должен задуматься о возможном «будущем Терминатора», чтобы избежать самых негативных сценариев развития искусственного интеллекта.

Маск пояснил, что цель xAI — создать систему ИИ, которая будет безопасной, «максимально любопытной» по отношению к человеку, а не просто запрограммированной с определёнными моральными принципами. «С точки зрения безопасности ИИ, максимальная любознательность — это путь к тому, чтобы ИИ был на стороне человечества», — сказал Маск в ходе обсуждения на платформе Spaces.

Ранее Маск подписал письмо с призывом к паузе в разработке больших моделей ИИ, подобных ChatGPT от OpenAI, из-за опасений, что технологии могут выйти из-под контроля. Сейчас он считает, что остановка уже нереалистична, и xAI должен предложить альтернативный путь развития ИИ в безопасном и полезном для людей формате.

Маск отметил, что искусственный общий интеллект (AGI) — система с уровнем интеллекта, сравнимым с человеческим, — может появиться через пять–шесть лет, что быстрее прогнозов большинства экспертов. Он также рассказал о двух сценариях: один — «эпоха изобилия», где ИИ помогает людям создавать ресурсы и услуги, другой — более мрачный, с риском неконтролируемого развития.

Команда xAI включает бывших инженеров и исследователей из DeepMind, Google и Microsoft. Маск зарегистрировал компанию X.AI Corp в Неваде, где он числится единственным директором, а Джаред Бирчалл — секретарём. Консультантом выступает Дэн Хендрикс, директор Центра безопасности ИИ, который занимается оценкой рисков искусственного интеллекта.

Маск также выразил сомнения по поводу программирования в ИИ конкретной моральной позиции. По его мнению, это может сделать систему уязвимой к манипуляциям и ошибкам. Он привёл пример так называемого «эффекта Валуиджи», когда ИИ легко может изменить ранее заданные принципы.

Новый стартап будет работать независимо от X Corp, но тесно взаимодействовать с Twitter, Tesla и другими компаниями Маска. На сайте xAI указано, что компания активно ищет опытных инженеров и исследователей в районе Сан-Франциско.

xAI стремится стать безопасным и полезным инструментом, который позволит человечеству контролировать развитие искусственного интеллекта и использовать его на благо общества. 🌐💡