«Немного страшно»: глава OpenAI предупреждает о рисках искусственного интеллекта 🤖⚠️

Сэм Альтман, генеральный директор OpenAI — компании, создавшей известный искусственный интеллект ChatGPT, предупредил, что эта технология несёт в себе реальные риски для общества. Он отметил, что регуляторы и общество должны быть вовлечены в развитие ИИ, чтобы минимизировать потенциально негативные последствия для человечества.

«Нужно быть осторожными», — сказал Альтман в интервью ABC News. — «Людям стоит радоваться, что нам немного страшно. Это нормально».

Он выразил обеспокоенность, что такие модели могут использоваться для массового распространения дезинформации. «Теперь, когда ИИ стал лучше писать компьютерный код, его могут использовать для кибератак», — добавил он.

При этом Альтман подчеркнул, что ИИ может стать «величайшей технологией, созданной человечеством». Новый язык модели GPT-4, представленной всего через четыре месяца после предыдущей версии, уже показал впечатляющие результаты: 90% на экзаменах для юристов в США и почти идеальный балл по математике в тесте SAT. Модель также умеет писать код на большинстве языков программирования.

Основной страх общества связан с тем, что машины заменят людей. Но Альтман пояснил: ИИ работает только под управлением человека. «Он ждёт, пока кто-то даст ему команду. Это инструмент, полностью находящийся под контролем человека».

Вместе с тем он выразил беспокойство, кто именно будет управлять ИИ и какие ограничения безопасности будут применены. «Общество имеет ограниченное время, чтобы понять, как реагировать, как регулировать и как управлять этим», — сказал он.

Многие пользователи ChatGPT сталкивались с тем, что ответы ИИ могут быть слишком осторожными или даже параноидальными. Например, в тестах GPT-4 предлагал рецепты на основе содержимого холодильника. Альтман отметил проблему «галлюцинаций» ИИ: когда модель уверенно выдаёт полностью вымышленные факты.

«Правильнее рассматривать наши модели как движок рассуждений, а не базу данных фактов», — сказал он. — «Мы хотим, чтобы они умели рассуждать, а не просто запоминать информацию».

В итоге, по словам Альтмана, эффективность работы ИИ зависит от того, какие команды и данные получает пользователь. Как отмечал Guardian, «мы заслуживаем лучших инструментов, средств информации и сообществ, и получаем лишь то, что сами способны использовать».

ИИ продолжает развиваться стремительно, принося новые возможности и одновременно создавая вызовы, требующие внимательного контроля и ответственного подхода. 🌐💡