🤖 «Немного страшно»: глава OpenAI предупреждает о рисках искусственного интеллекта

Сэм Альтман, генеральный директор компании OpenAI, разработавшей популярное приложение ChatGPT, рассказал о потенциальных рисках искусственного интеллекта (ИИ) и о том, как важно вовлекать общество и регуляторов для минимизации возможных последствий.

Альтман, которому 37 лет, подчеркнул, что ИИ несёт как огромные возможности, так и реальные опасности для общества. «Надо быть осторожными», — сказал он в интервью ABC News. «Людям стоит радоваться, что нам немного страшно», — добавил он.

Потенциальные угрозы

Главная тревога Альтмана связана с возможным использованием ИИ для масштабной дезинформации. Он также отметил, что новые модели уже умеют писать компьютерный код и могут быть использованы для кибератак.

Тем не менее, по его словам, ИИ может стать «величайшей технологией, созданной человечеством». Новая версия модели GPT-4 была выпущена менее чем через четыре месяца после предыдущей, став самой быстрорастущей потребительской технологией в истории.

Альтман отметил впечатляющие результаты: модель набрала 90% на экзаменах для юристов в США и почти идеально справилась с математическим тестом SAT. Она также умеет писать код на большинстве языков программирования.

ИИ как инструмент, а не замена человека

Многие опасаются, что ИИ заменит людей. Альтман подчеркнул, что ИИ работает только под управлением человека. «Он ждёт ввода от кого-то. Это инструмент под контролем человека», — пояснил он.

Однако тревога возникает из-за того, кто именно контролирует ИИ и какие ограничения устанавливает. «У общества есть ограниченное время, чтобы понять, как регулировать и контролировать это», — отметил Альтман.

«Галлюцинации» и способность рассуждать

Новая модель использует дедуктивное мышление, а не простое запоминание, что иногда приводит к странным ответам. «Главная проблема — это то, что мы называем проблемой ‘галлюцинаций’», — объяснил Альтман. «Модель может уверенно утверждать факты, которые полностью вымышлены».

Он подчеркнул, что модели следует рассматривать как «механизм рассуждений», а не базу данных фактов. Основная ценность ИИ — способность анализировать и рассуждать, а не просто запоминать информацию.

Вывод

То, что мы получаем от ИИ, зависит от того, что в него вкладываем. Важно использовать технологии ответственно и понимать, что ИИ — это инструмент, который помогает людям, а не заменяет их. 🌐✨