Прогресс ИИ и риски безопасности: мнение одного из пионеров отрасли 🤖⚠️

Скорость развития искусственного интеллекта (ИИ) открывает новые возможности, но одновременно повышает потенциальные риски, предупреждают эксперты в недавно опубликованном докладе по безопасности ИИ. В числе авторов исследования — Йошуа Бенджио, один из признанных пионеров современной ИИ-индустрии. Он отметил, что достижения китайского стартапа DeepSeek и других разработчиков могут усилить конкуренцию, что иногда ведёт к снижению внимания к вопросам безопасности.

«Если компании считают, что их конкурент находится на одном уровне, они будут ускорять работу, возможно, уделяя меньше внимания безопасности», — говорит Бенджио.

Доклад Международного совета по безопасности ИИ, подготовленный группой из 96 экспертов, включая лауреата Нобелевской премии Джеффри Хинтона, рассматривает развитие ИИ в ключевых областях и риски, которые оно несёт. Среди опасений: использование ИИ для поиска уязвимостей в программном обеспечении, автоматизация сложных процессов и создание инструкций для научных и технических задач.

Бенджио отметил, что новые модели ИИ позволяют разрабатывать пошаговые инструкции, упрощая выполнение сложных задач даже для новичков. «Эти инструменты становятся всё доступнее для неспециалистов, так как они могут разбивать сложную задачу на маленькие шаги и помогать пользователю выполнять их правильно», — пояснил он.

Доклад также отмечает рост технологий для обнаружения ошибок в программном обеспечении, что потенциально может использоваться в кибербезопасности. Однако выполнение атак полностью автономно пока остаётся вне досягаемости ИИ, так как требуется высокая точность.

В числе других проблем — рост поддельного контента (deepfake), где ИИ создаёт убедительные изображения и видео людей, а также риски использования закрытых и открытых моделей для недобросовестных целей.

Бенджио подчеркнул, что новые модели, включая OpenAI o3 и DeepSeek R1, демонстрируют улучшенные способности к рассуждению, что может повлиять на рынок труда, создавая автономные агенты для выполнения задач. При этом эксперты отмечают, что ИИ пока не способен на долгосрочное планирование, которое позволило бы полностью выйти из-под контроля человека.

Доклад указывает на широкое влияние ИИ на окружающую среду через центры обработки данных и подчёркивает, что будущее технологий остаётся неопределённым — возможны как положительные, так и отрицательные сценарии. Решения, принимаемые обществом и государствами, будут определять направление развития ИИ.

Эта работа подчёркивает необходимость балансирования между использованием потенциала ИИ и управлением рисками, чтобы технологии приносили пользу, минимизируя угрозы безопасности и нежелательные последствия.