Международный доклад по безопасности ИИ: влияние на работу, экологию и технологии 🤖🌱

Международный доклад по безопасности искусственного интеллекта (ИИ) охватывает широкий спектр вопросов, связанных с быстро развивающимися технологиями. Документ, подготовленный после глобального саммита по безопасности ИИ в 2023 году, рассматривает угрозы от поддельного контента до кибератак и биотехнологий, а также влияние на рабочие места и окружающую среду.

Влияние на работу
В разделе о рисках для рынка труда отмечается, что ИИ может серьёзно изменить ситуацию на рынке. Особую тревогу вызывают автономные ИИ-агенты — системы, способные выполнять задачи без участия человека. «Искусственный интеллект общего назначения, особенно если он будет быстро развиваться, способен автоматизировать широкий спектр задач, что может привести к сокращению рабочих мест», — говорится в докладе.

Экономисты считают, что часть потерь может компенсироваться созданием новых рабочих мест и спросом в секторах, не затронутых автоматизацией. Международный валютный фонд оценивает, что около 60% рабочих мест в развитых странах подвержены влиянию ИИ, а половина из них может испытывать негативные последствия. В Великобритании ИИ может затронуть до 3 млн рабочих мест в частном секторе, но общее увеличение безработицы, по прогнозам экспертов, будет гораздо меньше, поскольку рост технологий создаёт новые возможности.

Экология и энергетика
Доклад описывает влияние ИИ на окружающую среду как «умеренное, но быстро растущее». Центры обработки данных, где обучаются и работают модели ИИ, потребляют значительное количество энергии. На эти центры приходится около 1% выбросов парниковых газов, при этом ИИ использует до 28% энергии этих центров. С ростом мощности моделей увеличивается и потребление энергии, часто получаемой из ископаемого топлива. Недостаточное использование возобновляемых источников и меры по повышению энергоэффективности не успевают за ростом потребления. Также доклад предупреждает, что потребление воды для охлаждения оборудования в центрах обработки данных может представлять угрозу для экологии и доступа людей к воде.

Контроль над ИИ
Главная опасность, отмечаемая экспертами, — возможность того, что мощная ИИ-система выйдет из-под контроля человека. Однако мнения специалистов различаются: кто-то считает это маловероятным, кто-то видит высокую вероятность, а кто-то оценивает риск как умеренный, требующий внимания. По словам Йошуа Бенджио, ИИ-агенты пока не способны к долгосрочному планированию, необходимому для радикальной автоматизации рабочих процессов или обхода правил безопасности.

Биотехнологии
Новые модели ИИ могут создавать инструкции для разработки патогенов и токсинов, превышающие уровень знаний специалистов с учёной степенью. Однако остаётся неизвестным, смогут ли ими эффективно пользоваться новички. Эксперты отмечают, что современные модели помогают профессионалам в планировании работы с известными биологическими угрозами.

Кибербезопасность и поддельный контент
Доклад указывает на растущие риски автономных ИИ-ботов, способных находить уязвимости в открытом программном обеспечении. Однако на данный момент технологии не позволяют ИИ полностью самостоятельно планировать и проводить кибератаки.

Поддельные изображения и видео (deepfake), созданные ИИ, уже использовались для мошенничества и создания компрометирующего контента. Доклад подчёркивает, что данных о масштабах таких случаев недостаточно, так как пострадавшие и компании часто не сообщают о проблемах, опасаясь репутационных потерь. Существуют также технические трудности с выявлением и удалением таких материалов, включая обход цифровых водяных знаков, идентифицирующих контент как созданный ИИ.

Доклад подчёркивает необходимость сбалансированного подхода к развитию ИИ: с одной стороны — использование потенциала технологий, с другой — контроль рисков для работы, экологии и цифровой безопасности.