Генеральный секретарь ООН предупредил о рисках злоупотребления ИИ ⚠️🤖

Генеральный секретарь ООН Антониу Гутерриш заявил, что злонамеренное использование систем искусственного интеллекта может привести к «невообразимым» последствиям, вызывая массовые разрушения и психологический ущерб. Он предложил создать новый орган при ООН, который будет заниматься вопросами безопасности и регулирования технологий ИИ.

По словам Гутерриша, вредное использование ИИ для преступных или государственных целей уже наблюдается, в том числе в виде кибератак, направленных на миротворческие и гуманитарные операции ООН. «Злонамеренное применение ИИ может вызвать масштабные разрушения, травмы и глубокий психологический ущерб на невообразимом уровне», — отметил он.

Во время первой сессии Совета Безопасности ООН по теме ИИ обсуждалась роль генеративного ИИ — инструментов вроде ChatGPT, создающих убедительный текст, изображения и голос по человеческим запросам. Гутерриш подчеркнул, что такие технологии могут усилить распространение дезинформации, манипуляцию поведением людей и усилить влияние на общественное мнение.

Он предложил создать структуру по аналогии с Межправительственной панелью по изменению климата, чтобы поддерживать страны в использовании ИИ на благо человечества, минимизировать риски и внедрять международно согласованные механизмы мониторинга и управления.

Сессию возглавляло Великобритания, а министр иностранных дел Джеймс Клеверли подчеркнул необходимость глобального регулирования ИИ: «ИИ не знает границ, поэтому ни одна страна не останется в стороне. Необходимо вовлечь как можно больше международных участников из всех секторов».

В Великобритании этой осенью планируется провести глобальный саммит по безопасности ИИ. Руководитель рабочей группы по крупным моделям ИИ при правительстве страны Ян Хогарт отметил, что текущие системы ИИ требуют дальнейшего изучения экспертами: «Мы до конца не понимаем, как они работают».

Он добавил, что ИИ также может быть силой во благо: ускорять научные открытия, помогать создавать новые лекарства и технологии. Однако потенциально вредоносные действия в этой области могут представлять угрозу безопасности на национальном уровне. 🌐✨