«Крестный отец ИИ» оценивает риск угрозы человечеству в ближайшие 30 лет 🤖🌍

Британско-канадский учёный-компьютерщик, которого называют «крестным отцом искусственного интеллекта», обновил прогноз относительно риска ИИ для человечества, предупреждая, что технологии развиваются «гораздо быстрее», чем ожидалось.

Профессор Джеффри Хинтон, лауреат Нобелевской премии по физике за вклад в ИИ, заявил, что вероятность того, что ИИ приведёт к глобальной катастрофе или угрозе существованию человека в течение следующих 30 лет, составляет «от 10% до 20%». Ранее он оценивал этот риск в 10%.

В интервью на BBC Radio 4 Хинтона спросили, изменил ли он своё мнение о потенциальной «апокалипсисной» угрозе. Он ответил: «Не совсем, сейчас 10–20%». Экс-канцлер Саджид Джавид заметил: «Вы повышаете оценку», на что Хинтон ответил: «Если уж на то пошло… Мы никогда раньше не сталкивались с существами умнее себя».

Учёный привёл наглядный пример: «Сколько вы знаете случаев, когда более умное существо контролируется менее умным? Очень мало. Есть, пожалуй, только связь матери и ребёнка, и то природа постаралась, чтобы младенец мог влиять на мать».

Хинтон, профессор-эмерит в Университете Торонто, сравнил людей с детьми по сравнению с интеллектом мощных ИИ-систем: «Представьте себя рядом с трёхлетним ребёнком — мы будем этими трёхлетними».

Искусственный интеллект, по сути, — это компьютерные системы, выполняющие задачи, требующие человеческого интеллекта. В прошлом году Хинтон ушёл с работы в Google, чтобы свободнее говорить о рисках неограниченного развития ИИ, опасаясь, что технология может быть использована во вред.

Основная обеспокоенность экспертов по безопасности ИИ связана с созданием искусственного общего интеллекта — систем, умнее человека. Такой ИИ может представлять собой существующую угрозу, если выйдет из-под контроля.

Хинтон отметил, что когда он начинал работать с ИИ, не ожидал, что технологии достигнут текущего уровня так быстро. «Сейчас большинство экспертов считают, что в ближайшие 20 лет мы создадим системы, умнее человека. Это очень пугает», — сказал он.

Он подчеркнул, что развитие технологий происходит «очень, очень быстро, гораздо быстрее, чем я ожидал», и призвал к государственному регулированию: «Оставлять всё на волю крупных компаний недостаточно. Единственный способ, чтобы они занимались безопасным развитием технологий, — это государственные меры».

Хинтон — один из трёх учёных, получивших премию ACM A.M. Turing, аналог Нобелевской в области компьютерных наук. При этом один из его коллег, Ян Лекун, отметил, что ИИ также может помочь человечеству избежать угроз в будущем. 🌐💡