ffasa
1 Сентября
«Крестный отец ИИ» повысил шансы риска для человечества в ближайшие 30 лет 🤖⚠️
Британско-канадский учёный Джеффри Хинтон, которого часто называют «крестным отцом искусственного интеллекта», пересмотрел свои оценки возможного риска, связанного с ИИ, предупреждая, что темпы развития технологий идут «намного быстрее», чем ожидалось.
📊 Новые прогнозы Хинтона
Профессор Хинтон, лауреат Нобелевской премии по физике 2025 года за вклад в развитие ИИ, заявил, что существует 10–20% шанс, что искусственный интеллект может представлять существующую угрозу человечеству в ближайшие три десятилетия. Ранее Хинтон оценивал риск на уровне 10%.
Объясняя свою позицию, учёный отметил: «Мы никогда раньше не сталкивались с существами умнее нас. И примеров того, как менее умное существо контролирует более умное, крайне мало. Можно привести только пример матери и ребёнка».
Он добавил, что по сравнению с высокоразвитыми системами ИИ человечество будет напоминать трёхлетнего ребёнка: «Представьте себя и трёхлетнего ребёнка — мы будем трёхлетними».
⚡ Темпы развития и опасения
ИИ определяется как системы, способные выполнять задачи, которые обычно требуют человеческого интеллекта. Хинтон подчеркнул, что развитие технологий происходит гораздо быстрее, чем он ожидал, и призвал к государственному регулированию:
«Оставлять всё на волю рынка и прибыль крупных компаний недостаточно. Только государственные нормы могут заставить компании больше заниматься безопасностью».
В прошлом году Хинтон ушёл из Google, чтобы открыто говорить о рисках неконтролируемого развития ИИ, выражая беспокойство, что технология может быть использована во вред другими.
🛡️ Потенциальная угроза и безопасность
Одной из главных опасений экспертов по безопасности ИИ является появление искусственного общего интеллекта — систем умнее человека, которые могут выйти из-под контроля. Хинтон отметил, что многие эксперты считают, что в течение следующих 20 лет мы можем создать такие системы, что вызывает серьёзные опасения.
В то же время один из его коллег, Янн ЛеКун из Meta✱, считает, что ИИ может спасти человечество от некоторых глобальных угроз, подчеркивая, что технология не обязательно должна быть опасной.
🔍 Итоги
Прогнозы Хинтона показывают, что искусственный интеллект развивается с невиданной скоростью, и вопрос безопасности технологий становится всё более актуальным. Эксперты сходятся во мнении, что грамотное регулирование и меры предосторожности будут ключевыми для безопасного внедрения ИИ в ближайшие десятилетия. 🌐🤖
* Упомянутые организации запрещены на территории РФ