Угроза от ИИ должна стать глобальным приоритетом, считают эксперты 🤖🌍

Группа ведущих мировых специалистов в области технологий предупредила, что искусственный интеллект (ИИ) следует рассматривать как серьёзный общественный риск, ставящий угрозу на один уровень с пандемиями и ядерной войной. Заявление, подписанное сотнями руководителей и академиков, было опубликовано Центром безопасности ИИ (Center for AI Safety) на фоне растущих опасений по поводу регулирования технологий и потенциальной угрозы для человечества.

«Снижение риска вымирания из-за ИИ должно быть глобальным приоритетом наряду с другими масштабными угрозами для общества, такими как пандемии и ядерная война», — говорится в документе. Среди подписавших — руководители DeepMind, OpenAI (разработчик ChatGPT) и стартапа Anthropic.

Мировые лидеры и эксперты отрасли призывают к регулированию ИИ из-за опасений, что технология может существенно повлиять на рынки труда, затронуть здоровье миллионов людей и способствовать распространению дезинформации, дискриминации и манипуляций. В этом месяце один из пионеров ИИ — Джеффри Хинтон, также подписавший письмо — ушёл из Google, сославшись на «существенные риски» технологии.

Британское правительство недавно впервые официально признало потенциальные угрозы ИИ, что стало быстрым изменением позиции после публикации устаревшей отраслевой белой книги.

По словам профессора Майкла Осборна из Оксфордского университета, коавтора письма и специалиста по машинному обучению, это заявление может стать самым значимым среди подобных обращений благодаря широкому кругу подписавших и фокусу на экзистенциальной угрозе. «Примечательно, что так много людей поддержали это письмо. Оно показывает, что среди работающих в сфере ИИ растёт понимание серьёзных рисков для человечества», — отметил он.

Эксперты опасаются, что ИИ может усилить уже существующие глобальные угрозы, включая возможные биологические риски и гонку вооружений. После запуска ChatGPT в ноябре, который быстро получил широкое распространение и превзошёл прогнозы экспертов, тревога усилилась.

«Поскольку мы ещё плохо понимаем ИИ, существует вероятность, что он станет своего рода новым „конкурирующим организмом“ на планете — инвазивным видом, созданным человеком, который может оказать разрушительное влияние на выживание человечества», — предупреждает Осборн. 🌐⚠️