Влияние Илона Маска может привести к ужесточению стандартов безопасности ИИ 🤖⚡

Ведущий учёный в области искусственного интеллекта считает, что влияние Илона Маска на новую администрацию США может способствовать введению более строгих стандартов безопасности для ИИ.

Макс Тегмарк, профессор Массачусетского технологического института, работавший с Маском над проблемами безопасного развития технологий, подчеркнул, что миллиардер давно проявляет озабоченность возможными угрозами от ИИ. Маск неоднократно предупреждал, что бесконтрольное развитие искусственного интеллекта — то есть систем, способных выполнять задачи, требующие человеческого интеллекта — может иметь катастрофические последствия для человечества.

Тегмарк отметил, что Маск поддерживал законопроект SB 1047 в Калифорнии, который требовал стресс-тестирования крупных ИИ-моделей перед их выпуском. Несмотря на то, что законопроект был заблокирован губернатором, позиция Маска демонстрирует его стремление к регулированию отрасли и защите общества от потенциальных рисков.

«Если Илон сможет убедить руководство страны обратить внимание на вопросы безопасности ИИ, мы, скорее всего, получим стандарты, препятствующие развитию искусственного общего интеллекта (AGI)», — говорит Тегмарк. AGI — это системы ИИ, способные достигать или превышать уровень человеческого интеллекта. Учёный добавил, что участие Маска может помочь объяснить важность осторожного подхода к гонке за AGI.

Маск также активно поддерживает Future of Life Institute Тегмарка, который продвигает безопасное использование передовых технологий. В прошлом году миллиардер основал собственный стартап в области ИИ и предупреждал о возможном «терминаторском будущем», если системы выйдут из-под контроля человека.

Эксперты подчёркивают, что помимо долгосрочных угроз, важно уделять внимание и краткосрочным проблемам ИИ — например, созданию манипулятивного и вводящего в заблуждение контента.

В целом, сочетание влияния Маска и разработка стандартов безопасности может стать важным шагом для более безопасного и контролируемого развития технологий ИИ в будущем. 🌐💡