Влияние Илона Маска на развитие ИИ может привести к более строгим стандартам безопасности 🤖🛡️

Известный учёный Макс Тегмарк, специализирующийся на искусственном интеллекте, заявил, что влияние Илона Маска может способствовать внедрению более строгих стандартов безопасности для ИИ. По словам Тегмарка, Маск активно выражает обеспокоенность потенциальными рисками ИИ, включая системы, способные сопоставляться с человеческим интеллектом, и призывает к мерам, которые ограничат их неконтролируемое развитие.

В прошлом году Маск подписал письмо с более чем 30 000 участников, призывавшее временно приостановить работу над мощными ИИ-технологиями. Тегмарк отметил, что поддержка Маска законопроекта в Калифорнии, требовавшего стресс-тестирования крупных моделей ИИ перед выпуском, свидетельствует о его серьёзном отношении к безопасности технологий. Хотя губернатор штата Калифорния отклонил законопроект, Тегмарк считает, что подобная позиция Маска демонстрирует готовность к регулированию ИИ.

Учёный подчеркнул, что Маск способен убедить влиятельных лиц в необходимости мер по контролю за развитием систем искусственного общего интеллекта (AGI), способных превзойти человеческий интеллект. «Если Маску удастся привлечь внимание к вопросам ИИ, возможно, появятся стандарты безопасности, которые предотвратят неконтролируемое развитие AGI», — отметил Тегмарк.

Маск также является основателем и финансовым сторонником Института Future of Life, который занимается безопасным применением передовых технологий. Его собственный стартап в области ИИ нацелен на предотвращение потенциально опасных сценариев, когда системы ИИ выходят из-под контроля человека.

При этом эксперты напоминают, что фокус на долгосрочных угрозах не должен отвлекать от краткосрочных проблем, таких как манипуляции и дезинформация, создаваемые ИИ-системами. Важным аспектом регулирования остаётся обязательное тестирование систем с высоким риском для безопасности и здоровья людей, а также прозрачность в предоставлении результатов таких тестов регулирующим органам.

Таким образом, влияние Маска на индустрию ИИ рассматривается как фактор, который может стимулировать разработку более строгих и продуманных стандартов безопасности, направленных на предотвращение потенциальных рисков технологий будущего.