Бывший исследователь по безопасности AI: темпы развития технологий пугают ⚡🤖

Экс-исследователь по безопасности в OpenAI Стивен Адлер заявил, что его «довольно сильно пугает» стремительное развитие искусственного интеллекта и что отрасль ведёт «очень рискованную игру» с технологией.

Адлер выразил опасения по поводу компаний, активно работающих над созданием искусственного общего интеллекта (AGI) — систем, способных выполнять интеллектуальные задачи на уровне человека или выше. Он отметил, что скорость развития технологий вызывает вопросы о будущем человечества и о том, как быстро мы сможем адаптироваться к новым реалиям.

«Меня пугает темп развития AI сегодня. Когда я думаю о будущем, о семье или накоплениях на пенсию, невольно задаюсь вопросом: успеет ли человечество дойти до этого момента?» — написал он в своих публикациях.

Адлер подчеркнул, что ни одна лаборатория пока не имеет полного решения для так называемой «AI-совместимости» — процесса, который гарантирует, что системы действуют в соответствии с человеческими ценностями. Он отметил, что гонка за AGI несёт большие риски, и ускорение разработки уменьшает шансы вовремя найти надёжные решения по безопасности.

Он также отметил, что даже если какая-то лаборатория стремится создавать AI ответственно, другие участники отрасли могут пытаться обойти правила, чтобы догнать конкурентов, что может привести к нежелательным последствиям.

Адлер работал в OpenAI четыре года, руководя исследованиями по безопасности как для новых продуктов, так и для перспективных долгосрочных проектов. По его словам, для индустрии важно разработать «реальные регламенты безопасности», чтобы развитие AI было максимально безопасным и предсказуемым.

Эти комментарии появилось на фоне появления новых AI-моделей от международных компаний, которые показывают возможности технологий при сравнительно меньших ресурсах, что подчеркивает важность ответственного подхода к инновациям.