Оксфорд закрывает институт, которым руководил философ, поддерживаемый Илоном Маском 📚🤖

Оксфордский университет на этой неделе закрыл Институт будущего человечества (Future of Humanity Institute, FHI), которым руководил философ Ник Бостром, известный своими исследованиями долгосрочных угроз для человечества. Институт просуществовал 19 лет и был связан с движением долгосрочности и идеями эффективного альтруизма, популярными в Силиконовой долине.

Илон Маск в 2015 году пожертвовал институту 1 миллион фунтов через родственную организацию для исследований угроз искусственного интеллекта. Маск также в течение почти десятилетия поддерживал идеи Бострома в X (бывший Twitter).

Ник Бостром, шведский философ, стал известен благодаря своим работам о долгосрочной угрозе замены человечества ИИ. Его книга Superintelligence (2014) получила рекомендации таких известных фигур, как Сэм Альтман из OpenAI, Билл Гейтс и сам Маск. Маск тогда написал в Twitter: «Стоит прочитать Superintelligence Бострома. Нам нужно быть крайне осторожными с ИИ. Потенциально опаснее ядерного оружия».

После закрытия института Бостром ушёл из Оксфорда. Он опубликовал финальный отчёт, в котором отметил важность работы центра, но указал на «административные сложности» со стороны университета. По его словам, институт столкнулся с бюрократическим давлением и постепенным сужением автономии.

FHI был уникальным местом с плодотворной интеллектуальной культурой, подчеркнул Бостром. «Мы провели отличное время», — добавил он.

Университет сообщил, что пересматривал структуру академических исследований и после тщательного анализа принял решение о закрытии института. При этом Оксфорд отметил значимый вклад FHI в развитие науки, который будет продолжен другими исследователями университета.

Движение эффективного альтруизма, ориентированное на максимизацию пользы от ресурсов и действий людей, за последние годы привлекло внимание СМИ и крупных доноров, включая Сэма Бэнкмана-Фрида, основателя FTX. Однако в последние годы движение оказалось втянуто в скандалы, связанные с финансовыми махинациями и критикой лидеров.

Бостром также оказался в центре критики из-за расистских высказываний в письме из 1990-х годов, которые он позднее опроверг и пояснил свои взгляды на сложные вопросы, включая евгенику. Университет проводил расследование его поведения, а некоторые группы эффективного альтруизма дистанцировались от философа.

Институт Бострома получил значительное финансирование, включая £13,3 млн в 2018 году от Open Philanthropy Project. Несмотря на закрытие, вклад института в исследования долгосрочных рисков и искусственного интеллекта остаётся значимым для научного сообщества.

📖 Конец эпохи для института, но идеи, которые он продвигал, продолжат обсуждаться и развиваться в академической среде и за её пределами.