Эксперты бьют тревогу: безудержное развитие ИИ ставит человечество под риск 🤖⚠️

Некоторые технологические компании создают угрозу будущему человечества, развивая искусственный интеллект без должного контроля, считают ведущие специалисты. Макс Тегмарк, профессор физики и исследователь ИИ в Массачусетском технологическом институте, заявил, что мир стал свидетелем «гонки на дно», которую необходимо остановить.

Тегмарк организовал открытое письмо, опубликованное в апреле и подписанное тысячами специалистов, включая Илона Маска и сооснователя Apple Стива Возняка. В письме они призывали приостановить на шесть месяцев эксперименты с крупными системами ИИ. «Нам срочно нужны стандарты безопасности ИИ, чтобы эта гонка превратилась в гонку к вершине. ИИ обещает огромные преимущества, но безудержная разработка мощных систем без надзора ставит под угрозу экономику, общество и нашу жизнь», — подчеркнул Тегмарк.

В опубликованном на этой неделе документе 23 эксперта по ИИ, включая двух лауреатов премии Тьюринга, призвали дать правительствам возможность приостанавливать разработку особенно мощных моделей. Джиллиан Хадфилд, соавтор документа и директор Института технологий и общества при Университете Торонто, отметила, что в ближайшие 18 месяцев планируется создание моделей в десятки раз мощнее существующих, и никто не знает, на что они будут способны.

Эксперты предлагают лицензировать разработку таких моделей, вводить строгие меры безопасности и при необходимости останавливать их развитие, пока не будут обеспечены адекватные механизмы контроля. Особое внимание уделяется искусственному общему интеллекту (AGI) — системам, способным выполнять широкий спектр задач на уровне или выше человеческого интеллекта.

В то же время крупнейшие технологические компании активно инвестируют в развитие ИИ. Amazon планирует вложить до \$4 млрд в стартап Anthropic, Microsoft вложила \$13 млрд в OpenAI, а Alphabet (Google) потратила около \$120 млрд на ИИ и облачные технологии с 2016 года, включая проекты DeepMind, LaMDA и Bard. Meta✱ также делает ставку на ИИ, планируя потратить \$33 млрд в этом году на развитие своей платформы больших языковых моделей Llama.

По прогнозам Goldman Sachs, к 2025 году в ИИ может быть инвестировано до \$200 млрд глобально, что приведет к масштабным изменениям в бизнесе и обществе, а также к росту продуктивности и ВВП. Объём инвестиций в новые компании в секторе ИИ продолжает расти: только в третьем квартале этого года он составил почти \$18 млрд, что на 27% больше, чем в аналогичный период прошлого года.

Эксперты предупреждают: если развитие ИИ продолжится без надлежащего контроля, человечество рискует столкнуться с серьёзными последствиями. Стандарты безопасности и регулирование технологий остаются критически важными для безопасного внедрения ИИ. 🌐💡

        * Упомянутые организации запрещены на территории РФ