Llama 2: Meta✱ открывает исходный код ИИ-модели и какие риски это несёт 🤖💻

Компания Meta✱ на этой неделе представила открытую версию модели искусственного интеллекта Llama 2, доступную для широкой публики. Эта крупная языковая модель (LLM) позволяет создавать чат-ботов наподобие ChatGPT и доступна как для стартапов, так и для крупных компаний или отдельных разработчиков.

Что такое открытая языковая модель? 🧠

LLM лежат в основе ИИ-инструментов, таких как чат-боты. Они обучаются на огромных объёмах данных, чтобы имитировать человеческий язык и даже компьютерное программирование. Если модель открыта для публики, её можно использовать, изучать и модифицировать под свои цели.

Llama 2 выпускается в трёх версиях, включая вариант для интеграции в чат-бота. Идея в том, что компании могут создавать собственные продукты на базе модели, потенциально конкурируя с ChatGPT или Bard от Google. При этом Meta✱ признаёт, что Llama 2 пока уступает GPT-4, на котором основан ChatGPT, но остаётся бесплатной альтернативой.

Зачем Meta✱ делает модель открытой? 🌐

Ник Клегг, президент Meta✱ по глобальным вопросам, отметил, что открытый доступ делает модели безопаснее и лучше за счёт внешнего контроля. «С коллективным разумом вы улучшаете системы и, что важно, выводите их из… монополии крупных компаний, которые пока единственные обладают мощностью и данными для создания таких моделей», — сказал он.

Кроме того, предоставление Llama 2 широкому кругу разработчиков может размыть конкурентное преимущество крупных игроков, таких как Google, но при этом открывает возможности для появления новых продуктов. Модель уже доступна через платформы Microsoft Azure, Amazon Web Services и Hugging Face.

Какие есть опасения? ⚠️

Эксперты ИТ-индустрии, включая сооснователя OpenAI Илона Маска, выражают опасения по поводу «гонки вооружений» в сфере ИИ. Открытый код делает мощный инструмент доступным для всех, что сложно регулировать.

Профессор Уэнди Холл из Университета Саутгемптона сравнила это с «шаблоном для создания ядерной бомбы». По словам доктора Эндрю Рогоцкого из Университета Суррея, открытые модели трудно контролировать. «Вы можете регулировать репозитории вроде GitHub или Hugging Face через местное законодательство, но открытый код доступен всем, и это не предотвращает использование модели в неправильных целях», — сказал он.

Есть ли у Meta✱ меры безопасности? 🛡️

Для скачивания Llama 2 требуется согласие с политикой «приемлемого использования», запрещающей использование модели для насилия, терроризма или создания дезинформации. Также Meta✱ опубликовала руководство по ответственному использованию модели для разработчиков.

Тем не менее, как и другие LLM, Llama 2 может генерировать недостоверную информацию и быть выведена из-под контроля при неправильной настройке. Поэтому даже открытые модели требуют внимательного и ответственного подхода.

В целом, выпуск Llama 2 — это шаг к более доступным ИИ-технологиям, но он сопровождается необходимостью контроля и ответственности за их использование.

        * Упомянутые организации запрещены на территории РФ