Крупные компании создают совет по безопасной разработке ИИ 🤖🌐

Четыре ведущие компании в области искусственного интеллекта объявили о создании отраслевого органа для контроля безопасного развития самых передовых моделей ИИ. В новую организацию под названием Frontier Model Forum вошли OpenAI, Anthropic, Microsoft и Google (владелец британской компании DeepMind).

Главная цель форума — продвижение «безопасного и ответственного» развития передовых моделей ИИ, способных выполнять широкий спектр задач и превышающих возможности существующих технологий.

«Компании, создающие технологии ИИ, несут ответственность за то, чтобы они были безопасными, надежными и оставались под контролем человека», — заявил президент Microsoft Брэд Смит. «Эта инициатива — важный шаг для объединения технологического сектора, чтобы развивать ИИ ответственно и решать возникающие вызовы на благо всего человечества».

Форум планирует сосредоточиться на нескольких направлениях:

• развитие исследований по безопасности ИИ, включая создание стандартов для оценки моделей;
• поддержка ответственного внедрения передовых ИИ-моделей;
• обсуждение вопросов доверия и безопасности ИИ с политиками и учёными;
• разработка позитивных применений ИИ, например, для борьбы с изменением климата и раннего выявления заболеваний.

Членство в форуме открыто для организаций, разрабатывающих передовые модели, определяемые как крупномасштабные модели машинного обучения, способные выполнять задачи, недоступные существующим технологиям.

Создание форума происходит на фоне активизации мер по регулированию технологий ИИ. Недавно ведущие компании договорились о новых мерах безопасности после встречи с Белым домом, включая маркировку контента, созданного ИИ, для борьбы с дезинформацией, и предоставление независимым экспертам возможности тестировать модели.

Эксперты предупреждают о рисках чрезмерного влияния компаний на регулирование. Доктор Эндрю Рогойски из Института человеко-ориентированного ИИ при Университете Суррея отметил: «Технология слишком мощная, чтобы оставлять её только в руках частного сектора. Необходим независимый контроль, представляющий интересы людей, экономики и общества».

Форум демонстрирует стремление индустрии объединиться и повысить прозрачность и безопасность в развитии ИИ, одновременно учитывая потребность в инновациях и защите общества. 🌟