Бум ИИ может не принести только пользу, предупреждает британский регулятор ⚠️🤖

Британский орган по конкуренции и рынкам (CMA) предостерёг: не стоит автоматически ожидать положительного эффекта от стремительного развития искусственного интеллекта. Среди потенциальных рисков — распространение ложной информации, мошенничество, фальшивые отзывы, а также высокая стоимость использования технологий.

CMA отметила, что новые поколения ИИ-систем могут принести пользу как людям, так и бизнесу. Однако доминирование крупных игроков и нарушения законов о защите потребителей создают угрозу, которая может ограничить экономические преимущества технологий.

Регулятор опубликовал первичный обзор так называемых «фундаментальных моделей» — технологий, лежащих в основе инструментов вроде чат-бота ChatGPT и генераторов изображений, таких как Stable Diffusion. Появление ChatGPT особенно подчеркнуло влияние генеративного ИИ, который создаёт тексты, изображения и голосовые сообщения по запросам пользователей, на экономику и рынок труда.

Генеральный директор CMA Сара Карделл подчеркнула, что скорость интеграции ИИ в повседневную жизнь «впечатляющая» и может облегчить миллионы рутинных задач, повысив производительность. Но Карделл предупреждает: «Мы не можем воспринимать позитивное будущее как должное. Существует риск, что использование ИИ будет ограничено несколькими крупными игроками, что не позволит всей экономике получить полные выгоды».

CMA определяет фундаментальные модели как «крупные универсальные модели машинного обучения, обученные на огромных объёмах данных и способные решать широкий спектр задач», включая чат-ботов, генераторы изображений и офисные программы Microsoft 365.

Регулятор отметил, что многие компании уже присутствуют в нескольких ключевых областях экосистемы ИИ, владея инфраструктурой, необходимой для разработки и распространения моделей, включая дата-центры, серверы и хранилища данных. Это касается таких компаний, как Google, Microsoft и Amazon, а также стартапов вроде OpenAI и британской Stability AI.

CMA предупреждает, что ограниченный доступ к данным и вычислительным ресурсам может привести к росту цен на использование ИИ и усилению рыночной власти нескольких игроков. Также важны вопросы авторских прав: издатели и творческие индустрии обеспокоены использованием их материалов при обучении ИИ без указания авторства.

В отчёте CMA предложила принципы развития ИИ:

• обеспечение равного доступа к данным и вычислительным ресурсам для всех разработчиков;
• сочетание «закрытых» и «открытых» моделей;
• доступ бизнесов к различным ИИ-моделям;
• недопущение антиконкурентного поведения, например, привязки моделей к другим сервисам;
• прозрачная информация для пользователей о возможностях и ограничениях ИИ.

Обновлённая версия принципов и их восприятие публикуются CMA в 2024 году. Британское правительство проведёт глобальный саммит по безопасности ИИ в начале ноября. 🌐✨