В США начали расследование против создателя ChatGPT 🤖⚖️

Создатель ChatGPT, компания OpenAI из Сан-Франциско, находится под пристальным вниманием главного американского регулятора конкуренции — Федеральной торговой комиссии (FTC). Проверка касается того, нарушала ли компания законы о защите потребителей, нанося ущерб репутации людей через ответы ИИ и неправомерно используя персональные данные.

FTC направила OpenAI 20-страничный запрос документов о том, как компания управляет рисками, связанными с её моделями ИИ. В центре внимания — возможные несправедливые или вводящие в заблуждение действия, которые могли привести к репутационному ущербу пользователей.

Одна из ключевых проблем — генерация ChatGPT недостоверной информации о реальных людях. Например, в одном случае чат-бот ошибочно обвинил профессора права в США в сексуальных домогательствах, ссылаясь на несуществующую статью в Washington Post. Такие ошибки возможны из-за того, что чат-боты работают как система предсказания текста, выбирая наиболее вероятные слова или предложения после запроса пользователя. В результате ответы кажутся правдоподобными и могут вводить в заблуждение.

FTC также потребовала от OpenAI раскрыть данные, использованные для обучения больших языковых моделей (LLM), лежащих в основе ChatGPT. На данный момент компания отказывается делиться этой информацией. Среди истцов против OpenAI находится американская комедиантка Сара Сильверман, утверждающая, что её работы использовались для обучения модели без разрешения.

Регулятор хочет узнать, откуда OpenAI брала данные: напрямую с сайтов через «scraping» или покупала у третьих лиц, а также какие меры компания принимала, чтобы защитить личные данные пользователей.

Эксперты предупреждают, что плохое управление ИИ может стать серьёзной проблемой для потребителей и бизнеса, приводя к расследованиям и штрафам.

«Пока большие языковые модели остаются непрозрачными и в основном обучаются на данных, собранных с интернета, риск нарушения приватности и вреда отдельным людям будет только расти», — отмечает Энза Яннополло, аналитик компании Forrester.

С ростом интереса к мощным сервисам ИИ усиливается регуляторный контроль. По всему миру власти проверяют, как компании соблюдают законы о копирайте, защите данных и безопасном использовании данных для обучения моделей.

В Великобритании премьер-министр Риши Сунак готовит глобальный саммит по безопасности ИИ этой осенью, а местный регулятор конкуренции также внимательно следит за индустрией. В США лидер большинства в Сенате Чак Шумер призвал к всеобъемлющему законодательству, которое будет регулировать развитие ИИ и обеспечивать безопасность пользователей.

Ранее в этом году OpenAI столкнулась с трудностями в Италии: местный регулятор временно заблокировал ChatGPT из-за нарушений европейского закона о защите данных (GDPR). Позже сервис был восстановлен после того, как компания добавила проверку возраста пользователей и возможность блокировки использования их данных для обучения ИИ.

ИИ продолжает активно внедряться в повседневную жизнь, но усиливающийся надзор регуляторов подчёркивает важность прозрачности и защиты пользователей при его использовании.