Калифорния продвигает законопроект о регулировании крупных моделей ИИ 🤖📜

Калифорнийский законопроект, который может стать первым в США, устанавливающим меры безопасности для самых крупных систем искусственного интеллекта, прошёл важное голосование в среду. Предложение направлено на снижение потенциальных рисков, связанных с ИИ, и требует от компаний тестировать свои модели и публично раскрывать протоколы безопасности, чтобы предотвратить их использование во вред — например, для атак на энергосистему или создания опасных химических веществ, что эксперты считают возможным в будущем с быстрым развитием технологий.

Законопроект едва прошёл в собрании штата и получил процедурное одобрение в сенате. Теперь он направляется на подпись губернатору, хотя Гэвин Ньюсом пока не озвучил свою позицию. У него есть до конца сентября, чтобы подписать закон, наложить вето или позволить ему вступить в силу без подписи. Ранее летом губернатор предупреждал о рисках чрезмерного регулирования ИИ.

Сторонники законопроекта отмечают, что он задаёт первые важные правила безопасности для крупномасштабных моделей ИИ в США. Закон затрагивает системы, требующие более \$100 млн данных для обучения, однако на данный момент ни одна модель таких масштабов ещё не достигла.

Законопроект, подготовленный демократом Скоттом Винером, столкнулся с ожесточённой оппозицией со стороны венчурных компаний и крупных технологических фирм, включая OpenAI, Google и Meta✱. Они считают, что регулирование должно исходить от федерального правительства, а не нацеливаться на разработчиков, вместо контроля за использованием ИИ во вред. Винер заявил, что его законопроект предусматривает «лёгкий подход»: «Инновации и безопасность могут идти рука об руку — и Калифорния показывает пример», — отметил он после голосования.

Этот законопроект является частью десятков инициатив, предложенных в этом году калифорнийскими законодателями для повышения доверия к ИИ, борьбы с алгоритмической дискриминацией и запрета дипфейков, связанных с выборами. Поскольку ИИ всё больше влияет на повседневную жизнь американцев, законодательство пытается найти баланс между контролем технологий и поддержкой быстрорастущей индустрии.

Калифорния, где расположены 35 из 50 крупнейших ИИ-компаний мира, активно внедряет ИИ и планирует использовать генеративные инструменты для решения задач дорожного движения и безопасности. Илон Маск, владелец X (бывший Twitter) и основатель xAI, поддержал законопроект, отметив, что решение «сложное». Его компания X разрабатывает чат-бота и генератор изображений Grok, которые имеют меньше встроенных защит по сравнению с другими крупными моделями ИИ.

Маск подчеркнул: «Более 20 лет я выступаю за регулирование ИИ, так же как регулируются любые технологии, представляющие потенциальную опасность для общества».

Некоторые депутаты Калифорнии и группы индустрии выразили критику, называя законопроект «основанным на научно-фантастических сценариях», сравнивая его с Blade Runner и Терминатором. В ответ на это закон был доработан: из него убрали положения о лжесвидетельстве, ограничили полномочия генпрокурора штата по искам к нарушителям и уточнили задачи нового агентства по регулированию ИИ.

Стартап Anthropic, поддерживаемый Amazon и Google, поддержал доработанный законопроект, считая его важным для предотвращения катастрофического использования мощных ИИ-систем, заявив, что «его преимущества, вероятно, перевешивают затраты». 🌟

        * Упомянутые организации запрещены на территории РФ