Новый закон ЕС по регулированию ИИ: что это значит для пользователей? 🤖🇪🇺

Европейский парламент на этой неделе одобрил предложенный закон об искусственном интеллекте, что стало важной вехой в регулировании технологий. После утверждения Советом министров закон вступит в силу в ближайшие недели, но внедряться он будет поэтапно в течение трёх лет с рядом дедлайнов для соблюдения требований.

«Пользователи смогут быть уверены, что ИИ-инструменты, к которым они имеют доступ, тщательно проверены и безопасны в использовании», — объяснил Гийом Кунесон, партнёр юридической фирмы Linklaters. По его словам, это похоже на доверие пользователей банковских приложений к мерам безопасности банков.

Что такое ИИ по закону?

Закон определяет ИИ как «систему на основе машинного обучения с разными уровнями автономности», которая способна обучаться после запуска и использовать входные данные для генерации предсказаний, контента, рекомендаций или решений, влияющих на физическую или виртуальную среду. Сюда входят чат-боты, инструменты для анализа резюме и другие системы, используемые в бизнесе и государстве.

Какие системы запрещены?

Запрет касается ИИ, способного:

• манипулировать людьми во вред;
• оценивать людей по социальному поведению или биометрическим данным;
• мониторить эмоции сотрудников или учеников;
• создавать базы данных лиц через сканирование изображений из интернета или камер видеонаблюдения;
• предсказывать преступления по модели Minority Report.

Исключения для правоохранительных органов

Технологии распознавания лиц в реальном времени запрещены, но могут использоваться органами власти в ограниченных случаях, например, для поиска пропавших людей или предотвращения чрезвычайных ситуаций. В некоторых экстренных случаях предварительное разрешение не требуется.

«Высокорисковые» системы

ИИ в критической инфраструктуре (вода, газ, электричество), образовании, здравоохранении, финансах и некоторых государственных сферах будет считаться высокорисковым. Такие системы должны быть точными, подлежат оценке рисков, контролю человека и ведению журнала использования. Граждане смогут запрашивать объяснения решений, принятых ИИ.

Генеративный ИИ и deepfake

Генеративный ИИ, создающий текст, изображения, видео и аудио, подпадает под правила для «систем общего назначения». Разработчики обязаны соблюдать авторские права и документировать используемые данные для обучения моделей. Deepfake-контент должен маркироваться как искусственно созданный, даже если это творческая или сатирическая работа.

Реакция компаний

Крупные технологические компании в целом поддерживают закон, но с оговорками. Amazon заявил о готовности сотрудничать с ЕС, а Meta✱ выразила осторожность по поводу чрезмерного регулирования, подчёркивая необходимость открытости для инноваций. Некоторые компании опасаются, что ограничения на вычислительные мощности ИИ моделей будут слишком строгими и приведут к переезду бизнеса за пределы ЕС.

Штрафы за нарушение

• €7,5 млн или 1,5% оборота — за предоставление неверной информации;
• €15 млн или 3% оборота — за нарушение обязательств по прозрачности;
• €35 млн или 7% оборота — за разработку или использование запрещённого ИИ.

Для стартапов и малых компаний предусмотрены более мягкие меры. После вступления закона в силу через 12 месяцев начнут действовать запреты на определённые категории ИИ, а высокорисковые системы должны будут соответствовать требованиям в течение трёх лет. Также создаётся Европейское управление по ИИ, которое будет устанавливать стандарты и контролировать работу моделей.

Этот закон призван сделать использование ИИ в Европе безопасным, прозрачным и подотчётным для пользователей и разработчиков. 🌐✅

        * Упомянутые организации запрещены на территории РФ