Новый закон ЕС по ИИ: что изменится для пользователей? 🤖🇪🇺💡

Европейский парламент одобрил законопроект по регулированию искусственного интеллекта (ИИ), и теперь он готов к окончательному утверждению Советом министров ЕС. Закон вступит в силу поэтапно с рядом дедлайнов на ближайшие три года.

«Пользователи смогут быть уверены, что инструменты ИИ прошли тщательную проверку и безопасны для использования», — говорит Гийом Кунесон из юридической фирмы Linklaters. По его словам, это похоже на доверие к банковским приложениям: клиенты уверены, что банк обеспечивает их защиту.

Что такое ИИ по закону ЕС?

В законе ИИ определяется как компьютерная система, выполняющая задачи, которые обычно ассоциируются с человеческим интеллектом — например, написание текста или создание изображения. Более подробно это «система, работающая с различной степенью автономности, способная адаптироваться после запуска и генерировать прогнозы, контент, рекомендации или решения, влияющие на физическую или виртуальную среду». Это охватывает чат-ботов и системы для обработки резюме, оценки заявок и других данных.

Какие системы будут запрещены?

Под запрет попадают:

• манипулятивные системы, наносящие вред людям;
• системы социального рейтинга;
• предиктивное наблюдение в стиле «Minority Report»;
• мониторинг эмоций на работе или в школах;
• биометрическая категоризация на основе расы, религии, ориентации и т.д.;
• базы данных распознавания лиц, собранные с интернета или камер наблюдения.

Исключения предусмотрены для правоохранительных органов, военной и научной сферы.

Системы с высоким риском

«Высокорисковые» системы, хотя и разрешены, будут тщательно контролироваться. Это касается критической инфраструктуры, образования, здравоохранения, финансов и правоохранительных органов. Системы должны быть точными, проходить оценку рисков, контролироваться человеком и вести журнал действий. Граждане ЕС смогут запрашивать объяснения решений ИИ, которые на них повлияли.

Генеративный ИИ

Системы, создающие текст, изображения, видео или аудио на основе команд, подпадают под категорию «общего назначения». Разработчики должны соблюдать авторское право ЕС и предоставлять данные о материалах, использованных для обучения моделей. Модели с «системным риском», такие как чат-боты и генераторы изображений, должны сообщать о серьезных инцидентах и проходить «адверсариальное тестирование», когда эксперты проверяют защиту модели.

Глубокие фейки (deepfakes)

Любой контент, созданный ИИ или измененный им, должен быть помечен. Исключения сделаны для творческих или сатирических работ, но они также должны быть помечены, чтобы не вводить зрителя в заблуждение.

Реакция компаний

Крупные технологические компании в целом поддерживают закон, но выражают осторожность в деталях. Amazon заявил о готовности сотрудничать с ЕС для безопасного развития ИИ, а Meta✱ предупредила о риске чрезмерного регулирования.

Штрафы за нарушение

Нарушение правил может повлечь штрафы от €7,5 млн или 1,5% мирового оборота до €35 млн или 7% оборота за использование запрещенных инструментов ИИ. Меньшие компании получат пропорционально сниженные штрафы.

Закон предусматривает создание Европейского офиса по ИИ, который будет разрабатывать стандарты и контролировать соответствие моделей требованиям.

В итоге новый закон ЕС обещает сделать ИИ более безопасным и прозрачным для пользователей, одновременно стимулируя ответственные практики среди разработчиков технологий. ⚖️💻🌍

        * Упомянутые организации запрещены на территории РФ