ffasa
Вчера 18:56
⚠️ Технологии «эмоционального анализа» под прицелом: компании предупреждают о рисках
Информационный комиссар предупредил компании о риске использования технологий «эмоционального анализа» и заявил, что их применение для серьёзных решений может повлечь штрафы. По словам заместителя комиссара Стивена Боннера, это первый раз, когда регулятор выпускает столь широкое предупреждение относительно новой технологии, но оно оправдано потенциальным вредом, если решения будут приниматься на основе ненадёжных данных.
🔹 Что такое «эмоциональный анализ»
Такие технологии пытаются определить эмоциональное состояние человека через биометрические данные: блеск кожи, мимолётные «микровыражения» лица и другие показатели.
«К сожалению, эти технологии не подтверждаются наукой», — отметил Боннер.
«Это тревожно, потому что некоторые организации рассматривают их как инструмент для принятия серьёзных решений: определить, кто мошенник, или подходит ли кандидат на работу. Но доказательств эффективности нет».
⚖️ Развлекательные и опасные применения
Использовать эмоциональный анализ ради развлечения — допустимо:
- например, на Хэллоуин, чтобы определить, кто испугался больше всех.
Но применять такие технологии для важных решений о людях — недопустимо:
- определение прав на получение возможностей или льгот
- оценка риска или назначение наказаний
- проверка кандидатов на должности
«Мы будем внимательно следить за организациями, которые используют это для серьёзных решений. Это гораздо более фундаментальная проблема, чем обычная защита данных. Фактически, это может нарушать права людей и законы, а технологии просто не работают», — подчеркнул Боннер.
🔹 Контекст и будущее регулирования
Разработка «эмоционального ИИ» входит в число четырёх ключевых проблем в области биометрических технологий, выявленных ICO. Некоторые вопросы связаны с ясностью правил защиты данных, а другие — с фундаментальной сложностью применения закона, например, когда камеры могут собирать биометрические данные человека на расстоянии без физического контакта.
Регулятор планирует в весне 2023 года опубликовать рекомендации по использованию биометрических технологий, включая:
- распознавание лиц
- отпечатков пальцев
- голоса
«Биометрические данные уникальны для человека и крайне сложно или невозможно их изменить, если они будут утрачены, украдены или использованы неправомерно», — отметили в ICO.
Эта ситуация подчёркивает, что технологии будущего требуют строгого научного обоснования и регулирования, особенно когда речь идёт о личных данных и правах человека. 🚨
