Rite Aid запретили использовать распознавание лиц после ошибок в идентификации покупателей 🛒👁️

Сеть аптек Rite Aid была обязана прекратить использование системы распознавания лиц в своих магазинах на пять лет после того, как федеральная комиссия по торговле США (FTC) установила многочисленные случаи ошибок и дискриминации.

С октября 2012 по июль 2020 года технология использовалась в сотнях магазинов, в том числе в Нью-Йорке, Лос-Анджелесе, Сан-Франциско, Филадельфии, Балтиморе, Детройте, Атлантик-Сити, Сиэтле, Портленде, Вилмингтоне и Сакраменто. Система отслеживала покупателей, которых ранее считали «вероятными нарушителями», и отправляла уведомления сотрудникам по электронной почте или телефону. Персонал мог усиливать наблюдение за такими людьми, запрещать им покупки или обвинять их перед другими посетителями.

FTC в жалобе указала, что технология неправильно идентифицировала покупателей, особенно женщин и людей с черной, латиноамериканской и азиатской внешностью, а Rite Aid не проводила тестов точности перед применением. Камеры часто предоставляли низкокачественные изображения, а база данных создавалась совместно с частными подрядчиками.

Организация Electronic Privacy Information Center (Epic) подчеркнула, что из-за ошибок тысячи людей оказались под повышенным наблюдением или были вынуждены покидать магазины. «Результат был предсказуем: тысячи неверных идентификаций, которые непропорционально затронули покупателей с темной кожей и латиноамериканских клиентов», — отметил директор Epic Джон Дэвиссон.

Rite Aid заявила, что речь идет о пилотном проекте, который был ограничен несколькими магазинами, и что система перестала использоваться более трех лет назад. Компания отметила, что уважает расследование FTC и поддерживает её миссию по защите приватности клиентов, но не согласна с утверждениями о нарушениях.

Исследования показывают, что системы распознавания лиц чаще ошибаются при идентификации людей с темной кожей. В США за последние годы известно несколько случаев ложных арестов из-за подобных технологий.

FTC назвала решение важным шагом для защиты приватности и гражданских прав, а эксперты подчеркивают необходимость осторожного и прозрачного использования алгоритмов для наблюдения за клиентами.

Rite Aid также находится в процессе банкротства и закрывает более 150 магазинов, сталкиваясь с финансовыми трудностями и судебными исками, аналогичными своим конкурентам, таким как CVS и Walgreens.