Microsoft ужесточает правила использования технологии распознавания лиц 🤖👁️

Microsoft объявила о пересмотре своих принципов этичного использования искусственного интеллекта и ограничении доступа к некоторым функциям распознавания лиц. В рамках нового стандарта «ответственного ИИ» компания заявляет, что будет ставить людей и их цели в центр всех решений при разработке систем.

Теперь компании, желающие использовать возможности распознавания лиц через сервис Azure Face, должны подать отдельное заявление, доказывая соответствие новым этическим стандартам Microsoft и пользу технологий для пользователей и общества. Даже получившие доступ компании не смогут использовать спорные функции, такие как анализ эмоций, определение пола или возраста по лицу — эти возможности будут сняты с продажи. 🛑

«Мы работали с внутренними и внешними исследователями, чтобы понять ограничения и потенциальные преимущества технологии и взвесить компромиссы», — отметила Сара Бёрд, менеджер продукта Microsoft. Она подчеркнула, что в случае классификации эмоций возникли вопросы о приватности, отсутствии общепринятого определения эмоций и невозможности универсально связывать выражение лица с эмоциональным состоянием.

Microsoft не отказывается полностью от распознавания эмоций — компания продолжит использовать его внутри организации для специальных инструментов, таких как Seeing AI, которые помогают людям с нарушениями зрения описывать окружающий мир.

Аналогичные ограничения коснулись технологии синтеза голоса, которая позволяет создавать практически идентичные оригиналу искусственные голоса. «Легко представить, как это может использоваться для имитации говорящего и введения в заблуждение», — сказала Наташа Крамптон, глава отдела ответственного ИИ Microsoft. Ранее в этом году компания начала внедрять водяные знаки в синтетические голоса, добавляя едва заметные колебания, чтобы определить, что запись создана искусственным голосом.

«С развитием технологий синтеза речи растёт риск вредоносных подделок и фальшивых аудиозаписей», — добавила Циньин Ляо из Microsoft.

Microsoft таким образом делает шаг в сторону более безопасного и прозрачного использования ИИ, ограничивая функции, которые могут вызвать спорные или опасные последствия для пользователей. 🌐✨