Эксперты предупреждают: инструменты обнаружения дипфейков должны корректно работать с тёмными оттенками кожи 🖤🤖

Разрабатываемые технологии для выявления дипфейков — реалистичных поддельных видео и аудио — должны учитывать людей с тёмной кожей, иначе они рискуют проявлять предвзятость, предупреждают эксперты.

Большинство детекторов дипфейков обучаются на специальных наборах данных, после чего искусственный интеллект ищет признаки манипуляций, невидимые человеческому глазу. Например, это может быть отслеживание кровотока или сердечного ритма. Однако эти методы не всегда корректно работают с людьми с тёмной кожей, и если в обучающих наборах отсутствует разнообразие по этнической принадлежности, возрасту, полу и оттенкам кожи, системы становятся предвзятыми.

Рижул Гупта, эксперт по синтетическим медиа и CEO компании DeepMedia, отмечает:

«Наборы данных обычно сильно смещены в сторону белых мужчин среднего возраста, и такие технологии всегда негативно влияют на маргинализированные группы».

В DeepMedia, по его словам, системы специально учитывают возраст, расу и пол человека, чтобы повысить точность детекции и снизить предвзятость.

Гупта добавляет, что инструменты, использующие визуальные сигналы, например, кровоток или частоту сердцебиения, «показывают худшие результаты для людей с тёмной кожей, так как по видео сложнее определить пульс». В результате это повышает риск мошенничества и распространения недостоверной информации, особенно среди уязвимых сообществ.

Мутале Нконде, консультант по AI и основатель AI for the People, подчеркивает:

«Если технология предназначена для обеспечения безопасности, она должна защищать всех. К сожалению, на данный момент это не так».

Эллис Монк, профессор социологии Гарварда и разработчик Monk Skin Tone Scale, предлагает более инклюзивную шкалу оттенков кожи, которая позволит создавать наборы данных и модели машинного обучения с более широким спектром тонов кожи. Он отмечает:

«Люди с тёмной кожей изначально были исключены из разработки технологий. Необходимо создавать новые наборы данных с более полной и репрезентативной выборкой по оттенкам кожи».

Эксперты уверены: только включение всех оттенков кожи в обучение AI позволит сделать детекторы дипфейков точными и справедливыми для всех пользователей. 🌍💡