Риск предвзятости: как ИИ в Великобритании влияет на повседневную жизнь граждан 🤖⚖️

В Великобритании всё больше государственных органов используют искусственный интеллект для принятия решений, которые напрямую затрагивают людей. И хотя технологии обещают повысить эффективность, эксперты и общественные организации предупреждают о возможной предвзятости и негативных последствиях.

Один из ярких примеров касается системы выплат пособий. Депутат Кейт Осамор получила жалобы от граждан, чьи пособия были приостановлены без понятных причин. Многие из них сталкивались с трудностями в течение месяцев, не имея возможности оспорить решение. Осамор отмечает, что алгоритмы, применяемые Департаментом труда и пенсий (DWP), автоматически выявляют «рисковые» случаи, после чего решения о приостановке выплат принимает человек. Однако, в ряде случаев никаких нарушений обнаружено не было, а пособия возвращались лишь спустя долгое время.

DWP использует ИИ для выявления потенциального мошенничества с 2021 года. Алгоритм передает «подозрительные» дела для проверки специалистами, однако точные методы работы системы не раскрываются из соображений безопасности. При этом алгоритмы самообучаемы, и невозможно полностью контролировать, как они учитывают данные.

Не только DWP применяет ИИ с серьёзным влиянием на людей. Исследование показало, что как минимум восемь департаментов и несколько полицейских управлений используют подобные технологии.

Например:

• Министерство внутренних дел использует алгоритмы для выявления фиктивных браков. Однако проверка показала, что система чаще «выявляет» заявки из некоторых стран, что может создавать косвенную предвзятость.
• Полиция Лондона внедрила камеры распознавания лиц в реальном времени для обнаружения людей из «списков наблюдения». Тесты показали низкий уровень ошибок при стандартных настройках, но при повышении чувствительности камеры могли чаще ошибочно идентифицировать людей определённых демографических групп.
• Полиция Вест-Мидлендса использует ИИ для прогнозирования мест с повышенной вероятностью преступлений и анализа потенциально опасных правонарушителей.

Некоторые органы стараются повысить прозрачность. Например, Кабинет министров формирует центральную базу данных ИИ-инструментов, используемых государством. Но участие департаментов в этой базе остаётся добровольным.

Эксперты предупреждают: без прозрачности и регулирования применение ИИ может привести к серьёзным последствиям для граждан и общества. Шейм Ахмад, глава Public Law Project, отмечает:

«Примеры из других стран показывают катастрофические последствия для людей и общества. Отсутствие прозрачности и регулирования создаёт риск повторения таких ситуаций в Великобритании».

Регуляторы, такие как Комиссар по информации Джон Эдвардс, подчеркивают, что многие системы ИИ в государственном секторе работают корректно, и вмешательство человека помогает минимизировать риски. Тем не менее, камеры распознавания лиц остаются предметом наблюдения из-за потенциальной инвазивности.

Использование ИИ в государственных службах открывает новые возможности, но также требует внимательного контроля и прозрачности, чтобы технологии приносили пользу без ущерба для граждан 👁️‍🗨️💻.