Искусственный интеллект в Великобритании: как алгоритмы помогают принимать решения в госструктурах 🤖🏛️

В Великобритании государственные органы всё активнее используют искусственный интеллект (ИИ) для помощи в принятии решений, влияющих на повседневную жизнь граждан. Речь идёт о таких вопросах, как предоставление пособий, выдача паспортов и одобрение браков, показало расследование Guardian.

ИИ и алгоритмы применяются как минимум в восьми департаментах и нескольких полицейских управлениях. Они помогают чиновникам анализировать данные и принимать решения по социальным выплатам, вопросам миграции и соблюдения закона. Однако эксперты предупреждают: такие технологии могут давать предвзятые результаты.

Примеры использования ИИ в госструктурах:

• DWP (Департамент труда и пенсий) использует алгоритм для выявления потенциального мошенничества с пособиями. Некоторые депутаты считают, что алгоритм ошибочно приостанавливал выплаты десяткам людей.
• Полиция Лондона применяет камеры распознавания лиц в реальном времени. Исследования показали, что при повышении чувствительности камеры могут чаще ошибочно идентифицировать людей определённых демографических групп.
• Министерство внутренних дел использует алгоритм для выявления фиктивных браков. Внутренняя проверка показала, что система непропорционально часто отмечает заявки граждан из нескольких стран.

ИИ обычно обучается на больших объёмах данных и анализирует их способами, которые не всегда полностью понятны даже разработчикам. Если данные содержат предвзятость, эксперты предупреждают, что алгоритмы могут её воспроизвести в результатах.

Правительство подчёркивает потенциал ИИ для улучшения работы госслужб: ускорение обработки заявок, помощь медицинским учреждениям и повышение эффективности чиновников. Но случаи ошибок, такие как в Нидерландах, где автоматизированные системы неверно определяли претендентов на пособия, показывают потенциальные риски.

В ответ на это Кабинет министров запустил стандарт прозрачности алгоритмов, который поощряет департаменты и полицию добровольно раскрывать, где и как используются ИИ-инструменты для принятия решений, влияющих на людей. На сегодняшний день шесть организаций уже зарегистрировали проекты в рамках этого стандарта.

Эксперты отмечают, что хотя в ряде случаев человек принимает окончательное решение, алгоритмы, влияющие на процесс, могут формировать предвзятый поток информации. Это значит, что даже при «человеческой проверке» решения могут быть смещены.

Использование ИИ в государственных структурах открывает новые возможности для повышения эффективности, но также требует тщательного контроля и прозрачности, чтобы минимизировать риски для граждан и обеспечить справедливость решений ⚖️💻.