Британское правительство не ведёт реестр использования ИИ, хотя это обязательно 🖥️📊

Ни один департамент британского правительства пока не зарегистрировал использование систем искусственного интеллекта (ИИ), несмотря на то, что ведение такого реестра стало обязательным. Эксперты предупреждают, что это оставляет государственный сектор «в слепом полёте», не позволяя контролировать, как алгоритмы влияют на жизнь миллионов людей.

ИИ уже применяется для принятия решений по выплатам пособий, обработке иммиграционных дел и другим сферам. По данным, доступным на сегодняшний день, государственные учреждения заключили десятки контрактов на использование ИИ и алгоритмических сервисов. Например, недавно объявлен контракт полиции на программное обеспечение для распознавания лиц стоимостью до £20 млн, что вызвало опасения относительно «массового биометрического наблюдения».

Тем не менее, в открытый реестр внесены сведения только о девяти алгоритмических системах, при этом программы, используемые в системе социальных пособий, МВД и полицией, пока отсутствуют. В феврале 2024 года правительство объявило, что внесение данных о всех используемых алгоритмах станет обязательным для всех ведомств.

Эксперты предупреждают, что бесконтрольное внедрение ИИ может быть вредным. Примеры, такие как неудачные IT-системы Почтовой службы (Horizon), показывают, что техника иногда работает неправильно. В правительстве ИИ используется от Microsoft Copilot до систем автоматической проверки ошибок и мошенничества в выплатах пособий.

Питер Кайл, министр науки и технологий, признал, что государственный сектор «недостаточно серьёзно относится к необходимости прозрачности в использовании алгоритмов». Он подчеркнул: «Если правительство использует алгоритмы для работы с общественностью, граждане имеют право знать об этом».

Организации по защите приватности, такие как Big Brother Watch и Ada Lovelace Institute, предупреждают, что непрозрачное использование ИИ подрывает доверие общества и ограничивает возможности государственного сектора оценивать эффективность этих инструментов.

Национальный реестр содержит всего три зарегистрированные системы: система Кабинета министров для выявления ценных исторических документов, AI-камера для анализа пешеходных переходов в Кембридже и система анализа отзывов пациентов NHS. За тот же период было заключено 164 контракта с упоминанием ИИ.

Примеры использования ИИ включают:

• DWP использует генеративный ИИ для обработки более 20 000 документов в день и автоматической проверки ошибок в заявках на пособия;
• МВД применяет ИИ в системе иммиграционного контроля, где алгоритм помогает при принятии решений, но окончательная ответственность остаётся за человеком;
• Полиция нескольких регионов использует ИИ для распознавания лиц;
• NHS England сотрудничает с Palantir для создания платформы анализа данных с ИИ;
• ИИ-чатботы помогают гражданам и госслужащим быстро получать информацию и обзоры документов.

Специалисты отмечают, что прозрачность и контроль за использованием ИИ крайне важны для эффективности работы госструктур и сохранения доверия общества. 💡⚖️