Британское правительство пока не ведёт обязательный реестр использования ИИ ⚠️🤖

С момента введения обязательного реестра использования искусственного интеллекта ни одно правительственное ведомство Великобритании не зарегистрировало свои алгоритмические системы, вызывая опасения, что государственный сектор действует «вслепую», применяя технологии, влияющие на миллионы людей.

ИИ уже используется в управлении социальными выплатами, вопросами иммиграции и другими сферами, а государственные структуры заключили десятки контрактов на поставку AI-решений. Например, недавно был объявлен тендер на программное обеспечение для распознавания лиц стоимостью до £20 млн, что вновь подняло вопросы о «массовом биометрическом наблюдении».

Однако на публичный реестр поданы сведения только о девяти алгоритмических системах, и ни одна из программ, применяемых в системе социального обеспечения, МВД или полицией, в нём не отражена. Это несмотря на объявление в феврале 2024 года о том, что реестр теперь обязателен для всех ведомств.

Эксперты предупреждают, что некритичное внедрение ИИ может привести к ошибкам и негативным последствиям, как это было, например, с программой Post Office Horizon. В правительстве ИИ используется от системы Microsoft Copilot до автоматических проверок на мошенничество и ошибки в системе выплат.

Питер Кайл, министр науки и технологий, признал:
«Государственный сектор недостаточно серьёзно относится к прозрачности использования алгоритмов. Если правительство применяет алгоритмы от имени населения, граждане имеют право об этом знать.»

Правозащитная организация Big Brother Watch заявила, что «секретное использование ИИ и алгоритмов, влияющее на жизнь людей, ставит под угрозу права на персональные данные».

Институт Ada Lovelace отметил, что ИИ может облегчить административные процессы, но при этом подорвать доверие населения, если его решения окажутся дискриминационными или неэффективными. Имоген Паркер из этого института подчеркнула, что отсутствие прозрачности не только оставляет общество в неведении, но и мешает государству оценивать эффективность ИИ и корректировать ошибки.

С момента конца 2022 года в национальном реестре зафиксированы всего три алгоритма: система для Кабинета министров по выявлению ценных цифровых документов, AI-камера для анализа пешеходных переходов в Кембридже и система анализа отзывов пациентов NHS. В то же время с февраля 2024 года выявлено 164 контракта, упоминающих ИИ, по данным компании Tussell, отслеживающей государственные закупки.

Компании Microsoft, Meta✱ и Google активно продвигают свои ИИ-решения для госструктур. По оценке Google Cloud, внедрение генеративного ИИ может освободить до £38 млрд ежегодно к 2030 году.

Примеры использования ИИ в правительстве:

• DWP применяет генеративный ИИ для чтения и суммирования более 20 000 документов в день, автоматизирует проверку мошенничества и помогает агентам по социальным выплатам.
• Home Office использует алгоритм для анализа иммиграционных дел, при этом человек остаётся ответственным за каждое решение.
• Полиция применяет системы распознавания лиц для поиска подозреваемых, а NHS заключила контракт с Palantir на создание платформы обработки данных стоимостью £330 млн.
• AI-чатботы помогают сотрудникам правительства быстро получать сводки и обзоры по документам.

Представитель Министерства науки и технологий подтвердил, что стандарт прозрачности теперь обязателен для всех ведомств, и отметил, что «ряд записей будет опубликован в ближайшее время».

        * Упомянутые организации запрещены на территории РФ