Искусственный интеллект на службе британской армии: возможности и риски 💻🛡️

Британское Министерство обороны использует инструмент искусственного интеллекта Textio, размещённый на облачных сервисах Amazon Web Services (AWS), для улучшения набора персонала. Система помогает создавать более привлекательные и инклюзивные тексты вакансий, чтобы привлекать разнообразных кандидатов. Однако правительственная оценка выявила потенциальный риск раскрытия данных, включая имена, должности и электронные адреса сотрудников, что «может иметь серьёзные последствия в случае утечки данных».

Министерство обороны охарактеризовало риск как «низкий» и сообщило, что поставщики внедрили «надёжные меры защиты». Среди них указаны Textio, AWS и сервис угроз Amazon GuardDuty. AWS отвечает за инфраструктуру облака, тогда как пользователи контролируют свои данные.

Документы о применении алгоритмов в государственных системах впервые опубликованы для повышения прозрачности. Министр технологий Питер Кайл отметил, что использование ИИ направлено на повышение эффективности государственных услуг и сокращение очередей для граждан.

Кроме рекрутинга, правительство рассматривает и другие AI-системы:

• Учебные помощники для школ на базе GPT-4o позволяют персонализировать планы уроков, экономя время учителей. Возможный риск: генерация неподходящего материала.
• Чатботы для семейных судов, которые отвечают на вопросы о благополучии детей. Риск «галлюцинаций» или неточных ответов, хотя система обрабатывает около 2500 запросов в месяц с успехом 2/3.
• Система PolicyEngine в HM Treasury моделирует изменения налогов и пособий, повышая точность прогнозов. Возможные ошибки: некорректные данные или сбои кода.
• ИИ для инспекций гигиены питания помогает приоритизировать объекты для проверки. Риск: чрезмерная зависимость человека от ИИ и возможная предвзятость.

Расширенный реестр алгоритмов теперь включает 23 государственных инструмента, влияющих на граждан. Организации обязаны публиковать информацию о любых алгоритмах, взаимодействующих с людьми или влияющих на решения, кроме случаев национальной безопасности.

Министр Кайл подчеркнул: «Технологии обладают огромным потенциалом для улучшения государственных услуг. Прозрачность в использовании алгоритмов необходима, чтобы люди доверяли и понимали их работу».

Таким образом, использование ИИ в государственном секторе Великобритании сочетает в себе значительные возможности для повышения эффективности и персонализации услуг с необходимостью строгого контроля за безопасностью и точностью данных. ⚖️📊