Британский военный рекрутинг и ИИ на облаке Amazon: риски и возможности 🤖☁️

В Великобритании Министерство обороны использует искусственный интеллект для улучшения рекрутинга, но правительственная оценка выявила возможные риски для безопасности персонала. Система Textio, размещённая на облачных сервисах Amazon Web Services (AWS) в США, помогает оптимизировать тексты вакансий и сделать их более инклюзивными, чтобы привлечь разнообразных кандидатов. Для работы система использует данные военных, включая имена, должности и электронные адреса. В документах указывается, что «утечка данных может иметь серьёзные последствия, включая идентификацию персонала».

Риск оценён как «низкий», и Министерство обороны заявляет, что поставщики, включая Textio и сервис Amazon GuardDuty (система обнаружения угроз), внедрили «надёжные меры защиты». Тем не менее, это лишь один из рисков использования ИИ в государственном секторе, которые были зафиксированы в недавно опубликованных документах для повышения прозрачности.

Министр технологий Питер Кайл подчеркнул, что ИИ может повысить производительность экономики и улучшить работу государственных служб, сокращая очереди и повышая эффективность. Среди пилотных проектов с использованием ИИ в государственных сервисах упоминаются:

• Textio для рекрутинга: автоматическая обработка вакансий с целью привлечения разнообразных кандидатов.
• Aila для учителей: генерация учебных планов с использованием GPT-4o. Система экономит время, персонализирует уроки, но есть риск создания неподходящего контента или ошибок.
• Чат-боты для семейных судов: обработка около 2 500 запросов в месяц о благополучии детей. Система корректна примерно на две трети случаев, но возможны «галлюцинации» или неточные ответы.
• PolicyEngine HM Treasury: моделирует налоговые и социальные изменения с высокой точностью, но ошибки ввода или работы кода остаются возможными.
• Приоритизация проверок гигиены: ИИ может ускорить проверки объектов с повышенным риском нарушения правил, но есть риск систематически занижать оценки некоторых категорий.

Документы также фиксируют, что все алгоритмы, которые взаимодействуют с гражданами или влияют на решения о людях, должны публиковать отчёты о своей работе, за исключением случаев национальной безопасности. Цель — обеспечить доверие к ИИ и прозрачность его использования.

Сотрудничество с крупными компаниями, такими как Google, Microsoft и Amazon, продолжается. Microsoft предоставляет систему Copilot для госслужащих, а Google участвует в пилотных проектах. Ключевой момент — технологии должны быть безопасны, эффективны и подконтрольны, при этом снижая нагрузку на сотрудников и повышая качество обслуживания граждан.

ИИ в государственных службах Великобритании — это баланс между инновациями и безопасностью, где прозрачность и меры защиты данных становятся ключевыми аспектами внедрения. 🛡️💼