Palantir обсуждает с британским Минюстом использование ИИ для анализа рисков повторных правонарушений 👨‍💻📊

Американская компания Palantir вела переговоры с Министерством юстиции Великобритании о возможном применении своих технологий для оценки «рисков повторных правонарушений» среди заключённых. Об этом стало известно из переписки, опубликованной в рамках закона о свободе информации.

Согласно документам, Palantir также вел активное взаимодействие с новыми британскими министрами, включая представителей финансового ведомства. В письмах компания предлагала использовать свои программные решения для анализа данных о переполненности тюрем и выявления закономерностей, связанных с рецидивом. Предполагалось, что система могла бы учитывать такие факторы, как доход или наличие проблем с зависимостями, чтобы выявлять потенциальные риски.

В компании подчеркнули, что использование продвинутого программного обеспечения позволит создать единый постоянно обновляющийся источник информации о состоянии тюремной системы по всей стране, что поможет эффективнее использовать ограниченные ресурсы. Представитель Palantir провёл аналогию с использованием их технологий для мониторинга распространения вакцин против COVID-19, когда система предоставляла данные в режиме реального времени на местном, региональном и национальном уровнях.

Однако организация Amnesty International выразила обеспокоенность. Директор по вопросам бизнеса и прав человека в Amnesty UK, Питер Франкентал, отметил, что подобные инициативы могут привести к управлению общественными службами с помощью автоматизированных решений без достаточной ответственности и контроля, что может затронуть права людей, включая защиту личных данных и недискриминацию.

Кроме того, критика компании связана с деятельностью соучредителей Palantir. В переписке с правительственными ведомствами, включая Министерство финансов и Министерство торговли, руководство компании стремилось обсуждать внедрение технологий ИИ для улучшения работы государственных служб и расширения использования своих продуктов.

Некоторые эксперты и депутаты выражают опасения, что широкое внедрение таких технологий в систему общественных услуг может привести к усилению влияния крупных корпоративных структур и принятию решений, исходя из корпоративных интересов, а не потребностей самих служб.

В целом, обсуждения с Минюстом отражают растущий интерес к использованию искусственного интеллекта для анализа больших данных в сфере управления, но одновременно поднимают вопросы о прозрачности, защите персональных данных и этическом применении технологий в государственном секторе. ⚖️💻📈