Британский регулятор критикует Apple за недоучёт опасного контента 👀📱

Британская организация по защите детей NSPCC выразила обеспокоенность работой Apple в вопросе контроля контента на своих платформах. По данным экспертов, компания недостаточно эффективно отслеживает материалы, связанные с опасным контентом, что вызывает вопросы о её готовности справляться с растущим объёмом информации, в том числе созданной с помощью искусственного интеллекта.

Согласно расследованию NSPCC, количество зарегистрированных случаев нарушения безопасности детей в сервисах Apple iCloud, iMessage и FaceTime в Англии и Уэльсе значительно превышает официальные отчёты компании. В период с апреля 2022 по март 2023 года Apple была вовлечена в 337 зафиксированных случаев, тогда как глобально компания сообщила о 267 случаях подозрительного контента на своих платформах. Для сравнения, Google сообщила о более 1,47 млн, а другие крупные компании о десятках миллионов случаев за тот же период.

Apple ранее планировала запуск инструмента neuralMatch, который сканировал бы фотографии на iCloud перед загрузкой, сравнивая их с базой данных известных опасных материалов. Однако компания отказалась от этого решения, сославшись на приоритет безопасности и конфиденциальности пользователей.

Эксперты по защите детей и цифровым правам считают, что отказ от подобных технологий снижает способность компании своевременно выявлять опасный контент. «Apple явно отстаёт от своих коллег в индустрии в вопросах безопасности и защиты детей», — отметили в NSPCC.

Планы Apple по внедрению собственной системы искусственного интеллекта Apple Intelligence, разработанной совместно с OpenAI, также вызывают опасения у специалистов. Система должна персонализировать пользовательский опыт и автоматизировать задачи, однако эксперты предупреждают, что использование ИИ может создавать новые риски, если компания не готова к безопасной обработке контента.

По мнению специалистов, без надёжных инструментов контроля растёт вероятность того, что новые технологии могут быть использованы не по назначению, создавая дополнительные угрозы для безопасности детей. ⚠️