План Meta✱ по сквозному шифрованию: угроза ли это безопасности детей в интернете? 🔒👶

В прошлом месяце необычно прозвучала похвала от регулятора интернета: глава австралийского управления по кибербезопасности Джули Инман Грант отметила компанию Meta✱, владельца Facebook✱ и Instagram✱, как «одного из лучших по выявлению опасного контента», связанного с эксплуатацией детей. В прошлом году Meta✱ передала около 27 млн сообщений о подозрительном контенте в Национальный центр пропавших и эксплуатируемых детей США (NCMEC), в то время как Apple сообщила всего о 234 случаях.

До сих пор Meta✱ могла выявлять подобный контент за счёт анализа изображений в сообщениях Messenger, поскольку переписки не были зашифрованы сквозным шифрованием (e2ee). Но скоро всё изменится — компания собирается включить e2ee по умолчанию, и детские организации предупреждают, что это может повлиять на безопасность детей в сети. NCMEC заявила, что шифрование сделает коммуникации недоступными для проверки и станет «серьёзным ударом» по защите детей.

Meta✱ уверяет, что готова к изменениям. Messenger станет защищённым как большинство современных сервисов. Уже существующие переписки также будут зашифрованы в ближайшие месяцы. Компания разработала технологии, позволяющие выявлять подозрительное поведение пользователей без прямого доступа к содержимому сообщений — похожие на фильтры спама. После жалобы пользователя Meta✱ сможет изучить сообщения и ограничить функции аккаунтов потенциальных нарушителей, предотвращая контакты с детьми.

Система использует машинное обучение для выявления моделей поведения и блокировки аккаунтов потенциальных злоумышленников. Meta✱ анализирует публичные сигналы, такие как сомнительный контент, коды в профилях и участие в подозрительных группах, чтобы прерывать возможный вред ещё до его проявления. Также установлены ограничения на контакты с несовершеннолетними, профили детей по умолчанию закрыты, а поиск подростковых аккаунтов вне Facebook✱ ограничен.

Однако регуляторы выражают сомнения: введение e2ee может снизить количество сообщений о нарушениях, и пока непонятно, насколько эффективны меры профилактики.

Готовы ли регуляторы к борьбе с последствиями шифрования? Прецедент в Великобритании показал, что компании могут отстаивать свои решения: после противостояния с Apple по поводу iMessage правительство страны уступило. В Австралии проект стандарта e-safety предполагает, что компании должны делать всё, что «технически возможно», не нарушая шифрования, включая механизмы для жалоб пользователей и выявления подозрительного поведения.

Таким образом, Meta✱ продолжает балансировать между конфиденциальностью пользователей и безопасностью детей, используя технологии анализа поведения и ограничения аккаунтов, чтобы снизить риски без ущерба для приватности. 🔐✨

        * Упомянутые организации запрещены на территории РФ