Instagram✱ внедряет фильтрацию сообщений для защиты подростков от нежелательного контента 📩🛡️

Instagram✱ объявил о планах по сканированию сообщений пользователей младше 18 лет, чтобы защитить их от потенциально неподходящих изображений. Новая функция будет работать даже с зашифрованными сообщениями, что говорит о возможном внедрении так называемого client-side сканирования — проверки содержимого прямо на устройстве пользователя, а не на серверах компании.

Компания уточняет, что сообщения не будут отправляться на сервера для анализа: фильтрация будет происходить только на личном устройстве пользователя. Такой подход вызвал критику как ещё один пример, когда платформа сама оценивает свои действия.

В официальном блоге Instagram✱ говорится:
«Мы планируем запустить новую функцию, которая поможет защитить подростков от нежелательных и потенциально неподходящих изображений в их сообщениях от людей, с которыми они уже общаются, а также стимулировать их не отправлять такие изображения другим.»

Наряду с этим будут обновлены настройки конфиденциальности для пользователей младше 19 лет: теперь никто, на кого подросток не подписан, не сможет отправлять ему сообщения напрямую. Ранее это ограничение касалось только взрослых, пишущих подросткам.

Родители также получат новые возможности через инструменты контроля, включая подтверждение попыток детей младше 16 лет ослабить настройки безопасности, мониторинг заблокированных контактов и уведомления об изменениях в настройках. Компания подчёркивает, что цель этих инструментов — способствовать диалогу между родителями и подростками, помогая им совместно решать, что лучше для безопасности в сети.

Бывший инженер и консультант компании отметил, что такие меры нуждаются в регулярной отчетности о том, сколько нежелательных сообщений получили подростки, чтобы оценивать эффективность изменений. Без этих данных трудно понять реальное воздействие нововведений.

Instagram✱ планирует раскрыть более подробную информацию о новой функции и её запуске позднее в этом году, включая работу с зашифрованными чатами. ⚖️📱

        * Упомянутые организации запрещены на территории РФ