Meta✱ создаёт спецподразделение для борьбы с распространением запрещённого контента 🛡️📱

Компания Meta✱, владелец Instagram✱, сформировала внутреннюю рабочую группу для расследования сообщений о том, что платформа использовалась для продажи и распространения запрещённого контента, созданного несовершеннолетними. Эта инициатива последовала за докладом Стэнфордской интернет-лаборатории (SIO), в котором выявлены сети аккаунтов, которые, по всей видимости, управляются подростками и предлагают запрещённые материалы.

SIO отметила, что Instagram✱ остаётся ключевой платформой для таких сетей из-за функций рекомендаций и прямых сообщений, которые связывают продавцов и покупателей. В докладе указано, что алгоритмы Instagram✱ могли показывать пользователям результаты поиска, потенциально связанные с запрещённым контентом, с предупреждением о возможной опасности. После обращения СМИ платформа убрала возможность просмотра таких материалов.

Представитель Meta✱ заявил, что компания создаёт рабочую группу для расследования подобных случаев и оперативного реагирования на них: «Мы постоянно ищем способы защитить пользователей и боремся с нарушениями на наших платформах».

В исследовании SIO сообщается, что крупные сети аккаунтов открыто рекламируют запрещённый контент, а интерфейс Instagram✱ делает платформу удобной для таких действий. Алгоритмы рекомендаций анализируют поведение пользователей и их взаимодействие с контентом, предлагая похожие материалы и аккаунты для подписки.

По данным SIO, контент иногда распространяется добровольно, но может стать публичным, а также пересекаться с несанкционированным интимным контентом. В последние годы это превратилось в коммерческую деятельность, включая публикацию «каталогов» контента онлайн. В одном из исследованных сетей на Instagram✱ было выявлено 405 аккаунтов продавцов и 58 аккаунтов покупателей.

Аккаунты были переданы в Национальный центр пропавших и эксплуатируемых детей (NCMEC) в США. Через месяц после подачи отчёта часть аккаунтов оставалась активной. Meta✱ сообщила, что уже исправила технические проблемы, обновила инструкции для модераторов и удаляла «тысячи» поисковых терминов и хэштегов, связанных с запрещённым контентом.

Компания подчеркнула, что между 2020 и 2022 годами было ликвидировано 27 сетей злоупотреблений, а в январе текущего года отключено более 490 000 аккаунтов за нарушение правил безопасности детей. SIO рекомендует отраслевое сотрудничество для эффективной борьбы с проблемой.

* Упомянутые организации запрещены на территории РФ