Исследование: Instagram✱ способствует распространению опасного контента среди подростков 📱⚠️

Новое исследование показало, что социальная сеть Instagram✱ недостаточно эффективно борется с контентом, связанным с самоповреждением, что может представлять угрозу для подростков. Датские ученые создали закрытую сеть с фейковыми аккаунтами подростков, начиная с 13 лет, и разместили 85 публикаций, постепенно увеличивая степень опасности контента — от изображений крови до призывов к самоповреждению.

Цель эксперимента заключалась в проверке заявлений Meta✱ о том, что компания якобы улучшила систему удаления вредного контента с помощью искусственного интеллекта. По данным Digitalt Ansvar, за месяц эксперимента ни одно изображение не было удалено, хотя простая система анализа, созданная исследователями, смогла автоматически выявить 38% изображений самоповреждения и 88% самых тяжелых случаев.

Согласно выводам исследования, алгоритмы Instagram✱ не только не останавливают распространение опасного контента, но и активно способствуют формированию сетей среди подростков. Так, 13-летние пользователи, подключенные к группе, становились друзьями всех участников, что способствует расширению подобных сообществ.

Руководитель Digitalt Ansvar, Аск Хесби Хольм, отметил, что исследователи ожидали, что с ростом серьезности контента система сработает, но этого не произошло. По его словам, отсутствие модерации в таких группах может привести к серьезным последствиям, включая риск для здоровья подростков.

Психолог Лотте Рубэк, ранее входившая в экспертную группу Meta✱ по предотвращению вреда подросткам, подчеркнула, что отсутствие удаления откровенного контента провоцирует у уязвимых девочек и молодых женщин опасные действия и усугубляет тенденцию к саморазрушению.

Meta✱ утверждает, что контент, способствующий самоповреждению, нарушает правила платформы, и компания удаляет такие публикации, используя как автоматические, так и ручные инструменты. В первой половине 2024 года было удалено более 12 млн материалов, связанных с самоубийством и самоповреждением. Однако исследование показывает, что этого может быть недостаточно.

Специалисты подчеркивают: родители и педагоги должны быть внимательны к поведению подростков в социальных сетях и при необходимости обращаться за поддержкой к организациям, занимающимся психическим здоровьем.

Контакты служб поддержки:

• Великобритания: Mind — 0300 123 3393, Childline — 0800 1111
• США: Mental Health America — 988, chat 988lifeline.org
• Австралия: Beyond Blue — 1300 22 4636, Lifeline — 13 11 14, MensLine — 1300 789 978

⚠️ Внимание к психическому здоровью подростков и контроль за опасным контентом в соцсетях остаются приоритетом для родителей, педагогов и специалистов.

Meta✱, Instagram✱ запрещены на территории РФ

        * Упомянутые организации запрещены на территории РФ