Сложные системы модерации: почему компании пришлось менять подход к проверке контента 📝

Руководство крупной социальной сети заявило, что их системы модерации стали «слишком сложными», что стало одной из причин отказа от использования сторонних проверяющих факты. Вместо этого платформа планирует опираться на заметки пользователей для отметки сомнительного или недостоверного контента.

По словам бывших руководителей и членов наблюдательного совета, прежняя система модерации приводила к «чрезмерному контролю», а процесс проверки информации оказался крайне запутанным. Это решение было объявлено в начале недели, и компания подчеркнула, что новая система будет внедряться постепенно, начиная с США.

Идея состоит в том, чтобы дать больше контроля сообществу пользователей и повысить скорость реагирования на контент. Платформа отмечает, что подобная система уже используется на других сетях, где заметки пользователей помогают снижать распространение недостоверной информации без вмешательства сторонних проверяющих.

Эксперты по онлайн-безопасности и исследователи контента выразили обеспокоенность, что такой подход может увеличить поток недостоверной или потенциально вредной информации. Однако сторонники новой модели утверждают, что вовлечение пользователей позволяет быстрее и эффективнее выявлять сомнительный контент, а также снижает возможность предвзятости.

Представители компании отметили, что новая система модерации даст возможность сообществу влиять на контент в реальном времени, создавая «глобальное коллективное сознание», где пользователи сами контролируют качество информации.

Компания уточнила, что изменения в модерации могут привести к тому, что часть сомнительного контента останется без вмешательства, но при этом скорость и масштаб реакции на новые материалы возрастут.