🤖 ИИ для проверки фактов на X: новые возможности и опасения

Социальная сеть X объявила о запуске пилотного проекта, в рамках которого искусственный интеллект будет помогать создавать пояснительные заметки к публикациям. Ранее такие комментарии формировались только людьми, теперь же ИИ будет подготавливать черновики, а пользователи смогут оценивать их полезность и точность.

По словам представителей компании, цель проекта — повысить качество информации в интернете и ускорить процесс проверки. Вице-президент по продукту Кит Коулман отметил, что система построена по принципу «ИИ помогает человеку, а решение остаётся за людьми».

Исследовательская работа, опубликованная совместно с учёными из MIT, Гарварда и Стэнфорда, указывает, что сочетание ИИ и человеческой оценки может стать эффективным решением: заметки будут формироваться быстрее, при этом проходя проверку со стороны пользователей с разными взглядами.

Однако эксперты обращают внимание на риски.

• Руководитель отдела ИИ в организации Full Fact Энди Дадфилд считает, что это может увеличить нагрузку на людей, которым придётся проверять ещё больше материалов.

• Исследователь Самуэль Стокуэлл из Института Алана Тьюринга отмечает, что ИИ иногда создаёт убедительные, но неточные ответы. При недостаточных мерах контроля это может привести к распространению ошибок.

Исследования показывают, что пользователи больше доверяют заметкам, написанным людьми, чем автоматическим пометкам о недостоверности. Тем не менее, представители X уверены, что доверие формируется не столько из-за того, кто написал комментарий, сколько из-за того, как сообщество оценивает его ценность.

📌 Итог: проект с использованием ИИ в проверке фактов обещает ускорить процесс и расширить охват, но требует строгих мер контроля, чтобы избежать ошибок и сохранить доверие пользователей.