Социальные сети вводят маркировку всех изображений, созданных ИИ, для борьбы с обманом 🖼️🤖

Крупные платформы объявили о новых мерах по выявлению и маркировке изображений, созданных с помощью искусственного интеллекта (ИИ), чтобы пользователи могли отличать реальные фотографии от синтетических. Фотографические изображения, сделанные с помощью собственных инструментов ИИ платформ, уже отмечаются как ИИ-контент, а теперь компании намерены расширить эту практику на материалы, созданные сторонними сервисами.

Инструменты ИИ автоматически добавляют метаданные и невидимые водяные знаки, позволяющие определить происхождение изображения. Новые технологии будут распознавать эти метки даже у изображений, созданных другими компаниями, такими как Google, Microsoft, Adobe или популярные генераторы изображений типа Midjourney и Shutterstock.

«Разница между человеческим и синтетическим контентом становится всё менее очевидной, и людям важно понимать, где проходит эта граница», — отметил представитель компании. Он добавил, что пользователи хотят видеть прозрачность и быть уверенными в том, что видят, особенно когда речь идёт о фотореалистичных изображениях.

В ближайшие месяцы маркировка будет внедрена во всех языковых версиях платформ. В то же время система будет ограничена изображениями: инструменты для генерации аудио и видео пока не поддерживают автоматическую маркировку, но пользователи смогут самостоятельно указывать, что контент создан или изменён с помощью ИИ.

Особое внимание будет уделяться цифровому контенту, который потенциально может вводить пользователей в заблуждение по важным вопросам. Платформы также разрабатывают технологии для автоматического распознавания ИИ-контента даже при отсутствии меток или их удалении.

«Сфера ИИ становится всё более сложной и конкурентной, и некоторые будут пытаться обходить системы защиты. Нам нужно оставаться на шаг впереди», — подчеркнули представители соцсетей.

Меры по маркировке контента помогают пользователям ориентироваться в мире, где ИИ всё активнее используется для создания визуальных материалов, и повышают прозрачность цифрового пространства. 🌐✨