Спам, мусор… «слив»? Как искусственный интеллект заполоняет интернет 🧟‍💻

Электронная почта забита спамом, почтовый ящик — рекламой, а теперь и интернет страдает от нового явления — «слива» (slop). Что это такое? Это контент, сгенерированный искусственным интеллектом и выложенный в сеть для любого пользователя. В отличие от чат-ботов, «слив» не интерактивен и редко создан для того, чтобы реально отвечать на вопросы читателей или быть полезным. Его основная цель — создавать видимость человеческого контента, получать доход с рекламы и продвигать другие сайты в поисковых системах.

Как и спам, почти никто не хочет его видеть, но экономика интернета заставляет его появляться. Искусственный интеллект легко генерирует огромное количество текстов и изображений, создаёт ответы на любые поисковые запросы, выкладывает бесконечные «мотивирующие» истории и комментарии. Даже если несколько пользователей зайдут на сайт, поделятся контентом или кликнут на рекламу, затраты на его создание окупятся.

Однако эффект «слива» в целом отрицательный: пользователи теряют время, пролистывая бесполезный контент, чтобы найти нужную информацию. «Важно дать этому явлению имя, чтобы люди могли обсуждать проблему», — говорит разработчик Саймон Уиллиссон, один из первых, кто предложил термин «slop». «Как раньше слово „спам“ помогло осознать вред нежелательных сообщений, так и „слив“ помогает понять, что публикация необработанного контента ИИ — это плохая практика».

Особенно вреден «слив», если он содержит неправильную информацию. Пример — статья Microsoft Travel с рекомендацией посетить «пищевой банк Оттавы» как туристическую достопримечательность. Иногда такой контент становится вирусным сам по себе, как статья с карьерными советами, объясняющая шутку из старого комикса: «они платят мне в воимс».

Книги, сгенерированные ИИ, тоже стали проблемой. Например, на Amazon появились пособия по сбору грибов, написанные чат-ботами, с опасными инструкциями для новичков. Сгенерированные изображения распространяются в соцсетях: Иисус с креветками вместо рук, дети в автомобилях из пластиковых бутылок, фальшивые дома мечты и невероятно пожилые женщины, празднующие 122-й день рождения.

Джейсон Кеблер из 404 Media называет это явление «зомби-интернетом». С ростом «слива» соцсети становятся пространством, где смешиваются боты, люди и аккаунты бывших людей, создавая сайты с минимальным социальным взаимодействием.

Главные игроки уже пытаются бороться с этим. Facebook✱ обучает системы различать контент, созданный ИИ, а Google внедряет «AI Overviews» — ответы ИИ в поисковой выдаче с безопасными фильтрами и возможностью видеть только ссылки на сайты. Но пока по интернету распространяется всё больше «слива», и пользователям приходится фильтровать полезное среди множества искусственно созданного контента. 🖥️⚠️

        * Упомянутые организации запрещены на территории РФ