Бум списываний с ИИ и рост индустрии его обнаружения 🤖📚

С момента появления ChatGPT в ноябре прошлого года мир образования оказался в центре новой технологической революции. Чат-боты и другие продвинутые ИИ-инструменты активно используют для написания школьных проектов, эссе и даже художественных работ. Согласно исследованию Intelligent.com, 30% студентов американских университетов признавались в использовании ChatGPT при выполнении письменных заданий.

Для образовательных учреждений это стало проблемой, но одновременно — шансом для компаний, занимающихся обнаружением ИИ-контента. Компании вроде Winston AI, Content at Scale и Turnitin предлагают подписку для преподавателей: через онлайн-панель они могут проверять работы студентов и получать оценку вероятности того, что текст написан человеком или ИИ.

Как обнаруживают ИИ

Методы выявления ИИ-контента обычно основываются на поиске «характерных признаков» — особенностей текста, отличающих ИИ от человека. Например, избыточное использование слов вроде «the» или слишком ровный стиль текста может сигнализировать о машинном происхождении. Ошибки и опечатки, наоборот, указывают на человеческий авторский стиль.

Джон Рено, сооснователь Winston AI, выделяет два ключевых признака: «perplexity» (сложность языковых структур) и «burstiness» (повторение слов и фраз в коротком интервале). По его словам, спрос на услуги компании резко вырос сразу после выхода ChatGPT: «Все произошло за неделю-другую — мы просто не успевали обрабатывать запросы».

Интерес не только в академии

Хотя основная часть проверок приходится на студенческие работы, вторыми по популярности стали издательства, проверяющие статьи журналистов и копирайтеров перед публикацией. Winston AI утверждает, что точность их системы достигает 99,6%.

Аналогично, Анни Чечителли из Turnitin считает, что страхи вокруг ИИ преувеличены. «Мы уверены, что всегда можно найти признаки машинного текста», — говорит она. Сейчас преподаватели иногда просят студентов выполнять задания очно, чтобы создать базу для сравнения.

«Гонки вооружений» ИИ

Сегодня отрасль выглядит как бесконечная гонка между генераторами ИИ и системами их обнаружения. Одни совершенствуют алгоритмы создания текста, другие — методы его идентификации. Некоторые эксперты полагают, что люди смогут оставаться на шаг впереди, другие сомневаются, что это возможно в долгосрочной перспективе.

Одним из предложений является «водяной знак» в тексте, чтобы системы сразу определяли, что текст сгенерирован ИИ. Однако и Джон Рено, и Анни Чечителли считают этот метод спорным: если не все модели будут его использовать, пользователи будут отдавать предпочтение «невидимым» алгоритмам.

Эра исключительно человеческого контента в интернете подходит к концу, и никто точно не знает, что будет дальше. Но одно ясно: те, кто сможет различать ИИ и человека, получат серьезное преимущество. 📝✨