Студент создал приложение для выявления текстов, написанных искусственным интеллектом 🤖✍️

22-летний студент колледжа Эдвард Тян из Принстонского университета разработал приложение GPTZero, которое, по его словам, способно определять, был ли текст создан искусственным интеллектом. Идея появилась у него во время летних каникул, и уже через неделю после запуска приложение собрало 30 000 обращений.

Цель GPTZero — помочь образовательным учреждениям выявлять попытки обойти системы анти-плагиата с помощью ИИ, чтобы студенты не использовали искусственный интеллект для быстрого написания академических текстов. В своём первоначальном твите Тян заявил, что приложение может «быстро и эффективно» определить, был ли эссе написан ИИ. Этот пост стал вирусным и собрал более 5 миллионов просмотров.

Как работает GPTZero 🔍

Приложение оценивает тексты по двум параметрам:

• Perplexity — сложность текста.
• Burstiness — разнообразие структуры предложений.

Чем текст ближе к типичной манере работы ИИ, тем выше вероятность, что он был создан автоматически. В новой версии модели улучшена способность выявлять тексты, написанные ИИ, с ошибкой менее 2% при тестировании на статьях BBC и текстах, сгенерированных ИИ по тем же заголовкам. Тян планирует полностью сосредоточиться на развитии GPTZero, улучшении модели и масштабировании приложения в ближайшие месяцы.

Критика и ограничения ⚠️

Профессор искусственного интеллекта Университета Нового Южного Уэльса Тоби Уолш выразил сомнение в эффективности приложения. Он отметил, что, пока его не поддержит крупная компания, оно вряд ли сможет существенно повлиять на использование ИИ для написания текстов.

«Это всегда гонка технологий между ИИ и средствами выявления синтетических текстов, — объяснил Уолш. — Можно легко попросить ИИ переписать текст более „человечно“ или добавить случайность, менять синонимы и структуру предложений».

По его словам, каждая новая система обнаружения ИИ одновременно улучшает навыки ИИ обходить проверки, а сама модель постоянно получает обратную связь от пользователей для улучшения фильтров.

Мнения пользователей 📝

Отзывы о GPTZero оказались противоречивыми.

Один подписчик отметил: «Приложение хорошо работает с текстами, полностью сгенерированными ИИ, но часто ошибается с эссе хороших авторов, помечая их как написанные ИИ. Это одновременно полезный и опасный инструмент — слишком большое доверие может привести к ложным срабатываниям».

Другой пользователь добавил: «Я проверял около 350 слов французского текста, созданного ChatGPT и немного отредактированного вручную. GPTZero определил его как человеческий текст. Не уверен, что сотрудничество человека и ИИ можно достоверно выявить».

Итог 🎯

GPTZero — интересная попытка создать инструмент для выявления текстов, написанных искусственным интеллектом, особенно в образовательной сфере. Но эксперты предупреждают, что пока технология находится на раннем этапе развития, она не может гарантировать стопроцентную точность. Пользователям стоит учитывать возможные ошибки и использовать приложение как вспомогательный инструмент, а не как окончательный судья.