Искусственный интеллект и плагиат: как ChatGPT борется с «AIgiarism» 🤖✍️

ChatGPT, искусственный интеллект для генерации текста, стал настоящей головной болью для учёных и преподавателей. Этот инструмент способен создавать убедительные тексты на самые разные темы — от простых вопросов вроде «Какая самая высокая гора в Британии?» до забавных заданий вроде «Напиши лимерик, объясняющий правила офсайда».

Несмотря на впечатляющую связность и естественность текста, AI иногда «галлюцинирует» факты, создавая ошибки. Технологический аналитик Бенедикт Эванс сравнил это с ситуацией, когда студент уверенно отвечает на вопрос, на котором не присутствовал на лекции: «Он выглядит как уверенный болтун, способный писать очень убедительную ерунду».

Опасения учителей и университетских преподавателей связаны с тем, что студенты могут использовать ChatGPT для выполнения домашних заданий и экзаменационных работ, выдавая тексты ИИ за свои. Традиционные системы проверки плагиата при этом не работают, так как создаваемые ИИ тексты уникальны.

Чтобы бороться с «AIgiarism» — использованием ИИ для представления чужого текста как своего, — компания OpenAI разрабатывает технологию «водяных знаков» (watermarking). Как объяснил исследователь OpenAI Скотт Ааронсон, метод работает через тонкие изменения слов, которые незаметны человеку, но статистически позволяют определить, что текст был создан ИИ.

«Мы хотим, чтобы стало намного сложнее выдать текст GPT за человеческий», — сказал Ааронсон. Эта технология поможет предотвращать академический плагиат и массовое создание автоматического контента, например комментариев или текстов, которые имитируют стиль других людей. По словам Ааронсона, прототип уже работает: «Несколько сотен слов достаточно, чтобы определить, что текст создан GPT».

Некоторые платформы уже начали реагировать на появление AI-текстов. Например, Stack Overflow запретил пользователям публиковать ответы, сгенерированные ChatGPT, так как высока вероятность ошибок, а ответы легко создавать, что негативно сказывается на качестве контента.

Американский венчурный капиталист Пол Грэм предложил назвать явление «AIgiarism» и сравнил его с обычным плагиатом: «Проблема та же: вы берёте чужую работу и приписываете её себе. В случае ИИ это тоже справедливо».

Таким образом, ChatGPT открывает новые возможности для образования и творчества, но также ставит серьёзные задачи перед академическим миром и системой проверки оригинальности текстов. 📚🤖