ChatGPT и «AI-плагиат»: как искусственный интеллект учат распознавать себя 📚🤖

Искусственный интеллект, способный писать убедительные тексты, одновременно вызывает восхищение и тревогу. ChatGPT, программа для генерации текста на базе ИИ, вышедшая в декабре для публичного использования, умеет отвечать на вопросы как простые, так и абсурдные, создавая тексты на естественном английском языке. Однако способность бота создавать убедительные эссе и работы заставила преподавателей и вузовских преподавателей беспокоиться о возможном «AI-плагиате» — использовании ИИ для списывания.

Проблема и решение

Сейчас компания OpenAI из Сан-Франциско работает над технологией «водяных знаков» для текстов ChatGPT. Суть метода в том, чтобы скрытно менять выбор слов так, чтобы человек этого не заметил, но алгоритм мог определить, что текст создан машиной.

«Мы хотим сделать так, чтобы было сложнее выдать текст GPT за написанный человеком, — объяснил исследователь OpenAI Скотт Ааронсон. — Это поможет предотвращать плагиат в учебе, массовое создание однотипных комментариев в интернете и подделку стиля других авторов». По словам Ааронсона, прототип уже работает: всего несколько сотен слов достаточно, чтобы определить источник текста.

Особенности и ограничения ChatGPT

ИИ может «галлюцинировать» факты, выдавая неправдивую информацию с уверенностью, что сравнивают с ситуацией, когда студент отвечает на экзамене, не посещая лекции. Именно такая уверенность и делает тексты ChatGPT «убедительно неверными», но при этом полезными для студентов, которым нужно быстро написать эссе.

Традиционные системы проверки плагиата пока не распознают тексты ChatGPT, так как они уникальны. В ответ на это организации вводят свои правила: например, платформа Stack Overflow запретила публикацию ответов, созданных ИИ, из-за высокой вероятности ошибок и вреда для пользователей.

Американский венчурный инвестор Пол Грэм предложил термин «AIgiarism» для обозначения использования ИИ как инструмента для присвоения чужой работы. По его словам, правила против «AIgiarism» должны быть схожи с правилами против обычного плагиата: проблема в том, что человек получает кредит за работу, созданную не им.

Важность подхода

Технологии вроде ChatGPT меняют подход к обучению и проверке академической честности. С одной стороны, ИИ открывает новые возможности для быстрого создания текстов и идей, с другой — требует развития инструментов для честной и прозрачной работы. В ближайшие годы вопрос «как отличить работу человека от работы ИИ» станет ключевым в образовании и научных публикациях. 📝🤖