OpenAI представила инструмент для выявления текста, написанного ИИ, но он ещё не полностью надёжен 🤖📝

Компания OpenAI, создавшая ChatGPT, выпустила новый инструмент, который должен помогать определять, был ли текст написан искусственным интеллектом. Однако в компании сразу предупредили, что инструмент пока нельзя назвать полностью надёжным. ⚠️

В блоге OpenAI говорится, что новый классификатор обучен отличать тексты, созданные людьми, от текстов, сгенерированных разными ИИ, не только ChatGPT. Исследователи уточнили:

«Полностью надёжно определить все тексты, написанные ИИ, невозможно, но хорошие классификаторы могут заметить признаки искусственного происхождения текста».

Инструмент может быть полезен, например, для выявления случаев нечестного использования ИИ в учебе или когда чат-боты выдают себя за людей. Но пока классификатор работает не идеально: он правильно определяет лишь 26% текстов на английском, написанных ИИ, а 9% человеческих текстов ошибочно отмечает как ИИ-сгенерированные.

OpenAI отмечает, что надёжность классификатора повышается с ростом объёма текста. Новый инструмент оказался значительно точнее предыдущей версии при проверке текстов, созданных современными ИИ-системами.

С момента открытия ChatGPT для широкой аудитории образовательные учреждения по всему миру начали проявлять осторожность. Преподаватели проверяют, как использование ИИ влияет на учебный процесс и оценку знаний. В некоторых университетах вернулись к традиционным бумажным экзаменам, чтобы предотвратить чрезмерное использование ИИ. Например, в австралийском университете Deakin около каждого пятого задания за летний период было выполнено с помощью ИИ. 🏫✍️

Некоторые научные журналы также запретили использование ChatGPT при подготовке статей.

OpenAI подчёркивает ограничения классификатора: он плохо справляется с текстами менее 1000 символов, может ошибочно классифицировать человеческие тексты как ИИ-сгенерированные, работает только с английским языком и почти не применим к коду. Компания рекомендует использовать инструмент в качестве дополнительного средства, а не основного метода проверки источника текста.

Кроме того, OpenAI призывает учебные заведения делиться опытом использования ChatGPT в образовательном процессе. Если большинство университетов реагируют на ИИ с осторожностью, некоторые уже адаптируют политику: в Южной Австралии три главных университета разрешили использование ИИ, если студент указывает, что им пользовался. 🌏📚

Эта инициатива показывает, как технологии меняют подход к обучению и подчеркивает необходимость ответственного и прозрачного использования ИИ в образовании. ✨📝