OpenAI выпустила инструмент для выявления текстов, созданных ИИ, но он пока неидеален 🤖📝

Компания OpenAI, создатель ChatGPT, представила новый инструмент, который может определить, написан ли текст искусственным интеллектом. Однако в блоге организации сразу предупреждают: инструмент не является полностью надёжным.

Новый классификатор обучен распознавать тексты, созданные различными ИИ-системами, а не только ChatGPT. Исследователи отметили, что полностью достоверно определить любой текст, написанный ИИ, невозможно. Тем не менее, инструмент способен обнаруживать признаки машинного письма, что может быть полезно, например, для выявления академической нечестности или случаев, когда чат-боты выдаются за людей.

Но пока классификатор работает с ограниченной точностью: он правильно определяет лишь 26% AI-текстов на английском, а 9% человеческих текстов ошибочно маркируются как AI. Эффективность повышается с увеличением объёма текста. По сравнению с предыдущей версией, новый инструмент лучше справляется с материалами, созданными современными ИИ.

С момента открытого доступа к ChatGPT многие учебные заведения обеспокоены возможностью использования ИИ для списывания. В Великобритании преподаватели пересматривают способы оценки знаний студентов, а некоторые университеты полностью запретили использование технологии, вернувшись к экзаменам на бумаге. В Австралии на Университете Дикина около каждого пятого задания, проверяемого летом, использовались ИИ-инструменты. Научные журналы также запретили использование ChatGPT при подготовке статей.

OpenAI предупреждает о нескольких ограничениях классификатора:

• он малоэффективен для текстов меньше 1000 символов;
• лучше работает только на английском языке, другие языки распознаются хуже;
• проверка кода крайне ненадёжна;
• инструмент не должен использоваться как основное средство для принятия решений, а лишь как дополнение к другим методам.

Компания призвала образовательные учреждения делиться опытом использования ChatGPT в учебном процессе. Пока большинство реагирует запретами, но некоторые университеты, например три главных университета Южной Австралии, разрешают использование ИИ при условии, что это будет открыто указано. 📚💡