Авторы шокированы: на Amazon появились поддельные книги, сгенерированные ИИ 📚🤖

Для любого писателя выпуск книги — большое событие, и Рори Селлан-Джонс не исключение. «Как любой автор, я регулярно проверяю Amazon, — рассказывает он. — И вот это появилось».

Бывший корреспондент BBC по технологиям написал мемуары о своей семье. Но на сайте Amazon внезапно появилась его «биография» с наивно оформленной обложкой от неизвестного автора. «Я подумал: „Странно… кто пишет обо мне биографию?“ — вспоминает Селлан-Джонс. — Даже для меня самого продавать книгу о себе непросто, а тут кто-то другой продаёт».

При ближайшем рассмотрении оказалось, что текст книги был сгенерирован искусственным интеллектом. Так появились десятки подобных поддельных публикаций, после того как ChatGPT и другие генераторы текста сделали возможным быстро создавать страницы контента без настоящего авторского труда.

Оригинальная книга Селлан-Джонса, Ruskin Park: Sylvia, Me and the BBC, рассказывает о детстве с матерью-одиночкой, семейной истории и личных открытиях. Конкурирующая «биография» оказалась полностью вымышленной: «Там описывалась академическая семья за обеденным столом… Полный бред», — говорит автор.

Amazon прислал ему уведомление: «Вам может понравиться эта книга», — алгоритм платформы посчитал именно её релевантной для автора, а не его настоящую книгу.

Поддельные книги были удалены, но многие проходят фильтры. Через систему Kindle Direct Publishing (KDP) спамеры могут выпускать десятки книг в день. Например, псевдоним «Стивен Уолрин» опубликовал более 30 книг за один день, от инструкций по камерам до фэнтези-романов.

Эксперты указывают на серьёзную проблему: авторы теряют контроль над контентом, а читатели сталкиваются с низкокачественными продуктами. Society of Authors предлагает Amazon маркировать книги, созданные ИИ, и давать возможность фильтровать их.

Некоторые писатели, включая Маргарет Этвуд и Филипа Пулмана, выражают опасения, что их произведения используются для обучения ИИ без согласия и вознаграждения.

Рашик Пармар, глава BCS, считает, что законодательство должно требовать цифровых водяных знаков для материалов, созданных ИИ, чтобы их можно было отслеживать.

Представитель Amazon отметил: «Мы инвестируем значительные ресурсы, чтобы наши правила соблюдались и удаляем книги, нарушающие их. Контент, сгенерированный ИИ, допускается только при соблюдении этих правил и если он не ухудшает впечатления читателя».

ИИ открывает новые возможности для авторов и издателей, но одновременно создаёт вызовы для защиты авторского труда и качества литературы. ✍️📖