Двух юристов в США оштрафовали за поддельные судебные ссылки, сгенерированные ChatGPT ⚖️🤖

В США двух юристов и их юридическую фирму оштрафовали на \$5,000 (£3,935) после того, как в суд были поданы фальшивые ссылки, созданные с помощью ChatGPT. Окружной судья Манхэттена постановил, что Стивен Шварц, Питер ЛоДука и их фирма Levidow, Levidow & Oberman должны выплатить штраф после того, как фиктивные юридические исследования были использованы в иске о травме при авиаперелёте.

Шварц признал, что чат-бот ChatGPT, который создаёт правдоподобные текстовые ответы на запросы пользователя, «придумал» шесть судебных дел, на которые он ссылался в юридическом документе против колумбийской авиакомпании Avianca.

Судья П. Кевин Кастел подчеркнул, что использование искусственного интеллекта в юридической работе само по себе не является нарушением закона, однако юристы обязаны проверять точность подаваемых документов.

«Технологический прогресс — обычное дело, и нет ничего неправильного в использовании надёжного инструмента искусственного интеллекта для помощи, — написал Кастел. — Но существующие правила возлагают на юристов обязанность проверять точность своих документов».

Судья отметил, что юристы и их фирма «отказались от своих обязанностей, когда представили несуществующие судебные решения с поддельными цитатами, созданными ChatGPT, и продолжали настаивать на их подлинности после того, как суд усомнился в их существовании».

Фирма Levidow, Levidow & Oberman заявила, что их юристы «уважительно не согласны с решением суда о недобросовестности». «Мы совершили ошибку в добросовестности, не поверив, что технология может выдумывать дела из ниоткуда», — отметили в фирме.

ChatGPT иногда генерирует «галлюцинации» или ошибки, создавая фальшивую информацию. Например, ранее чат-бот ошибочно обвинял американского профессора права в сексуальных домогательствах и ссылался на несуществующую публикацию в Washington Post.

Судья отметил, что одна из поддельных судебных ссылок имела «некоторые черты, внешне похожие на реальные решения», но другие части содержали «бессмыслицу». В отдельном решении суд отклонил основной иск по авиаперелёту, указав, что срок исковой давности истёк.

Этот случай подчёркивает, что использование генеративного ИИ требует внимательной проверки фактов, особенно в профессиональной и юридической сфере. ⚖️📄