Claude AI згенерував фальшиві цитати з судового засідання; адвокат вибачився та визнав, що припустився помилки

У федеральному судовому провадженні, пов’язаному з масштабними федеральними звільненнями за адміністрації Трампа, адвокат Jason Grieves 16 травня подав заяву, визнавши, що в матеріалах поданого до суду клопотання містяться неправдиві цитати, які з’явилися після того, як він підготував клопотання за допомогою корпоративної платформи штучного інтелекту Anthropic Claude Console.

Підтверджена хронологія подій: повний перебіг заяви Grieves

6 травня зранку (підтверджено): Через брак часу Grieves використав Claude Console, щоб створити початковий проєкт клопотання, і надіслав цей проєкт помічниці-адвокатці, водночас чітко давши усні вказівки: «Цей початковий проєкт згенеровано штучним інтелектом, їй треба уважно перевірити цитати».

6 травня вдень (підтверджено): Помічниця-адвокатка повідомила Grieves, що вона переглянула та звірила кожну цитату. Вона виявила дві помилкові посилання на справи й знайшла іншу, замінну справу; однак неправдиві цитати все одно опинилися в остаточно поданих документах.

У своїй заяві Grieves підтвердив дві сторони відповідальності: «Забезпечити точність цитат — це повністю моя відповідальність, і я беру її на себе в повному обсязі»; «Цитовані справи загалом, можливо, підтримували нашу позицію, але дозволити включення неправдивих цитат — це неприпустима помилка».

Підтверджене позиціонування Claude Console

Claude Console (раніше Anthropic Developer Console) було запущено в березні 2023 року як корпоративну AI-платформу Anthropic для взаємодії компаній і професіоналів із моделями Claude AI. Її використання включає підготовку документів, підсумовування, кодування та дослідження. У заяві Grieves описує її як «корпоративну, ізольовану за даними платформу штучного інтелекту», на відміну від орієнтованого на споживачів Claude.ai.

Передісторія: підтверджені приклади попадання AI-«галюцинацій» у суд

У квітні 2026 року адвокати юридичної фірми Sullivan & Cromwell були офіційно покарані за подання до суду фіктивних юридичних посилань, згенерованих AI. Справа Grieves у контексті масштабних федеральних звільнень за адміністрації Трампа охоплює скорочення персоналу FEMA та запропоновані реформи захисту державних службовців, а рішення суду щодо подальшого розгляду наразі не опубліковано.

Поширені питання

Як Grieves пояснює розподіл відповідальності за появу неправдивих цитат?

Згідно із заявою Grieves, він чітко усно пояснив помічниці-адвокатці, що чернетку згенеровано AI, і попросив провести перевірку; помічниця підтвердила, що переглянула, але все одно неправдиві цитати пройшли до документів. Grieves чітко зазначив, що несе повну відповідальність як керівний партнер і підписант позовної заяви, не перекладаючи її ні на помічницю, ні на самі AI-інструменти.

Чим Claude Console відрізняється від звичайного використання Claude AI?

Claude Console (Anthropic Developer Console) — це корпоративна AI-платформа з дизайном ізоляції даних, орієнтована на компанії та професійних користувачів; вона відрізняється від споживчої версії Claude.ai підходами до обробки даних і структурами комплаєнсу. Grieves окремо наголосив, що використовується «корпоративна, ізольована за даними платформа штучного інтелекту», але це не запобігає виникненню AI-«галюцинацій» (помилкових цитат).

Як суд розглядає ситуації, коли цитати згенеровані AI є неправдивими?

У справі Sullivan & Cromwell у квітні 2026 року адвоката вже офіційно покарали за подібні проблеми. У справі Grieves адвокат офіційно вибачився перед судом; конкретний результат подальшого розгляду наразі не опубліковано.