Юрист, использовавший ChatGPT, был наказан за цитирование ложных показаний вымышленных свидетелей.

Адвокат Стивен Ааронс «признал перед судом, что не проверил фактические утверждения и правовую обоснованность своего составленного с помощью ИИ краткого изложения до того, как подписать его и подать в суд, и что он не сообщил своему клиенту об этом упущении, а также о том, что в основном кратком изложении содержались многочисленные фактические и юридические искажения», — говорится в постановлении Верховного суда штата, вынесенном в среду.

Ааронс более 40 лет работал адвокатом по уголовным делам в Нью-Мексико, и его наняли члены семьи подсудимого для обжалования приговора за убийство. Бывший клиент Аарона, Оскар Рене Сандовал, был приговорен к пожизненному заключению в феврале 2025 года после того, как был признан виновным в убийстве Ширин Аль-Джибури, его партнерши и матери его детей.

Чуть больше года назад, в августе 2025 года, Ааронс представил документ, содержащий ложные показания и другие ошибки. Несколько недель спустя штат Нью-Мексико подал ходатайство об исключении некоторых частей этого документа.

«Ответчик признал перед судом, что в основном документе содержались ложные показания полностью сфабрикованных свидетелей — офицера Мишель Амарилло, офицера Санчеса, Манал Аль-Джибури и Терезы Маркес», — говорится в постановлении суда, вынесенном в среду.

Адвокат загрузил стенограмму судебного заседания в ChatGPT.

Согласно постановлению, Ааронс также признал, что представил «ложные показания Дэнни Стэнтона о том, что он получал угрозы», «ложные показания Линды Стэнтон об угрозах, которые получал ее муж», и «ложные показания Марии Чавес и Терезы Маркес (сфабрикованной свидетельницы) относительно одежды и внешности стрелка». В постановлении говорится, что Ааронс также «искажал юридические полномочия» в ссылках на предыдущие дела.

Многие юристы были уличены в цитировании вымышленных дел в своих документах или в неточном описании реальных дел. Хотя Ааронс не цитировал вымышленные дела, он неточно описал реальные дела и привел ложные показания свидетелей.

На слушании в Верховном суде штата 21 августа Ааронс заявил, что загрузил в ChatGPT сгенерированную компьютером стенограмму судебного процесса по делу об убийстве и другие документы, связанные с делом, после чего программа выдала поддельные цитаты.

«Меня мало утешает мысль, что именно моя глупость привела нас к этому сегодня днем», — сказал Ааронс суду. Ааронс признал, что в его ходатайстве цитировались «несколько свидетелей, которые так и не были вызваны на судебное заседание», еще один «свидетель, который был вызван, но в ходатайстве его имя указано неверно», и что в его ходатайстве неточно описаны прецеденты.

Ааронс указал, что использовал версию ChatGPT, работающую на основе модели OpenAI o3, выпущенной в начале 2025 года. «Я предполагал, что она сгенерирует безупречное резюме судебного разбирательства», — сказал он на слушании, объяснив, что считал его точным из-за широкого распространения использования ИИ в юридической и медицинской сферах.

Ааронсу было запрещено выступать в Верховном суде Нью-Мексико до завершения расследования и разбирательства дисциплинарной комиссией. Он был оштрафован на 5000 долларов, которые должны быть выплачены в Фонд защиты клиентов Коллегии адвокатов штата Нью-Мексико, но в рамках дисциплинарного разбирательства, назначенного судом, могут быть применены и другие санкции.

Верховный суд штата обязал государственную юридическую службу назначить подсудимому нового адвоката, исключил из материалов дела все предыдущие ходатайства и постановил, что дело будет рассматриваться в судебном порядке в 2026-2027 годах.

Правосудие: «Ты спрятал голову в песок»

В ходе слушаний в прошлом месяце судьи резко раскритиковали Ааронса. Они выразили удивление по поводу того, что Ааронс не знал о возможности генерации ложной информации с помощью инструментов искусственного интеллекта, и отметили, что адвокаты обязаны проверять точность информации независимо от ее источника. По их словам, независимо от того, использует ли адвокат инструмент ИИ, студента-юриста или коллегу-юриста, адвокат, подписывающий ходатайство, должен подтвердить ее точность.

Судья С. Шеннон Бэкон особенно резко раскритиковала Ааронса. Она заявила Ааронсу, что «вы нарушили как минимум восемь или девять положений кодекса поведения». Бэкон сказала, что ей «очень трудно смириться» с утверждением Ааронса о том, что он не знал о галлюцинациях, вызванных искусственным интеллектом, отметив, что ее 13-летний племянник и 75-летняя мачеха знают об этой проблеме.

«Итак, уважаемые юристы, смотрите ли вы новости? Слушаете ли вы радио? Читаете ли вы что-нибудь о том, что происходит в мире? Потому что проблема с юристами, полагающимися на иллюзии ИИ, — это новость, которая появляется на первых полосах газет каждый день», — сказала она. «Поэтому либо вы прячете голову в песок — и это ваш выбор, преднамеренный выбор быть неосведомленным, — либо вы рискуете, и ни один из этих вариантов не соответствует кодексу профессиональной этики».

Ааронс ответил, что подал ходатайство год назад, и «за последний год многое всплыло на поверхность». Однако проблема использования юристами ИИ в ходатайствах, в которых цитируются вымышленные дела, регулярно обсуждается в новостях уже более трех лет .

Ааронс добавил, что дела, на которые он ссылался в своем заявлении, не были сфабрикованы, хотя в его заявлении они были описаны неточно. Бэкон ответил, что нет «существенной разницы» между неточным описанием реального дела и ссылкой на сфабрикованное, поскольку правила честности перед судом применяются «с одинаковой силой» в любом случае.

«Я не знал, что искусственный интеллект способен выдавать галлюцинации».

Ааронс рассказал суду, что начал с использования Rev.com, сервиса, предоставляющего расшифровки аудиофайлов с помощью ИИ, а затем загрузил эту расшифровку и другие материалы в ChatGPT.

«Я считаю, что подтвердил точность стенограммы судебного заседания», — сказал он, отвечая на вопрос, проверял ли он ее точность перед вводом в ChatGPT. «Проблема была не в стенограмме. Она возникла, когда я загрузил ее и всю остальную информацию» в ChatGPT, — сказал он. Помимо стенограммы, Ааронс сказал, что он внес в ChatGPT «саму запись заседания, изложение вопросов и часть материалов предварительного следствия».

Ааронс заявил, что надеется, что суд предпримет шаги, чтобы предотвратить повторение его ошибки другими юристами, например, издав постоянный приказ, требующий включения в юридические документы сертификата соответствия в отношении использования ИИ. Судьи расценили предложение Аарона как отвлечение от главной проблемы — его неспособности проверить точность юридического документа.

«Предположим, вы полагались на работу начинающего юриста, который работал на вас, и он просто все выдумал… и вы подписали это. Вы бы оказались в точно такой же ситуации, как сейчас», — сказал Бэкон. «Поэтому идея о том, что, поскольку суд не предупредил вас в тот момент, что вы это сделали, „будьте осторожны“, это каким-то образом освобождает вас от обязательств, совершенно не учитывается, потому что правила профессиональной этики уже определяют ваши обязательства».

«Страдания испытывает ваш клиент»

«В вашем ответе совершенно отсутствует информация о том, как это повлияло на вашего клиента», — продолжил Бэкон. «Именно он меня беспокоит. Вы представили суду документы, на которые мы не можем полагаться, и ваш клиент страдает от этого гораздо больше, чем вы когда-либо пострадаете».

Председатель Верховного суда Джули Варгас также сказала Ааронсу: «Меня очень интересует ваш подход на этом слушании. Вы, кажется, рассказываете нам обо всей политике, над которой мы размышляли годами, о том, что делать с ИИ, но вы не говорите о том, как решить ситуацию, которая перед нами, и которая имеет значительные последствия для обвиняемого, находящегося под стражей, который останется под стражей до тех пор, пока мы не решим этот вопрос. И меня сейчас совершенно не волнуют политические соображения. Меня волнует, что мы будем делать с вашим клиентом и что мы должны делать в этой ситуации, исходя из поведения, которое вы нам продемонстрировали».

Судья Майкл Виджил заявил, что нет ничего плохого в использовании ИИ для составления юридических аргументов, если юрист проверяет их точность. «Неважно, какой это инструмент. Неважно, насколько продвинута программа, созданная с помощью ИИ, или какие улучшения она вносит, — сказал он. — Неважно, используете ли вы юриста с оценками «С» или «А», если вы не проверили его работу перед подачей апелляционной жалобы. В этом и проблема. И я хотел бы, или надеюсь, что вы сосредоточитесь на этом, возьмете на себя ответственность за это».

Ааронс ответил: «Надеюсь, я не покажу, что отказываюсь брать на себя ответственность. Я имею в виду, что моя единственная надежда заключается в том, что допущенные мной ошибки каким-то образом помогут предотвратить их повторение в будущем, потому что возможности искусственного интеллекта поразительны».

Адвокат не сообщил клиенту и его семье об использовании ChatGPT.

Бэкон раскритиковала Ааронса за то, что он не сообщил о проблеме своему клиенту. «Я этого не делал. Он говорит по-испански, и я хотел посмотреть, что произойдет сегодня», — сказал Ааронс Бэкон, когда она спросила, сообщил ли он Сандовалу о проблеме.

Ааронс сказал, что его наняли брат и двоюродный брат Сандовала, и что он сообщил им о проблеме с представленным мною документом. «Они знают, что с первым поданным мной документом были проблемы, и что суд рассматривает это. Вот, собственно, и все», — сказал он.

Бэкон ответил: «Вы не сказали: „Я полагался на ChatGPT, и он предоставил суду ложную информацию, суд на меня злится, и теперь назначено слушание“. Полагаю, вы не рассказали об этом членам семьи вашего клиента».

«Я не говорил о ChatGPT, — сказал Ааронс. — Я просто сказал, что в поданном мной заявлении есть проблема». Бэкон сказал Ааронсу, что его клиенту необходимо знать масштабы проблемы, чтобы он мог принять взвешенное решение о том, «подходящий ли вы человек для его представления интересов».

Бэкон спросил Ааронса, работает ли он над делом по контракту с государственным защитником или в качестве частного адвоката. Ааронс ответил, что его наняли в качестве частного адвоката, но оплату ему еще не выплатили.