«Я не знал, что ИИ может выдумывать факты»: адвоката наказали за фальшивые показания из ChatGPT

Верховный суд штата Нью-Мексико признал адвоката Стивена Ааронса виновным в прямом неуважении к суду: в апелляционной жалобе он сослался на «ложные показания полностью выдуманных свидетелей». Среди «свидетелей» оказались, в частности, офицеры Мишель Амарильо и Санчес, а также Манал Аль-Джибури и Тереза Маркес — люди, которых на процессе не было. Часть реальных показаний адвокат приписал не тем лицам, а прецеденты в жалобе описал неверно.

Ааронс, защищавший подсудимого более 40 лет практики, взялся вести апелляцию по делу об убийстве. Он загрузил в ChatGPT (по его словам, версию на модели OpenAI o3) компьютерную расшифровку стенограммы процесса и другие материалы, а полученный текст подписал и подал в суд, не проверив ни фактов, ни ссылок на закон. О проблеме он не сообщил ни клиенту, ни суду — пока прокуратура сама не потребовала исключить куски жалобы.

«Вы зарыли голову в песок»

Судьи были беспощадны. Особенно жёстко высказалась судья Шеннон Бэкон, насчитавшая «как минимум восемь-девять» нарушений кодекса профессиональной этики. Признание Ааронса в том, что он не знал о способности ИИ выдумывать факты, её не убедило: о «галлюцинациях» нейросетей, заметила она, в курсе и её 13-летний племянник, и 75-летняя мачеха. «Вы вообще смотрите новости, слушаете радио, читаете что-нибудь? Ведь истории про юристов, полагающихся на выдумки ИИ, выходят на первых полосах каждый день», — сказала Бэкон. По её словам, у адвоката было два варианта — сознательно оставаться в неведении или пойти на риск, и оба несовместимы с кодексом.

Суд подчёркивал: разницы между вымышленным прецедентом и неверно пересказанным реальным нет — требование правдивости действует одинаково. Не важно и то, кто готовил текст: ИИ, студент-первокурсник или коллега. Подпись под жалобой означает, что юрист ручается за её достоверность.

Больше всего судей волновала судьба подсудимого. «Именно ваш клиент страдает из-за этого куда сильнее, чем когда-либо пострадаете вы», — сказала Бэкон, напомнив, что осуждённый остаётся под стражей, пока дело не будет разрешено. Ааронс к тому же не раскрыл клиенту сути проблемы, а его родне сообщил лишь, что «с первой жалобой возникли сложности», умолчав о ChatGPT.

Итог

Суд оштрафовал адвоката на 5000 долларов в пользу фонда защиты клиентов, отстранил его от выступлений в Верховном суде штата до окончания разбирательства и передал дело в дисциплинарную комиссию, где возможны новые санкции. Все прежние жалобы исключены из материалов, а защиту подсудимого поручено взять государственному защитнику. На вопрос, оплатят ли Ааронсу его работу, судья Бэкон ответила коротко: «Не уверена, что это произойдёт».

Источник: Ars Technica