Судья критикует адвокатов за фальшивое исследование ИИ

# ai # law # policy # News # Tech

Судья оштрафовал юридические фирмы за использование ИИ без раскрытия

В недавнем решении судья Калифорнии Майкл Уилнер наложил на две известные юридические фирмы крупный штраф в размере 31 000 долларов за тайное использование искусственного интеллекта в гражданском иске. По словам судьи Уилнера, фирмы представили документ, наполненный «ложными, неточными и вводящими в заблуждение юридическими цитатами и выдержками». Как сообщили профессора права Эрик Голдман и Блейк Рид на Bluesky, судья выразил свое разочарование тем, что он счел безответственным пренебрежением профессиональными стандартами. «Я доверял прочитанному документу», — написал судья Уилнер в своем решении. «Я был убежден авторитетами, на которые они ссылались, поэтому я углубился в изучение этих дел самостоятельно. Но их не существовало. Это было пугающе. Я чуть не подписал судебный приказ на основе ложной информации». Согласно судебным документам, проблемы начались, когда юридическая команда истца наняла инструмент ИИ для создания наброска дополнительного документа. Однако этот набросок был полон вымышленного содержания, когда его передали другой юридической фирме, участвующей в деле, K&L Gates. К сожалению, ни одна из фирм не удосужилась проверить или подтвердить информацию перед ее подачей. Судья Уилнер обнаружил, что «по крайней мере две из указанных ссылок были полностью вымышленными». Когда ему потребовались разъяснения, K&L Gates повторно подала документ, но судья обнаружил еще больше вымышленных ссылок. В ответ он издал приказ о явке для объяснений, что побудило обе стороны признать правду под присягой. Адвокат, ответственный за создание исходного наброска, признался в использовании Google Gemini и юридических исследовательских инструментов, таких как Westlaw Precision с CoCounsel.

Шаблон злоупотреблений

Это не первый случай, когда юристы попадают в неприятности из-за неправильного использования ИИ. Бывший адвокат Трампа Майкл Коэн однажды сослался на несуществующие судебные дела после того, как ошибочно принял Google Gemini, тогда известный как Bard, за обычную поисковую систему. Аналогично, судья в Колумбии обнаружил, что адвокаты, подавшие иск против авиакомпании, добавили в свой документ фиктивные дела, сгенерированные ChatGPT. «Этот эпизод был не чем иным, как тревожным», — заключил судья Уилнер. «Изначальное решение полагаться на ИИ без раскрытия было неприемлемым. Отправка такого ошибочного материала другим профессионалам без предупреждения о его сомнительном происхождении подвергала всех риску».

Более широкие последствия

Решение подчеркивает нарастающую озабоченность среди юридических профессионалов этическими последствиями использования ИИ в судебных документах. Хотя инструменты ИИ обещают эффективность и точность, они также несут риск распространения дезинформации, если не проверяются должным образом. Как подчеркнул судья Уилнер, «ни один разумно компетентный адвокат не должен передавать свои исследования или написание текста алгоритму без проверки его результатов». Дело служит ярким напоминанием о важности прозрачности и ответственности в юридической практике. По мере того как ИИ продолжает развиваться, для практикующих специалистов остается критически важным действовать осторожно, гарантируя, что технологии укрепляют, а не подрывают целостность системы правосудия.

Связанная статья

Комментарии (3)