Судья критикует адвокатов за фальшивое исследование ИИ

Судья оштрафовал юридические фирмы за использование ИИ без раскрытия
В недавнем решении судья Калифорнии Майкл Уилнер наложил на две известные юридические фирмы крупный штраф в размере 31 000 долларов за тайное использование искусственного интеллекта в гражданском иске. По словам судьи Уилнера, фирмы представили документ, наполненный «ложными, неточными и вводящими в заблуждение юридическими цитатами и выдержками». Как сообщили профессора права Эрик Голдман и Блейк Рид на Bluesky, судья выразил свое разочарование тем, что он счел безответственным пренебрежением профессиональными стандартами.
«Я доверял прочитанному документу», — написал судья Уилнер в своем решении. «Я был убежден авторитетами, на которые они ссылались, поэтому я углубился в изучение этих дел самостоятельно. Но их не существовало. Это было пугающе. Я чуть не подписал судебный приказ на основе ложной информации».
Согласно судебным документам, проблемы начались, когда юридическая команда истца наняла инструмент ИИ для создания наброска дополнительного документа. Однако этот набросок был полон вымышленного содержания, когда его передали другой юридической фирме, участвующей в деле, K&L Gates. К сожалению, ни одна из фирм не удосужилась проверить или подтвердить информацию перед ее подачей.
Судья Уилнер обнаружил, что «по крайней мере две из указанных ссылок были полностью вымышленными». Когда ему потребовались разъяснения, K&L Gates повторно подала документ, но судья обнаружил еще больше вымышленных ссылок. В ответ он издал приказ о явке для объяснений, что побудило обе стороны признать правду под присягой. Адвокат, ответственный за создание исходного наброска, признался в использовании Google Gemini и юридических исследовательских инструментов, таких как Westlaw Precision с CoCounsel.
Шаблон злоупотреблений
Это не первый случай, когда юристы попадают в неприятности из-за неправильного использования ИИ. Бывший адвокат Трампа Майкл Коэн однажды сослался на несуществующие судебные дела после того, как ошибочно принял Google Gemini, тогда известный как Bard, за обычную поисковую систему. Аналогично, судья в Колумбии обнаружил, что адвокаты, подавшие иск против авиакомпании, добавили в свой документ фиктивные дела, сгенерированные ChatGPT.
«Этот эпизод был не чем иным, как тревожным», — заключил судья Уилнер. «Изначальное решение полагаться на ИИ без раскрытия было неприемлемым. Отправка такого ошибочного материала другим профессионалам без предупреждения о его сомнительном происхождении подвергала всех риску».
Более широкие последствия
Решение подчеркивает нарастающую озабоченность среди юридических профессионалов этическими последствиями использования ИИ в судебных документах. Хотя инструменты ИИ обещают эффективность и точность, они также несут риск распространения дезинформации, если не проверяются должным образом. Как подчеркнул судья Уилнер, «ни один разумно компетентный адвокат не должен передавать свои исследования или написание текста алгоритму без проверки его результатов».
Дело служит ярким напоминанием о важности прозрачности и ответственности в юридической практике. По мере того как ИИ продолжает развиваться, для практикующих специалистов остается критически важным действовать осторожно, гарантируя, что технологии укрепляют, а не подрывают целостность системы правосудия.
Связанная статья
Warner Music приобретает стартап в области атрибуции с использованием искусственного интеллекта Sureel AI
Warner Music Group (WMG) подтвердила в среду, что приобретает Sureel AI, стартап в области атрибуции с использованием искусственного интеллекта. Собственная технология Sureel создает «ИИ-ДНК» для музыкальных треков, разбивая их на составляющие элемен
Amazon представляет Alexa для покупок, отодвигая Rufus на второй план
Amazon запустила Alexa for Shopping, объединив своего чат-бота для покупок Rufus с Alexa+ в приложении, на веб-сайте и устройствах Echo Show.Ассистент отвечает на запросы о товарах, сравнивает товары, отслеживает цены и поддерживает напоминания о по
Microsoft, Azure и технологии искусственного интеллекта борются с рисками лесных пожаров в Калифорнии
Компания Microsoft инвестирует в разработку систем обнаружения лесных пожаров на основе искусственного интеллекта; Хуан Лависта Феррес, старший вице-президент и главный специалист по данным, обсуждает
Рекомендации по связанным специальным темам
Комментарии (4)
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬

Судья оштрафовал юридические фирмы за использование ИИ без раскрытия
В недавнем решении судья Калифорнии Майкл Уилнер наложил на две известные юридические фирмы крупный штраф в размере 31 000 долларов за тайное использование искусственного интеллекта в гражданском иске. По словам судьи Уилнера, фирмы представили документ, наполненный «ложными, неточными и вводящими в заблуждение юридическими цитатами и выдержками». Как сообщили профессора права Эрик Голдман и Блейк Рид на Bluesky, судья выразил свое разочарование тем, что он счел безответственным пренебрежением профессиональными стандартами. «Я доверял прочитанному документу», — написал судья Уилнер в своем решении. «Я был убежден авторитетами, на которые они ссылались, поэтому я углубился в изучение этих дел самостоятельно. Но их не существовало. Это было пугающе. Я чуть не подписал судебный приказ на основе ложной информации». Согласно судебным документам, проблемы начались, когда юридическая команда истца наняла инструмент ИИ для создания наброска дополнительного документа. Однако этот набросок был полон вымышленного содержания, когда его передали другой юридической фирме, участвующей в деле, K&L Gates. К сожалению, ни одна из фирм не удосужилась проверить или подтвердить информацию перед ее подачей. Судья Уилнер обнаружил, что «по крайней мере две из указанных ссылок были полностью вымышленными». Когда ему потребовались разъяснения, K&L Gates повторно подала документ, но судья обнаружил еще больше вымышленных ссылок. В ответ он издал приказ о явке для объяснений, что побудило обе стороны признать правду под присягой. Адвокат, ответственный за создание исходного наброска, признался в использовании Google Gemini и юридических исследовательских инструментов, таких как Westlaw Precision с CoCounsel.Шаблон злоупотреблений
Это не первый случай, когда юристы попадают в неприятности из-за неправильного использования ИИ. Бывший адвокат Трампа Майкл Коэн однажды сослался на несуществующие судебные дела после того, как ошибочно принял Google Gemini, тогда известный как Bard, за обычную поисковую систему. Аналогично, судья в Колумбии обнаружил, что адвокаты, подавшие иск против авиакомпании, добавили в свой документ фиктивные дела, сгенерированные ChatGPT. «Этот эпизод был не чем иным, как тревожным», — заключил судья Уилнер. «Изначальное решение полагаться на ИИ без раскрытия было неприемлемым. Отправка такого ошибочного материала другим профессионалам без предупреждения о его сомнительном происхождении подвергала всех риску».Более широкие последствия
Решение подчеркивает нарастающую озабоченность среди юридических профессионалов этическими последствиями использования ИИ в судебных документах. Хотя инструменты ИИ обещают эффективность и точность, они также несут риск распространения дезинформации, если не проверяются должным образом. Как подчеркнул судья Уилнер, «ни один разумно компетентный адвокат не должен передавать свои исследования или написание текста алгоритму без проверки его результатов». Дело служит ярким напоминанием о важности прозрачности и ответственности в юридической практике. По мере того как ИИ продолжает развиваться, для практикующих специалистов остается критически важным действовать осторожно, гарантируя, что технологии укрепляют, а не подрывают целостность системы правосудия.
Warner Music приобретает стартап в области атрибуции с использованием искусственного интеллекта Sureel AI
Warner Music Group (WMG) подтвердила в среду, что приобретает Sureel AI, стартап в области атрибуции с использованием искусственного интеллекта. Собственная технология Sureel создает «ИИ-ДНК» для музыкальных треков, разбивая их на составляющие элемен
Microsoft, Azure и технологии искусственного интеллекта борются с рисками лесных пожаров в Калифорнии
Компания Microsoft инвестирует в разработку систем обнаружения лесных пожаров на основе искусственного интеллекта; Хуан Лависта Феррес, старший вице-президент и главный специалист по данным, обсуждает
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬





Дом






