Судья критикует адвокатов за фальшивое исследование ИИ

Судья оштрафовал юридические фирмы за использование ИИ без раскрытия
В недавнем решении судья Калифорнии Майкл Уилнер наложил на две известные юридические фирмы крупный штраф в размере 31 000 долларов за тайное использование искусственного интеллекта в гражданском иске. По словам судьи Уилнера, фирмы представили документ, наполненный «ложными, неточными и вводящими в заблуждение юридическими цитатами и выдержками». Как сообщили профессора права Эрик Голдман и Блейк Рид на Bluesky, судья выразил свое разочарование тем, что он счел безответственным пренебрежением профессиональными стандартами.
«Я доверял прочитанному документу», — написал судья Уилнер в своем решении. «Я был убежден авторитетами, на которые они ссылались, поэтому я углубился в изучение этих дел самостоятельно. Но их не существовало. Это было пугающе. Я чуть не подписал судебный приказ на основе ложной информации».
Согласно судебным документам, проблемы начались, когда юридическая команда истца наняла инструмент ИИ для создания наброска дополнительного документа. Однако этот набросок был полон вымышленного содержания, когда его передали другой юридической фирме, участвующей в деле, K&L Gates. К сожалению, ни одна из фирм не удосужилась проверить или подтвердить информацию перед ее подачей.
Судья Уилнер обнаружил, что «по крайней мере две из указанных ссылок были полностью вымышленными». Когда ему потребовались разъяснения, K&L Gates повторно подала документ, но судья обнаружил еще больше вымышленных ссылок. В ответ он издал приказ о явке для объяснений, что побудило обе стороны признать правду под присягой. Адвокат, ответственный за создание исходного наброска, признался в использовании Google Gemini и юридических исследовательских инструментов, таких как Westlaw Precision с CoCounsel.
Шаблон злоупотреблений
Это не первый случай, когда юристы попадают в неприятности из-за неправильного использования ИИ. Бывший адвокат Трампа Майкл Коэн однажды сослался на несуществующие судебные дела после того, как ошибочно принял Google Gemini, тогда известный как Bard, за обычную поисковую систему. Аналогично, судья в Колумбии обнаружил, что адвокаты, подавшие иск против авиакомпании, добавили в свой документ фиктивные дела, сгенерированные ChatGPT.
«Этот эпизод был не чем иным, как тревожным», — заключил судья Уилнер. «Изначальное решение полагаться на ИИ без раскрытия было неприемлемым. Отправка такого ошибочного материала другим профессионалам без предупреждения о его сомнительном происхождении подвергала всех риску».
Более широкие последствия
Решение подчеркивает нарастающую озабоченность среди юридических профессионалов этическими последствиями использования ИИ в судебных документах. Хотя инструменты ИИ обещают эффективность и точность, они также несут риск распространения дезинформации, если не проверяются должным образом. Как подчеркнул судья Уилнер, «ни один разумно компетентный адвокат не должен передавать свои исследования или написание текста алгоритму без проверки его результатов».
Дело служит ярким напоминанием о важности прозрачности и ответственности в юридической практике. По мере того как ИИ продолжает развиваться, для практикующих специалистов остается критически важным действовать осторожно, гарантируя, что технологии укрепляют, а не подрывают целостность системы правосудия.
Связанная статья
Google Photos с помощью искусственного интеллекта воскрешает культовый гардероб из фильма «Бестолковые»
В среду сервис Google Фото анонсировал новую функцию на базе искусственного интеллекта, которая в скором времени превратит фотографии вашей одежды в цифровой гардероб, позволяя создавать новые комбина
Notion превращает свое рабочее пространство в центр для ИИ-агентов
Компания Notion, разработчик программного обеспечения для повышения продуктивности, вступает в эру агентов.Во время прямой трансляции анонса продукта в среду компания Notion, наиболее известная своим
ElevenLabs объявила о привлечении в качестве новых инвесторов компаний BlackRock, Джейми Фокса и Евы Лонгории
Компания ElevenLabs, занимающаяся разработкой голосовых ИИ-технологий, раскрыла имена дополнительных инвесторов, участвовавших в раунде финансирования серии D на сумму 500 млн долларов, о котором перв
Рекомендации по связанным специальным темам
Комментарии (4)
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬

Судья оштрафовал юридические фирмы за использование ИИ без раскрытия
В недавнем решении судья Калифорнии Майкл Уилнер наложил на две известные юридические фирмы крупный штраф в размере 31 000 долларов за тайное использование искусственного интеллекта в гражданском иске. По словам судьи Уилнера, фирмы представили документ, наполненный «ложными, неточными и вводящими в заблуждение юридическими цитатами и выдержками». Как сообщили профессора права Эрик Голдман и Блейк Рид на Bluesky, судья выразил свое разочарование тем, что он счел безответственным пренебрежением профессиональными стандартами. «Я доверял прочитанному документу», — написал судья Уилнер в своем решении. «Я был убежден авторитетами, на которые они ссылались, поэтому я углубился в изучение этих дел самостоятельно. Но их не существовало. Это было пугающе. Я чуть не подписал судебный приказ на основе ложной информации». Согласно судебным документам, проблемы начались, когда юридическая команда истца наняла инструмент ИИ для создания наброска дополнительного документа. Однако этот набросок был полон вымышленного содержания, когда его передали другой юридической фирме, участвующей в деле, K&L Gates. К сожалению, ни одна из фирм не удосужилась проверить или подтвердить информацию перед ее подачей. Судья Уилнер обнаружил, что «по крайней мере две из указанных ссылок были полностью вымышленными». Когда ему потребовались разъяснения, K&L Gates повторно подала документ, но судья обнаружил еще больше вымышленных ссылок. В ответ он издал приказ о явке для объяснений, что побудило обе стороны признать правду под присягой. Адвокат, ответственный за создание исходного наброска, признался в использовании Google Gemini и юридических исследовательских инструментов, таких как Westlaw Precision с CoCounsel.Шаблон злоупотреблений
Это не первый случай, когда юристы попадают в неприятности из-за неправильного использования ИИ. Бывший адвокат Трампа Майкл Коэн однажды сослался на несуществующие судебные дела после того, как ошибочно принял Google Gemini, тогда известный как Bard, за обычную поисковую систему. Аналогично, судья в Колумбии обнаружил, что адвокаты, подавшие иск против авиакомпании, добавили в свой документ фиктивные дела, сгенерированные ChatGPT. «Этот эпизод был не чем иным, как тревожным», — заключил судья Уилнер. «Изначальное решение полагаться на ИИ без раскрытия было неприемлемым. Отправка такого ошибочного материала другим профессионалам без предупреждения о его сомнительном происхождении подвергала всех риску».Более широкие последствия
Решение подчеркивает нарастающую озабоченность среди юридических профессионалов этическими последствиями использования ИИ в судебных документах. Хотя инструменты ИИ обещают эффективность и точность, они также несут риск распространения дезинформации, если не проверяются должным образом. Как подчеркнул судья Уилнер, «ни один разумно компетентный адвокат не должен передавать свои исследования или написание текста алгоритму без проверки его результатов». Дело служит ярким напоминанием о важности прозрачности и ответственности в юридической практике. По мере того как ИИ продолжает развиваться, для практикующих специалистов остается критически важным действовать осторожно, гарантируя, что технологии укрепляют, а не подрывают целостность системы правосудия.
Google Photos с помощью искусственного интеллекта воскрешает культовый гардероб из фильма «Бестолковые»
В среду сервис Google Фото анонсировал новую функцию на базе искусственного интеллекта, которая в скором времени превратит фотографии вашей одежды в цифровой гардероб, позволяя создавать новые комбина
Notion превращает свое рабочее пространство в центр для ИИ-агентов
Компания Notion, разработчик программного обеспечения для повышения продуктивности, вступает в эру агентов.Во время прямой трансляции анонса продукта в среду компания Notion, наиболее известная своим
ElevenLabs объявила о привлечении в качестве новых инвесторов компаний BlackRock, Джейми Фокса и Евы Лонгории
Компания ElevenLabs, занимающаяся разработкой голосовых ИИ-технологий, раскрыла имена дополнительных инвесторов, участвовавших в раунде финансирования серии D на сумму 500 млн долларов, о котором перв
This AI fiasco in court is wild! Lawyers thought they could sneak in AI-generated research and not get caught? $31k fine is a wake-up call—bet they’ll think twice before pulling that stunt again. 😬





Дом






