Судья критикует предпринимателя ИИ за использование «адвоката», сгенерированного ИИ, в суде

Смелый шаг мужчины использовать сгенерированный ИИ аватар в своей юридической апелляции определенно привлек внимание суда Нью-Йорка, хотя и не так, как он, возможно, надеялся.

Джером Дьюалд, 74-летний предприниматель, стоящий за стартапом, утверждающим, что он "революционизирует юридическое самопредставительство с помощью ИИ", получил строгий выговор во время слушания по трудовому спору 26 марта. Проблема? Он не сообщил судьям, что лицо, представляющее его устный аргумент, было искусственно сгенерировано. Хотя суд дал Дьюалду разрешение на подачу видео, судья Салли Манзанет-Даниэльс была ошеломлена, когда на экране появилось незнакомое лицо, явно не Дьюалд.

"Подождите," — прервала Манзанет-Даниэльс, едва аватар начал говорить. "Это адвокат по делу?"

"Я это сгенерировал," — признался Дьюалд. "Это не настоящий человек."

Дьюалд объяснил *The Register*, что аватар, "большой, красивый парень" по имени Джим, был одним из стандартных вариантов от компании ИИ-аватаров Tavus. Он подал видео из-за своих трудностей с длительным говорением, но суд не знал, что видео было сгенерировано ИИ.

"Было бы неплохо знать об этом, когда вы подавали заявку. Вы мне этого не сказали, сэр, я не ценю, когда меня вводят в заблуждение," — ответила Манзанет-Даниэльс после признания Дьюалда. "Вы не будете использовать этот зал суда как стартовую площадку для вашего бизнеса."

Недавние промахи с ИИ в юридических условиях

Этот инцидент — часть растущего списка неудач, где ИИ и юридические процессы пересекаются. В 2023 году два адвоката и их юридическая фирма столкнулись с санкциями за предоставление вымышленных юридических исследований, сгенерированных ChatGPT. Аналогично, компания "робот-адвокат" DoNotPay была оштрафована на $193,000 в рамках урегулирования с FTC в феврале за ложные утверждения, что ее ИИ-юридическое представительство соответствует эффективности человеческих адвокатов.

Эти случаи подчеркивают важность прозрачности и осторожности при интеграции ИИ в судебные разбирательства. По мере развития технологий крайне важно, чтобы пользователи были открыты в отношении использования инструментов ИИ для поддержания целостности и доверия в судебной системе.