Дом
Anthropic признает ошибку искусственного интеллекта Клода в юридической документации, называя ее постыдной и непреднамеренной

Компания Anthropic ответила на обвинения, касающиеся источника, сгенерированного искусственным интеллектом, в своем текущем судебном споре с музыкальными издателями, охарактеризовав этот инцидент как "непреднамеренную ошибку цитирования", допущенную ее чатботом Claude.
Спорная цитата появилась в судебном иске, поданном 30 апреля научным сотрудником Anthropic Оливией Чен, в рамках защиты компании от обвинений в том, что Claude обучался, используя тексты песен, защищенные авторским правом. В ходе судебного разбирательства юристы, представляющие Universal Music Group и других издателей, отметили приведенные источники как потенциально сфабрикованные, предположив, что они могли быть придуманы системой искусственного интеллекта Anthropic.
В недавно поданном ответе адвокат Anthropic Ивана Дуканович пояснила, что, хотя цитируемые материалы были подлинными, Клод использовал их для форматирования юридических цитат в документе. Компания признала, что, хотя автоматические проверки выявили и исправили неточности в объеме и номерах страниц, сгенерированных искусственным интеллектом, некоторые неточности в формулировках остались незамеченными при ручной проверке.
Дуканович пояснил: "Система правильно определила название публикации, год и доступную ссылку, но ошибочно включила неверные названия статей и информацию об авторах", подчеркнув, что это скорее честная ошибка, чем намеренное введение в заблуждение. Anthropic выразила сожаление по поводу возникшей путаницы, назвав недосмотр "досадной, но непреднамеренной ошибкой".
Этот случай присоединился к растущему списку судебных разбирательств, в которых цитирование с помощью ИИ привело к осложнениям. Недавно судья из Калифорнии сделал замечание адвокатам за то, что они не раскрыли роль искусственного интеллекта в подготовке справки, содержащей несуществующие юридические ссылки. В декабре прошлого года этот вопрос привлек дополнительное внимание, когда исследователь дезинформации признал, что ChatGPT придумал ссылки в одном из своих юридических материалов.
Связанная статья
Google Photos с помощью искусственного интеллекта воскрешает культовый гардероб из фильма «Бестолковые»
В среду сервис Google Фото анонсировал новую функцию на базе искусственного интеллекта, которая в скором времени превратит фотографии вашей одежды в цифровой гардероб, позволяя создавать новые комбина
Notion превращает свое рабочее пространство в центр для ИИ-агентов
Компания Notion, разработчик программного обеспечения для повышения продуктивности, вступает в эру агентов.Во время прямой трансляции анонса продукта в среду компания Notion, наиболее известная своим
ElevenLabs объявила о привлечении в качестве новых инвесторов компаний BlackRock, Джейми Фокса и Евы Лонгории
Компания ElevenLabs, занимающаяся разработкой голосовых ИИ-технологий, раскрыла имена дополнительных инвесторов, участвовавших в раунде финансирования серии D на сумму 500 млн долларов, о котором перв
Рекомендации по связанным специальным темам
Комментарии (3)
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!

Компания Anthropic ответила на обвинения, касающиеся источника, сгенерированного искусственным интеллектом, в своем текущем судебном споре с музыкальными издателями, охарактеризовав этот инцидент как "непреднамеренную ошибку цитирования", допущенную ее чатботом Claude.
Спорная цитата появилась в судебном иске, поданном 30 апреля научным сотрудником Anthropic Оливией Чен, в рамках защиты компании от обвинений в том, что Claude обучался, используя тексты песен, защищенные авторским правом. В ходе судебного разбирательства юристы, представляющие Universal Music Group и других издателей, отметили приведенные источники как потенциально сфабрикованные, предположив, что они могли быть придуманы системой искусственного интеллекта Anthropic.
В недавно поданном ответе адвокат Anthropic Ивана Дуканович пояснила, что, хотя цитируемые материалы были подлинными, Клод использовал их для форматирования юридических цитат в документе. Компания признала, что, хотя автоматические проверки выявили и исправили неточности в объеме и номерах страниц, сгенерированных искусственным интеллектом, некоторые неточности в формулировках остались незамеченными при ручной проверке.
Дуканович пояснил: "Система правильно определила название публикации, год и доступную ссылку, но ошибочно включила неверные названия статей и информацию об авторах", подчеркнув, что это скорее честная ошибка, чем намеренное введение в заблуждение. Anthropic выразила сожаление по поводу возникшей путаницы, назвав недосмотр "досадной, но непреднамеренной ошибкой".
Этот случай присоединился к растущему списку судебных разбирательств, в которых цитирование с помощью ИИ привело к осложнениям. Недавно судья из Калифорнии сделал замечание адвокатам за то, что они не раскрыли роль искусственного интеллекта в подготовке справки, содержащей несуществующие юридические ссылки. В декабре прошлого года этот вопрос привлек дополнительное внимание, когда исследователь дезинформации признал, что ChatGPT придумал ссылки в одном из своих юридических материалов.
Google Photos с помощью искусственного интеллекта воскрешает культовый гардероб из фильма «Бестолковые»
В среду сервис Google Фото анонсировал новую функцию на базе искусственного интеллекта, которая в скором времени превратит фотографии вашей одежды в цифровой гардероб, позволяя создавать новые комбина
Notion превращает свое рабочее пространство в центр для ИИ-агентов
Компания Notion, разработчик программного обеспечения для повышения продуктивности, вступает в эру агентов.Во время прямой трансляции анонса продукта в среду компания Notion, наиболее известная своим
ElevenLabs объявила о привлечении в качестве новых инвесторов компаний BlackRock, Джейми Фокса и Евы Лонгории
Компания ElevenLabs, занимающаяся разработкой голосовых ИИ-технологий, раскрыла имена дополнительных инвесторов, участвовавших в раунде финансирования серии D на сумму 500 млн долларов, о котором перв
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!











