Дом
Anthropic признает ошибку искусственного интеллекта Клода в юридической документации, называя ее постыдной и непреднамеренной

Компания Anthropic ответила на обвинения, касающиеся источника, сгенерированного искусственным интеллектом, в своем текущем судебном споре с музыкальными издателями, охарактеризовав этот инцидент как "непреднамеренную ошибку цитирования", допущенную ее чатботом Claude.
Спорная цитата появилась в судебном иске, поданном 30 апреля научным сотрудником Anthropic Оливией Чен, в рамках защиты компании от обвинений в том, что Claude обучался, используя тексты песен, защищенные авторским правом. В ходе судебного разбирательства юристы, представляющие Universal Music Group и других издателей, отметили приведенные источники как потенциально сфабрикованные, предположив, что они могли быть придуманы системой искусственного интеллекта Anthropic.
В недавно поданном ответе адвокат Anthropic Ивана Дуканович пояснила, что, хотя цитируемые материалы были подлинными, Клод использовал их для форматирования юридических цитат в документе. Компания признала, что, хотя автоматические проверки выявили и исправили неточности в объеме и номерах страниц, сгенерированных искусственным интеллектом, некоторые неточности в формулировках остались незамеченными при ручной проверке.
Дуканович пояснил: "Система правильно определила название публикации, год и доступную ссылку, но ошибочно включила неверные названия статей и информацию об авторах", подчеркнув, что это скорее честная ошибка, чем намеренное введение в заблуждение. Anthropic выразила сожаление по поводу возникшей путаницы, назвав недосмотр "досадной, но непреднамеренной ошибкой".
Этот случай присоединился к растущему списку судебных разбирательств, в которых цитирование с помощью ИИ привело к осложнениям. Недавно судья из Калифорнии сделал замечание адвокатам за то, что они не раскрыли роль искусственного интеллекта в подготовке справки, содержащей несуществующие юридические ссылки. В декабре прошлого года этот вопрос привлек дополнительное внимание, когда исследователь дезинформации признал, что ChatGPT придумал ссылки в одном из своих юридических материалов.
Связанная статья
Warner Music приобретает стартап в области атрибуции с использованием искусственного интеллекта Sureel AI
Warner Music Group (WMG) подтвердила в среду, что приобретает Sureel AI, стартап в области атрибуции с использованием искусственного интеллекта. Собственная технология Sureel создает «ИИ-ДНК» для музыкальных треков, разбивая их на составляющие элемен
Amazon представляет Alexa для покупок, отодвигая Rufus на второй план
Amazon запустила Alexa for Shopping, объединив своего чат-бота для покупок Rufus с Alexa+ в приложении, на веб-сайте и устройствах Echo Show.Ассистент отвечает на запросы о товарах, сравнивает товары, отслеживает цены и поддерживает напоминания о по
Microsoft, Azure и технологии искусственного интеллекта борются с рисками лесных пожаров в Калифорнии
Компания Microsoft инвестирует в разработку систем обнаружения лесных пожаров на основе искусственного интеллекта; Хуан Лависта Феррес, старший вице-президент и главный специалист по данным, обсуждает
Рекомендации по связанным специальным темам
Комментарии (3)
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!

Компания Anthropic ответила на обвинения, касающиеся источника, сгенерированного искусственным интеллектом, в своем текущем судебном споре с музыкальными издателями, охарактеризовав этот инцидент как "непреднамеренную ошибку цитирования", допущенную ее чатботом Claude.
Спорная цитата появилась в судебном иске, поданном 30 апреля научным сотрудником Anthropic Оливией Чен, в рамках защиты компании от обвинений в том, что Claude обучался, используя тексты песен, защищенные авторским правом. В ходе судебного разбирательства юристы, представляющие Universal Music Group и других издателей, отметили приведенные источники как потенциально сфабрикованные, предположив, что они могли быть придуманы системой искусственного интеллекта Anthropic.
В недавно поданном ответе адвокат Anthropic Ивана Дуканович пояснила, что, хотя цитируемые материалы были подлинными, Клод использовал их для форматирования юридических цитат в документе. Компания признала, что, хотя автоматические проверки выявили и исправили неточности в объеме и номерах страниц, сгенерированных искусственным интеллектом, некоторые неточности в формулировках остались незамеченными при ручной проверке.
Дуканович пояснил: "Система правильно определила название публикации, год и доступную ссылку, но ошибочно включила неверные названия статей и информацию об авторах", подчеркнув, что это скорее честная ошибка, чем намеренное введение в заблуждение. Anthropic выразила сожаление по поводу возникшей путаницы, назвав недосмотр "досадной, но непреднамеренной ошибкой".
Этот случай присоединился к растущему списку судебных разбирательств, в которых цитирование с помощью ИИ привело к осложнениям. Недавно судья из Калифорнии сделал замечание адвокатам за то, что они не раскрыли роль искусственного интеллекта в подготовке справки, содержащей несуществующие юридические ссылки. В декабре прошлого года этот вопрос привлек дополнительное внимание, когда исследователь дезинформации признал, что ChatGPT придумал ссылки в одном из своих юридических материалов.
Warner Music приобретает стартап в области атрибуции с использованием искусственного интеллекта Sureel AI
Warner Music Group (WMG) подтвердила в среду, что приобретает Sureel AI, стартап в области атрибуции с использованием искусственного интеллекта. Собственная технология Sureel создает «ИИ-ДНК» для музыкальных треков, разбивая их на составляющие элемен
Microsoft, Azure и технологии искусственного интеллекта борются с рисками лесных пожаров в Калифорнии
Компания Microsoft инвестирует в разработку систем обнаружения лесных пожаров на основе искусственного интеллекта; Хуан Лависта Феррес, старший вице-президент и главный специалист по данным, обсуждает
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!











