人類學家律師在克勞德幻覺引用法律條文後道歉

Anthropic 的代表律師承認,在該公司與音樂出版商的法律爭議中,使用了該公司的 Claude AI 聊天機器人所產生的錯誤引文。這一承認是透過週四在北加州法庭提交的一份法庭文件作出的。
Anthropic 在彭博社率先報導的文件中表示,Claude 捏造了錯誤的標題和作者詳細資料。該公司的律師承認,他們的例行引文檢查未能發現該錯誤,以及 Claude 的「幻覺」所導致的其他幾個不準確的地方。
Anthropic對於這個疏失表示歉意,並形容這次事件是 「誠實的引用錯誤,而非捏造權威」。
本周早些時候,環球音樂集團和其他音樂出版商的律師指控 Anthropic 的專家證人、員工 Olivia Chen 在證詞中引用了捏造的文章,涉嫌使用 Claude。之後,聯邦法官 Susan van Keulen 要求 Anthropic 就這些指控作出回應。
音樂出版商提出的訴訟,是著作權人與科技公司之間多項衝突的一部分,原因是科技公司涉嫌濫用著作權人的內容來開發人工智能生成工具。
這標誌著在法律訴訟中使用 AI 導致意想不到後果的另一個例子。本周早些時候,一位加州法官批評兩家律師事務所在他的法庭上提交了「虛假的 AI 生成研究」。今年 1 月,一名澳洲律師被揭發利用 ChatGPT 草擬法庭文件,導致引文有瑕疵。
儘管發生了這些事件,初創公司仍繼續吸引大量資金,以實現法律流程自動化。據報導,採用生成式 AI 模型協助律師的 Harvey 正在洽談中,將以超過 50 億美元的估值獲得超過 2.5 億美元的資金。
Techcrunch 活動 ### 加入我們 TechCrunch Sessions:人工智能
預留您的位子,參加我們首屈一指的 AI 產業活動,邀請 OpenAI、Anthropic 和 Cohere 的講者。在有限的時間內,門票價格僅需 292 美元,即可參加一整天的專家演講、研討會和寶貴的交流機會。
在 TechCrunch Sessions 上參展:人工智能
在 TechCrunch Sessions: AI 預訂您的展位:AI 的展位,向 1200 多位決策者展示您的創新成果,而不用破費。報名截止至 5 月 9 日,額滿即止。
加州柏克萊市 | 6月5日 立即報名
相關文章
Anthropic 擴大與 Google 及 Broadrom 的運算合作夥伴關係
人工智慧研究實驗室 Anthropic 週一宣布,已與 Google 和 Broadcom 達成一項新協議,旨在大幅提升其 Claude AI 模型背後的處理與運算能力。隨著對其 AI 產品的需求持續快速攀升,該公司對運算合作夥伴關係進行了此次重組。這項協議將擴大Anthropic對Google Cloud張量處理單元(TPUs)——即該公司專用的AI晶片——的運用,並延續2025年10月簽署的一
隨著用戶轉移陣地,Claude 在 ChatGPT 市場中穩步擴張
隨著 ChatGPT 及其母公司 OpenAI 捲入一系列爭議,越來越多的使用者正轉向使用 Claude。轉捩點發生在 Claude 的開發商 Anthropic 拒絕美國國防部要求,不願讓其 AI 模型用於大規模國內監控或全自動武器系統之後。作為報復,川普總統下令所有聯邦機構停止使用 Anthropic 的產品,國防部長皮特·赫格塞斯更將該公司列為供應鏈威脅。不久之後,OpenAI 透露了與五角
Anthropic 與五角大廈的對峙對國家安全意味著什麼
過去兩週,輿論焦點主要集中在 Anthropic 執行長達里奧·阿莫迪(Dario Amodei)與國防部長皮特·赫格塞斯(Pete Hegseth)之間的一場公開對峙,核心議題是軍方對人工智慧技術的應用。Anthropic 已制定政策,禁止其人工智慧模型被用於對美國公民進行大規模監控,或用於在未經人類批准的情況下發動攻擊的完全自主武器系統。相較之下,赫格塞斯部長主張國防部不應受供應商規則的約束,
相關專題推薦
評論 (2)
0/500
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

Anthropic 的代表律師承認,在該公司與音樂出版商的法律爭議中,使用了該公司的 Claude AI 聊天機器人所產生的錯誤引文。這一承認是透過週四在北加州法庭提交的一份法庭文件作出的。
Anthropic 在彭博社率先報導的文件中表示,Claude 捏造了錯誤的標題和作者詳細資料。該公司的律師承認,他們的例行引文檢查未能發現該錯誤,以及 Claude 的「幻覺」所導致的其他幾個不準確的地方。
Anthropic對於這個疏失表示歉意,並形容這次事件是 「誠實的引用錯誤,而非捏造權威」。
本周早些時候,環球音樂集團和其他音樂出版商的律師指控 Anthropic 的專家證人、員工 Olivia Chen 在證詞中引用了捏造的文章,涉嫌使用 Claude。之後,聯邦法官 Susan van Keulen 要求 Anthropic 就這些指控作出回應。
音樂出版商提出的訴訟,是著作權人與科技公司之間多項衝突的一部分,原因是科技公司涉嫌濫用著作權人的內容來開發人工智能生成工具。
這標誌著在法律訴訟中使用 AI 導致意想不到後果的另一個例子。本周早些時候,一位加州法官批評兩家律師事務所在他的法庭上提交了「虛假的 AI 生成研究」。今年 1 月,一名澳洲律師被揭發利用 ChatGPT 草擬法庭文件,導致引文有瑕疵。
儘管發生了這些事件,初創公司仍繼續吸引大量資金,以實現法律流程自動化。據報導,採用生成式 AI 模型協助律師的 Harvey 正在洽談中,將以超過 50 億美元的估值獲得超過 2.5 億美元的資金。
Techcrunch 活動 ### 加入我們 TechCrunch Sessions:人工智能
預留您的位子,參加我們首屈一指的 AI 產業活動,邀請 OpenAI、Anthropic 和 Cohere 的講者。在有限的時間內,門票價格僅需 292 美元,即可參加一整天的專家演講、研討會和寶貴的交流機會。
在 TechCrunch Sessions 上參展:人工智能
在 TechCrunch Sessions: AI 預訂您的展位:AI 的展位,向 1200 多位決策者展示您的創新成果,而不用破費。報名截止至 5 月 9 日,額滿即止。
加州柏克萊市 | 6月5日 立即報名
Anthropic 擴大與 Google 及 Broadrom 的運算合作夥伴關係
人工智慧研究實驗室 Anthropic 週一宣布,已與 Google 和 Broadcom 達成一項新協議,旨在大幅提升其 Claude AI 模型背後的處理與運算能力。隨著對其 AI 產品的需求持續快速攀升,該公司對運算合作夥伴關係進行了此次重組。這項協議將擴大Anthropic對Google Cloud張量處理單元(TPUs)——即該公司專用的AI晶片——的運用,並延續2025年10月簽署的一
隨著用戶轉移陣地,Claude 在 ChatGPT 市場中穩步擴張
隨著 ChatGPT 及其母公司 OpenAI 捲入一系列爭議,越來越多的使用者正轉向使用 Claude。轉捩點發生在 Claude 的開發商 Anthropic 拒絕美國國防部要求,不願讓其 AI 模型用於大規模國內監控或全自動武器系統之後。作為報復,川普總統下令所有聯邦機構停止使用 Anthropic 的產品,國防部長皮特·赫格塞斯更將該公司列為供應鏈威脅。不久之後,OpenAI 透露了與五角
Anthropic 與五角大廈的對峙對國家安全意味著什麼
過去兩週,輿論焦點主要集中在 Anthropic 執行長達里奧·阿莫迪(Dario Amodei)與國防部長皮特·赫格塞斯(Pete Hegseth)之間的一場公開對峙,核心議題是軍方對人工智慧技術的應用。Anthropic 已制定政策,禁止其人工智慧模型被用於對美國公民進行大規模監控,或用於在未經人類批准的情況下發動攻擊的完全自主武器系統。相較之下,赫格塞斯部長主張國防部不應受供應商規則的約束,
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.





首頁






