人類學家律師在克勞德幻覺引用法律條文後道歉

Anthropic 的代表律師承認,在該公司與音樂出版商的法律爭議中,使用了該公司的 Claude AI 聊天機器人所產生的錯誤引文。這一承認是透過週四在北加州法庭提交的一份法庭文件作出的。
Anthropic 在彭博社率先報導的文件中表示,Claude 捏造了錯誤的標題和作者詳細資料。該公司的律師承認,他們的例行引文檢查未能發現該錯誤,以及 Claude 的「幻覺」所導致的其他幾個不準確的地方。
Anthropic對於這個疏失表示歉意,並形容這次事件是 「誠實的引用錯誤,而非捏造權威」。
本周早些時候,環球音樂集團和其他音樂出版商的律師指控 Anthropic 的專家證人、員工 Olivia Chen 在證詞中引用了捏造的文章,涉嫌使用 Claude。之後,聯邦法官 Susan van Keulen 要求 Anthropic 就這些指控作出回應。
音樂出版商提出的訴訟,是著作權人與科技公司之間多項衝突的一部分,原因是科技公司涉嫌濫用著作權人的內容來開發人工智能生成工具。
這標誌著在法律訴訟中使用 AI 導致意想不到後果的另一個例子。本周早些時候,一位加州法官批評兩家律師事務所在他的法庭上提交了「虛假的 AI 生成研究」。今年 1 月,一名澳洲律師被揭發利用 ChatGPT 草擬法庭文件,導致引文有瑕疵。
儘管發生了這些事件,初創公司仍繼續吸引大量資金,以實現法律流程自動化。據報導,採用生成式 AI 模型協助律師的 Harvey 正在洽談中,將以超過 50 億美元的估值獲得超過 2.5 億美元的資金。
Techcrunch 活動 ### 加入我們 TechCrunch Sessions:人工智能
預留您的位子,參加我們首屈一指的 AI 產業活動,邀請 OpenAI、Anthropic 和 Cohere 的講者。在有限的時間內,門票價格僅需 292 美元,即可參加一整天的專家演講、研討會和寶貴的交流機會。
在 TechCrunch Sessions 上參展:人工智能
在 TechCrunch Sessions: AI 預訂您的展位:AI 的展位,向 1200 多位決策者展示您的創新成果,而不用破費。報名截止至 5 月 9 日,額滿即止。
加州柏克萊市 | 6月5日 立即報名
相關文章
Anthropic 推出 Opus 4.8,搭載全新的動態工作流程工具
Anthropic 於週四正式推出 Opus 4.8,這是其旗艦級公開模型的最新版本。此版本定價與前一版本相同,現已於所有平台上線。距離 Opus 4.7 發布僅隔 41 天,Anthropic 顯著加快了開發週期,遠快於近期 Sonnet 和 Haiku 版本所見的三個月及七個月間隔。此次快速更新很可能是為了回應 Opus 4.7 所獲得的冷淡反響,該版本曾讓許多使用者感到失望。與此同時,Ope
Anthropic 推出 Claude Fable 5,這是 Mythos 的公開版本
Anthropic 首次向大眾開放其最強大的 AI 模型——但同時也採取了安全措施。週二,該公司推出了「Claude Fable 5」,這是其 Mythos 模型的首個公開版本。 據 Anthropic 表示,Fable 5 在軟體工程、知識工作及視覺任務方面表現優異,但設有嚴格的安全限制。在網路安全、生物學、化學及蒸餾等高風險領域,該模型將拒絕回答問題,並轉而交由 Claude Opus 4.
SandboxAQ將藥物發現領域的AI技術引入Claude,無需擁有電腦科學博士學位即可使用。
藥物發現依然是現代工業領域成本最高的挑戰之一。要找到一種具備應用價值的分子,往往需要十年的時間以及數十億美元的投入,而且大多數候選分子最終仍會失敗。目前有一波人工智慧初創企業宣稱能夠改變這一現狀——不過這些公司大多僅能讓那些已具備足夠技術能力的研究人員稍顯便利些許。然而SandboxAQ認為,真正的瓶頸並非模型本身,而是介面設計。該公司與Anthropic合作,將其科學類人工智慧模型直接整合到Claude中,使得強大的藥物發現和材料科學工具能夠透過對話式介面被使用,且無需任何專門的計算基礎設
相關專題推薦
評論 (3)
0/500
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

Anthropic 的代表律師承認,在該公司與音樂出版商的法律爭議中,使用了該公司的 Claude AI 聊天機器人所產生的錯誤引文。這一承認是透過週四在北加州法庭提交的一份法庭文件作出的。
Anthropic 在彭博社率先報導的文件中表示,Claude 捏造了錯誤的標題和作者詳細資料。該公司的律師承認,他們的例行引文檢查未能發現該錯誤,以及 Claude 的「幻覺」所導致的其他幾個不準確的地方。
Anthropic對於這個疏失表示歉意,並形容這次事件是 「誠實的引用錯誤,而非捏造權威」。
本周早些時候,環球音樂集團和其他音樂出版商的律師指控 Anthropic 的專家證人、員工 Olivia Chen 在證詞中引用了捏造的文章,涉嫌使用 Claude。之後,聯邦法官 Susan van Keulen 要求 Anthropic 就這些指控作出回應。
音樂出版商提出的訴訟,是著作權人與科技公司之間多項衝突的一部分,原因是科技公司涉嫌濫用著作權人的內容來開發人工智能生成工具。
這標誌著在法律訴訟中使用 AI 導致意想不到後果的另一個例子。本周早些時候,一位加州法官批評兩家律師事務所在他的法庭上提交了「虛假的 AI 生成研究」。今年 1 月,一名澳洲律師被揭發利用 ChatGPT 草擬法庭文件,導致引文有瑕疵。
儘管發生了這些事件,初創公司仍繼續吸引大量資金,以實現法律流程自動化。據報導,採用生成式 AI 模型協助律師的 Harvey 正在洽談中,將以超過 50 億美元的估值獲得超過 2.5 億美元的資金。
Techcrunch 活動 ### 加入我們 TechCrunch Sessions:人工智能
預留您的位子,參加我們首屈一指的 AI 產業活動,邀請 OpenAI、Anthropic 和 Cohere 的講者。在有限的時間內,門票價格僅需 292 美元,即可參加一整天的專家演講、研討會和寶貴的交流機會。
在 TechCrunch Sessions 上參展:人工智能
在 TechCrunch Sessions: AI 預訂您的展位:AI 的展位,向 1200 多位決策者展示您的創新成果,而不用破費。報名截止至 5 月 9 日,額滿即止。
加州柏克萊市 | 6月5日 立即報名
Anthropic 推出 Opus 4.8,搭載全新的動態工作流程工具
Anthropic 於週四正式推出 Opus 4.8,這是其旗艦級公開模型的最新版本。此版本定價與前一版本相同,現已於所有平台上線。距離 Opus 4.7 發布僅隔 41 天,Anthropic 顯著加快了開發週期,遠快於近期 Sonnet 和 Haiku 版本所見的三個月及七個月間隔。此次快速更新很可能是為了回應 Opus 4.7 所獲得的冷淡反響,該版本曾讓許多使用者感到失望。與此同時,Ope
Anthropic 推出 Claude Fable 5,這是 Mythos 的公開版本
Anthropic 首次向大眾開放其最強大的 AI 模型——但同時也採取了安全措施。週二,該公司推出了「Claude Fable 5」,這是其 Mythos 模型的首個公開版本。 據 Anthropic 表示,Fable 5 在軟體工程、知識工作及視覺任務方面表現優異,但設有嚴格的安全限制。在網路安全、生物學、化學及蒸餾等高風險領域,該模型將拒絕回答問題,並轉而交由 Claude Opus 4.
SandboxAQ將藥物發現領域的AI技術引入Claude,無需擁有電腦科學博士學位即可使用。
藥物發現依然是現代工業領域成本最高的挑戰之一。要找到一種具備應用價值的分子,往往需要十年的時間以及數十億美元的投入,而且大多數候選分子最終仍會失敗。目前有一波人工智慧初創企業宣稱能夠改變這一現狀——不過這些公司大多僅能讓那些已具備足夠技術能力的研究人員稍顯便利些許。然而SandboxAQ認為,真正的瓶頸並非模型本身,而是介面設計。該公司與Anthropic合作,將其科學類人工智慧模型直接整合到Claude中,使得強大的藥物發現和材料科學工具能夠透過對話式介面被使用,且無需任何專門的計算基礎設
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.





首頁






