Anthropic 在法律文件中承認 Claude AI 錯誤,稱其為「尷尬且非故意」。

Anthropic 在與音樂出版商的法律爭議中,回應了有關人工智慧產生來源的指控,並將此事件定性為其 Claude 聊天機器人「無意的引文錯誤」。
該有爭議的引文出現在 Anthropic 資料科學家 Olivia Chen 於 4 月 30 日提交的法律文件中,這是該公司針對 Claude 被指使用受版權保護的歌詞進行訓練的辯護。在法院審理過程中,代表環球音樂集團和其他出版商的法律顧問指出所引用的來源可能是虛構的,暗示它們可能是 Anthropic 的 AI 系統所發明的。
Anthropic 的辯護律師 Ivana Dukanovic 在最近提交的回應中澄清,雖然所引用的資料是真實的,但文件中的法律引文格式採用了 Claude。該公司承認,雖然自動檢查發現並糾正了人工智能產生的不準確的卷數和頁碼,但某些措辭不準確的地方在人工審查時仍未發現。
Dukanovic 解釋:「系統正確辨識出出版品名稱、年份和可存取連結,但卻錯誤地包含不正確的文章標題和作者資訊,」他強調這是一個誠實的錯誤,而非蓄意歪曲。Anthropic 對於造成的混亂表示遺憾,將這個疏失形容為「一個不幸但非故意的錯誤」。
此案加入了人工智能輔助引文造成複雜問題的法律訴訟的行列。最近,一位加州法官譴責律師沒有揭露 AI 在準備一份包含不存在的法律參考資料的簡報時所扮演的角色。去年 12 月,一位錯誤資訊研究員承認 ChatGPT 在他的一份法律意見書中編造了引文,這一問題獲得了進一步的關注。
相關文章
Google 相片運用人工智慧,讓《窈窕淑女》中那座標誌性的衣櫥栩栩如生
Google Photos 於週三宣布了一項由人工智慧驅動的新功能,這項功能將很快能將您衣物的照片轉化為數位衣櫥,讓您能創造嶄新的穿搭組合,甚至進行虛擬試穿。這個概念顯然是受到電影《窈窕淑女》中 Cher 那座標誌性的虛擬衣櫥啟發,她在片中可以瀏覽眾多服裝組合,同時決定該穿什麼。Google表示,這項功能將運用AI技術,根據您Google相簿圖庫中的衣物,自動建立您的衣櫥數位副本。在應用程式內,您
Notion 將其工作區轉變為人工智慧代理的樞紐
生產力軟體公司 Notion 正邁入「代理時代」。在週三的直播產品發布會上,以協作式筆記應用程式聞名的 Notion 揭曉了一套全新的開發者平台,該平台不僅擴展了其自訂 AI 代理程式的能力,還能與外部代理程式串接,並讓團隊建立自動化多步驟工作流程,從任何資料庫中擷取資料。透過建立一個「協調層」——一個能在多個工具和資料來源之間協調 AI 工作的系統——Notion 將自身定位為不僅僅是一款具備
ElevenLabs 宣布 BlackRock、傑米·福克斯與伊娃·朗格莉亞成為新投資人
語音人工智慧公司 ElevenLabs 已公布其 5 億美元 D 輪融資的更多投資者名單,該輪融資最初於二月宣布。 投資者陣容包括黑石集團(BlackRock)、威靈頓管理(Wellington)、D.E. Shaw及施羅德(Schroders)等機構投資者;NVIDIA、Salesforce、桑坦德銀行(Santander)、KPN及德國電信(Deutsche Telekom)等企業;以及傑米·
相關專題推薦
評論 (3)
0/500
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!

Anthropic 在與音樂出版商的法律爭議中,回應了有關人工智慧產生來源的指控,並將此事件定性為其 Claude 聊天機器人「無意的引文錯誤」。
該有爭議的引文出現在 Anthropic 資料科學家 Olivia Chen 於 4 月 30 日提交的法律文件中,這是該公司針對 Claude 被指使用受版權保護的歌詞進行訓練的辯護。在法院審理過程中,代表環球音樂集團和其他出版商的法律顧問指出所引用的來源可能是虛構的,暗示它們可能是 Anthropic 的 AI 系統所發明的。
Anthropic 的辯護律師 Ivana Dukanovic 在最近提交的回應中澄清,雖然所引用的資料是真實的,但文件中的法律引文格式採用了 Claude。該公司承認,雖然自動檢查發現並糾正了人工智能產生的不準確的卷數和頁碼,但某些措辭不準確的地方在人工審查時仍未發現。
Dukanovic 解釋:「系統正確辨識出出版品名稱、年份和可存取連結,但卻錯誤地包含不正確的文章標題和作者資訊,」他強調這是一個誠實的錯誤,而非蓄意歪曲。Anthropic 對於造成的混亂表示遺憾,將這個疏失形容為「一個不幸但非故意的錯誤」。
此案加入了人工智能輔助引文造成複雜問題的法律訴訟的行列。最近,一位加州法官譴責律師沒有揭露 AI 在準備一份包含不存在的法律參考資料的簡報時所扮演的角色。去年 12 月,一位錯誤資訊研究員承認 ChatGPT 在他的一份法律意見書中編造了引文,這一問題獲得了進一步的關注。
Google 相片運用人工智慧,讓《窈窕淑女》中那座標誌性的衣櫥栩栩如生
Google Photos 於週三宣布了一項由人工智慧驅動的新功能,這項功能將很快能將您衣物的照片轉化為數位衣櫥,讓您能創造嶄新的穿搭組合,甚至進行虛擬試穿。這個概念顯然是受到電影《窈窕淑女》中 Cher 那座標誌性的虛擬衣櫥啟發,她在片中可以瀏覽眾多服裝組合,同時決定該穿什麼。Google表示,這項功能將運用AI技術,根據您Google相簿圖庫中的衣物,自動建立您的衣櫥數位副本。在應用程式內,您
Notion 將其工作區轉變為人工智慧代理的樞紐
生產力軟體公司 Notion 正邁入「代理時代」。在週三的直播產品發布會上,以協作式筆記應用程式聞名的 Notion 揭曉了一套全新的開發者平台,該平台不僅擴展了其自訂 AI 代理程式的能力,還能與外部代理程式串接,並讓團隊建立自動化多步驟工作流程,從任何資料庫中擷取資料。透過建立一個「協調層」——一個能在多個工具和資料來源之間協調 AI 工作的系統——Notion 將自身定位為不僅僅是一款具備
ElevenLabs 宣布 BlackRock、傑米·福克斯與伊娃·朗格莉亞成為新投資人
語音人工智慧公司 ElevenLabs 已公布其 5 億美元 D 輪融資的更多投資者名單,該輪融資最初於二月宣布。 投資者陣容包括黑石集團(BlackRock)、威靈頓管理(Wellington)、D.E. Shaw及施羅德(Schroders)等機構投資者;NVIDIA、Salesforce、桑坦德銀行(Santander)、KPN及德國電信(Deutsche Telekom)等企業;以及傑米·
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!





首頁






