Anthropic 在法律文件中承認 Claude AI 錯誤,稱其為「尷尬且非故意」。

Anthropic 在與音樂出版商的法律爭議中,回應了有關人工智慧產生來源的指控,並將此事件定性為其 Claude 聊天機器人「無意的引文錯誤」。
該有爭議的引文出現在 Anthropic 資料科學家 Olivia Chen 於 4 月 30 日提交的法律文件中,這是該公司針對 Claude 被指使用受版權保護的歌詞進行訓練的辯護。在法院審理過程中,代表環球音樂集團和其他出版商的法律顧問指出所引用的來源可能是虛構的,暗示它們可能是 Anthropic 的 AI 系統所發明的。
Anthropic 的辯護律師 Ivana Dukanovic 在最近提交的回應中澄清,雖然所引用的資料是真實的,但文件中的法律引文格式採用了 Claude。該公司承認,雖然自動檢查發現並糾正了人工智能產生的不準確的卷數和頁碼,但某些措辭不準確的地方在人工審查時仍未發現。
Dukanovic 解釋:「系統正確辨識出出版品名稱、年份和可存取連結,但卻錯誤地包含不正確的文章標題和作者資訊,」他強調這是一個誠實的錯誤,而非蓄意歪曲。Anthropic 對於造成的混亂表示遺憾,將這個疏失形容為「一個不幸但非故意的錯誤」。
此案加入了人工智能輔助引文造成複雜問題的法律訴訟的行列。最近,一位加州法官譴責律師沒有揭露 AI 在準備一份包含不存在的法律參考資料的簡報時所扮演的角色。去年 12 月,一位錯誤資訊研究員承認 ChatGPT 在他的一份法律意見書中編造了引文,這一問題獲得了進一步的關注。
相關文章
華納音樂收購AI歸因初創公司Sureel AI
華納音樂集團(WMG)於週三確認,其正在收購Sureel AI,一家專注於人工智慧歸因的初創公司。Sureel的專有技術為音樂曲目生成“AI DNA”,將其分解為各個組成部分,以追蹤人工智慧模型如何利用這些元素。透過此次收購,WMG旨在增強其監控其藝術家和詞曲創作者的作品在人工智慧生成內容中被使用或用於訓練人工智慧模型的能力。“將Sureel整合到WMG中,增強了我們的保護、控制和變現能力,確保創意社羣保留對其智慧財產權、姓名、肖像、形象和聲音的控制權,”WMG執行長Robert Kync
亞馬遜推出“Alexa for Shopping”,同時將Rufus邊緣化
亞馬遜推出了“Alexa for Shopping”,將 Rufus 購物聊天機器人 Alexa+ 整合到應用程式、網站和 Echo Show 裝置中。該助手回答產品查詢、比較商品、跟蹤價格,並支援購物提醒。它還處理計劃中的購物操作和符合條件的自動購買。據該公司稱,“Alexa for Shopping”將 Rufus 的產品專業知識與 Alexa+ 的個性化助手上下文相結合。亞馬遜表示,Rufus 在 2025 年協助了超過 3 億客戶進行產品研究、比較和購買。GeekWire 報道稱,
微軟、Azure 與 AI 技術共同對抗加州野火風險
微軟投資於人工智慧驅動的野火偵測技術,其首席副總裁暨首席數據科學家胡安·拉維斯塔·費雷斯(Juan Lavista Ferres)針對減輕環境損害的策略進行了探討。根據美國國家航空暨太空總署(NASA)指出,氣候變遷影響地球上的每個人,其表現為氣溫上升、降雨模式改變以及海平面上升。NASA 指出,有確鑿證據顯示地球正以前所未有的速度變暖,而人類活動是主要驅動因素。隨著全球氣溫上升,野火構成的威脅日
相關專題推薦
評論 (3)
0/500
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!

Anthropic 在與音樂出版商的法律爭議中,回應了有關人工智慧產生來源的指控,並將此事件定性為其 Claude 聊天機器人「無意的引文錯誤」。
該有爭議的引文出現在 Anthropic 資料科學家 Olivia Chen 於 4 月 30 日提交的法律文件中,這是該公司針對 Claude 被指使用受版權保護的歌詞進行訓練的辯護。在法院審理過程中,代表環球音樂集團和其他出版商的法律顧問指出所引用的來源可能是虛構的,暗示它們可能是 Anthropic 的 AI 系統所發明的。
Anthropic 的辯護律師 Ivana Dukanovic 在最近提交的回應中澄清,雖然所引用的資料是真實的,但文件中的法律引文格式採用了 Claude。該公司承認,雖然自動檢查發現並糾正了人工智能產生的不準確的卷數和頁碼,但某些措辭不準確的地方在人工審查時仍未發現。
Dukanovic 解釋:「系統正確辨識出出版品名稱、年份和可存取連結,但卻錯誤地包含不正確的文章標題和作者資訊,」他強調這是一個誠實的錯誤,而非蓄意歪曲。Anthropic 對於造成的混亂表示遺憾,將這個疏失形容為「一個不幸但非故意的錯誤」。
此案加入了人工智能輔助引文造成複雜問題的法律訴訟的行列。最近,一位加州法官譴責律師沒有揭露 AI 在準備一份包含不存在的法律參考資料的簡報時所扮演的角色。去年 12 月,一位錯誤資訊研究員承認 ChatGPT 在他的一份法律意見書中編造了引文,這一問題獲得了進一步的關注。
華納音樂收購AI歸因初創公司Sureel AI
華納音樂集團(WMG)於週三確認,其正在收購Sureel AI,一家專注於人工智慧歸因的初創公司。Sureel的專有技術為音樂曲目生成“AI DNA”,將其分解為各個組成部分,以追蹤人工智慧模型如何利用這些元素。透過此次收購,WMG旨在增強其監控其藝術家和詞曲創作者的作品在人工智慧生成內容中被使用或用於訓練人工智慧模型的能力。“將Sureel整合到WMG中,增強了我們的保護、控制和變現能力,確保創意社羣保留對其智慧財產權、姓名、肖像、形象和聲音的控制權,”WMG執行長Robert Kync
微軟、Azure 與 AI 技術共同對抗加州野火風險
微軟投資於人工智慧驅動的野火偵測技術,其首席副總裁暨首席數據科學家胡安·拉維斯塔·費雷斯(Juan Lavista Ferres)針對減輕環境損害的策略進行了探討。根據美國國家航空暨太空總署(NASA)指出,氣候變遷影響地球上的每個人,其表現為氣溫上升、降雨模式改變以及海平面上升。NASA 指出,有確鑿證據顯示地球正以前所未有的速度變暖,而人類活動是主要驅動因素。隨著全球氣溫上升,野火構成的威脅日
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!





首頁






