Anthropic社、クロードAIの誤りを法的文書で認める。

Anthropic社は、現在進行中の音楽出版社との法的紛争において、AIが生成したソースに関する非難に対処し、この事件は同社のClaudeチャットボットによる「意図しない引用ミス」であると説明した。
問題となっている引用は、Anthropicのデータサイエンティストであるオリビア・チェンが4月30日に提出した法的提出書類に記載されており、クロードが著作権のある曲の歌詞を使用して訓練されたという申し立てに対する同社の弁護の一環である。裁判の過程で、ユニバーサルミュージックグループと他の出版社を代表する法律顧問は、引用されたソースが捏造の可能性があると指摘し、AnthropicのAIシステムによって発明された可能性を示唆した。
最近提出された反論で、Anthropic社の弁護人イヴァナ・ドゥカノヴィッチ氏は、引用された資料は本物であったが、文書中の法的引用の書式にはクロードが使用されていたことを明らかにした。同社は、自動チェックがAIによって生成された不正確なボリュームとページ番号を検出し修正した一方で、手作業によるレビューでは特定の不正確な表現が検出されなかったことを認めた。
デュカノビッチ氏は、「システムは出版物名、年、アクセス可能なリンクを正しく認識したが、誤った論文タイトルと著者情報が含まれていた」と説明し、これは意図的な虚偽表示ではなく、正直なミスであることを強調した。Anthropic社は、混乱を招いたことについて遺憾の意を表明し、この見落としを "残念ではあるが意図的ではないミス "と表現した。
このケースは、AIによる引用が複雑な問題を引き起こした法的手続きのリストに加わることになる。最近、カリフォルニア州の裁判官は、存在しない法律文献を含む準備書面を作成する際にAIの役割を開示していなかったとして弁護士を叱責した。この問題は、昨年12月、ある誤報研究者が、ChatGPTが自身の法的提出書類のひとつに引用文献を捏造していたことを認めたことで、さらに注目を集めた。
関連記事
Google、Gemini向け「Agentic AI」を発表、企業顧客向けに提供を開始
木曜日に開催されたGoogle Cloudのイベントで、同社はGemini AIを「エージェント時代」に統合する計画を発表しました。今回の発表により、単一のインターフェース内で、問い合わせへの回答だけでなく、ユーザーに代わってタスクを実行することも可能な統合型エージェントが導入されます。この動きは、AIツールが単純な対話型インターフェースから、割り当てられたタスクの責任を担えるシステムへと進化して
Googleは、あなたの生活を漫画の世界に変える、同社史上最も風変わりなAIツール「Dreambeans」を発表した
実験的な製品設計を担当する部門「Google Labs」は、日常生活を彩るAI搭載の新しいアプリをiOSおよびAndroid向けにリリースしました。その名も「Dreambeans」。この名前の由来については、後ほど説明します。このツールとは一体どのようなものなのでしょうか?このアプリケーションのプロダクトリードであるゴズデ・オズヌル氏は、TechCrunchに対し、このコンセプトは、ユーザーが利用
AIモデルルーティングが勢いを増す中、StripeがOpenRouterを買収へ
Stripeは、開発者が単一のインターフェースを通じて数百のモデルにアクセスできるAIモデルルーティングプラットフォーム「OpenRouter」の買収に合意した。この買収により、StripeのAI活用やトークンベースの課金に関する既存の取り組みに、モデルの選択およびルーティング機能が追加されることになる。Stripeによると、OpenRouterは80社以上のプロバイダーが提供する400以上のモデ
関連特集おすすめ
コメント (3)
0/500
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!

Anthropic社は、現在進行中の音楽出版社との法的紛争において、AIが生成したソースに関する非難に対処し、この事件は同社のClaudeチャットボットによる「意図しない引用ミス」であると説明した。
問題となっている引用は、Anthropicのデータサイエンティストであるオリビア・チェンが4月30日に提出した法的提出書類に記載されており、クロードが著作権のある曲の歌詞を使用して訓練されたという申し立てに対する同社の弁護の一環である。裁判の過程で、ユニバーサルミュージックグループと他の出版社を代表する法律顧問は、引用されたソースが捏造の可能性があると指摘し、AnthropicのAIシステムによって発明された可能性を示唆した。
最近提出された反論で、Anthropic社の弁護人イヴァナ・ドゥカノヴィッチ氏は、引用された資料は本物であったが、文書中の法的引用の書式にはクロードが使用されていたことを明らかにした。同社は、自動チェックがAIによって生成された不正確なボリュームとページ番号を検出し修正した一方で、手作業によるレビューでは特定の不正確な表現が検出されなかったことを認めた。
デュカノビッチ氏は、「システムは出版物名、年、アクセス可能なリンクを正しく認識したが、誤った論文タイトルと著者情報が含まれていた」と説明し、これは意図的な虚偽表示ではなく、正直なミスであることを強調した。Anthropic社は、混乱を招いたことについて遺憾の意を表明し、この見落としを "残念ではあるが意図的ではないミス "と表現した。
このケースは、AIによる引用が複雑な問題を引き起こした法的手続きのリストに加わることになる。最近、カリフォルニア州の裁判官は、存在しない法律文献を含む準備書面を作成する際にAIの役割を開示していなかったとして弁護士を叱責した。この問題は、昨年12月、ある誤報研究者が、ChatGPTが自身の法的提出書類のひとつに引用文献を捏造していたことを認めたことで、さらに注目を集めた。
Google、Gemini向け「Agentic AI」を発表、企業顧客向けに提供を開始
木曜日に開催されたGoogle Cloudのイベントで、同社はGemini AIを「エージェント時代」に統合する計画を発表しました。今回の発表により、単一のインターフェース内で、問い合わせへの回答だけでなく、ユーザーに代わってタスクを実行することも可能な統合型エージェントが導入されます。この動きは、AIツールが単純な対話型インターフェースから、割り当てられたタスクの責任を担えるシステムへと進化して
Googleは、あなたの生活を漫画の世界に変える、同社史上最も風変わりなAIツール「Dreambeans」を発表した
実験的な製品設計を担当する部門「Google Labs」は、日常生活を彩るAI搭載の新しいアプリをiOSおよびAndroid向けにリリースしました。その名も「Dreambeans」。この名前の由来については、後ほど説明します。このツールとは一体どのようなものなのでしょうか?このアプリケーションのプロダクトリードであるゴズデ・オズヌル氏は、TechCrunchに対し、このコンセプトは、ユーザーが利用
AIモデルルーティングが勢いを増す中、StripeがOpenRouterを買収へ
Stripeは、開発者が単一のインターフェースを通じて数百のモデルにアクセスできるAIモデルルーティングプラットフォーム「OpenRouter」の買収に合意した。この買収により、StripeのAI活用やトークンベースの課金に関する既存の取り組みに、モデルの選択およびルーティング機能が追加されることになる。Stripeによると、OpenRouterは80社以上のプロバイダーが提供する400以上のモデ
Honestly, this is a bit concerning. If even a top-tier AI like Claude can make such a 'citation error' in a legal document, how can we trust AI-generated content for serious applications? It's not just embarrassing; it raises real questions about accountability and verification processes. 🤔
Das ist echt peinlich für Anthropic... Aber mal ehrlich, wer hat denn noch nie einen Fehler gemacht? 🤷♂️ Mich interessiert mehr, wie sie solche Zitierfehler in Zukunft verhindern wollen. KI als juristisches Werkzeug ist ja super, aber wenn die Quellenangaben nicht stimmen, wird's gefährlich. Hoffentlich lernen alle Firmen daraus!





家






