Anthropic社、クロードAIの誤りを法的文書で認める。

Anthropic社は、現在進行中の音楽出版社との法的紛争において、AIが生成したソースに関する非難に対処し、この事件は同社のClaudeチャットボットによる「意図しない引用ミス」であると説明した。

問題となっている引用は、Anthropicのデータサイエンティストであるオリビア・チェンが4月30日に提出した法的提出書類に記載されており、クロードが著作権のある曲の歌詞を使用して訓練されたという申し立てに対する同社の弁護の一環である。裁判の過程で、ユニバーサルミュージックグループと他の出版社を代表する法律顧問は、引用されたソースが捏造の可能性があると指摘し、AnthropicのAIシステムによって発明された可能性を示唆した。

最近提出された反論で、Anthropic社の弁護人イヴァナ・ドゥカノヴィッチ氏は、引用された資料は本物であったが、文書中の法的引用の書式にはクロードが使用されていたことを明らかにした。同社は、自動チェックがAIによって生成された不正確なボリュームとページ番号を検出し修正した一方で、手作業によるレビューでは特定の不正確な表現が検出されなかったことを認めた。

デュカノビッチ氏は、「システムは出版物名、年、アクセス可能なリンクを正しく認識したが、誤った論文タイトルと著者情報が含まれていた」と説明し、これは意図的な虚偽表示ではなく、正直なミスであることを強調した。Anthropic社は、混乱を招いたことについて遺憾の意を表明し、この見落としを "残念ではあるが意図的ではないミス "と表現した。

このケースは、AIによる引用が複雑な問題を引き起こした法的手続きのリストに加わることになる。最近、カリフォルニア州の裁判官は、存在しない法律文献を含む準備書面を作成する際にAIの役割を開示していなかったとして弁護士を叱責した。この問題は、昨年12月、ある誤報研究者が、ChatGPTが自身の法的提出書類のひとつに引用文献を捏造していたことを認めたことで、さらに注目を集めた。