クロードが法律引用を幻視した後、アノスティックの弁護士が謝罪

最近、Anthropic社の代理人である弁護士が、音楽出版社との係争中に同社のAIチャットボット「Claude」が生成した誤った引用文を使用したことを認めた。この告白は、木曜日に北カリフォルニアの裁判所に提出された書類によってなされた。

Anthropic社は、Bloombergが最初に報じた提出書類の中で、Claudeが誤ったタイトルと著者の詳細の両方で引用を捏造したと述べた。同社の弁護士は、クロードの "幻覚 "によって引き起こされた他のいくつかの不正確さとともに、日常的な引用チェックがこの誤りを発見できなかったことを認めた。

Anthropic社は、このミスを "正直な引用ミスであり、権威の捏造ではない "と謝罪した。

今週初め、ユニバーサル・ミュージック・グループと他の音楽出版社の弁護士は、Anthropicの専門家証人である従業員のオリビア・チェンが、クロードを使ったとされる証言で捏造された記事を参照したと非難した。これを受け、スーザン・ヴァン・クーレン連邦判事は、これらの主張についてアンソロピック社に回答を求めた。

音楽出版社が起こしたこの訴訟は、生成AIツールの開発に彼らのコンテンツが悪用されたという疑惑をめぐる、著作権者とテック企業間の複数の対立の一部である。

これは、法的手続きにおけるAIの使用が意図しない結果を招いた新たな事例となる。今週初め、カリフォルニア州の判事は、2つの法律事務所が自身の法廷で「ニセのAI生成研究」を提出したことを批判した。1月には、オーストラリアの弁護士が裁判文書の起草にChatGPTを利用し、その結果、引用に不備があったことが暴露された。

このような事件にもかかわらず、新興企業は法的手続きの自動化のために多額の資金を集め続けている。弁護士を支援するために生成的なAIモデルを採用するHarveyは、50億ドルを超える評価額で2億5000万ドル以上を確保するために協議中と報じられている。

Techcrunchイベント ### TechCrunch Sessionsにご参加ください：AI

OpenAI、Anthropic、Cohereが登壇するAI業界のプレミアイベントへの参加をご予約ください。専門家によるプレゼンテーション、ワークショップ、貴重なネットワーキングの機会を一日中楽しめるチケットが期間限定で292ドルとなっています。

TechCrunch Sessionsに出展：AI

TC Sessionsであなたの展位を予約してください：貴社のイノベーションを1,200人以上の意思決定者にアピールしてください。5月9日まで、または定員になり次第締め切ります。

カリフォルニア州バークレー｜6月5日 今すぐ登録