クロードが法律引用を幻視した後、アノスティックの弁護士が謝罪

最近、Anthropic社の代理人である弁護士が、音楽出版社との係争中に同社のAIチャットボット「Claude」が生成した誤った引用文を使用したことを認めた。この告白は、木曜日に北カリフォルニアの裁判所に提出された書類によってなされた。
Anthropic社は、Bloombergが最初に報じた提出書類の中で、Claudeが誤ったタイトルと著者の詳細の両方で引用を捏造したと述べた。同社の弁護士は、クロードの "幻覚 "によって引き起こされた他のいくつかの不正確さとともに、日常的な引用チェックがこの誤りを発見できなかったことを認めた。
Anthropic社は、このミスを "正直な引用ミスであり、権威の捏造ではない "と謝罪した。
今週初め、ユニバーサル・ミュージック・グループと他の音楽出版社の弁護士は、Anthropicの専門家証人である従業員のオリビア・チェンが、クロードを使ったとされる証言で捏造された記事を参照したと非難した。これを受け、スーザン・ヴァン・クーレン連邦判事は、これらの主張についてアンソロピック社に回答を求めた。
音楽出版社が起こしたこの訴訟は、生成AIツールの開発に彼らのコンテンツが悪用されたという疑惑をめぐる、著作権者とテック企業間の複数の対立の一部である。
これは、法的手続きにおけるAIの使用が意図しない結果を招いた新たな事例となる。今週初め、カリフォルニア州の判事は、2つの法律事務所が自身の法廷で「ニセのAI生成研究」を提出したことを批判した。1月には、オーストラリアの弁護士が裁判文書の起草にChatGPTを利用し、その結果、引用に不備があったことが暴露された。
このような事件にもかかわらず、新興企業は法的手続きの自動化のために多額の資金を集め続けている。弁護士を支援するために生成的なAIモデルを採用するHarveyは、50億ドルを超える評価額で2億5000万ドル以上を確保するために協議中と報じられている。
Techcrunchイベント ### TechCrunch Sessionsにご参加ください:AI
OpenAI、Anthropic、Cohereが登壇するAI業界のプレミアイベントへの参加をご予約ください。専門家によるプレゼンテーション、ワークショップ、貴重なネットワーキングの機会を一日中楽しめるチケットが期間限定で292ドルとなっています。
TechCrunch Sessionsに出展:AI
TC Sessionsであなたの展位を予約してください:貴社のイノベーションを1,200人以上の意思決定者にアピールしてください。5月9日まで、または定員になり次第締め切ります。
カリフォルニア州バークレー|6月5日 今すぐ登録
関連記事
Anthropic、GoogleおよびBroadromとのコンピューティング分野での提携を拡大
AI研究ラボのAnthropicは月曜日、GoogleおよびBroadcomとの新たな提携を発表し、同社のAIモデル「Claude」を支える処理能力と計算能力を大幅に強化するとした。このコンピューティングパートナーシップの再構築は、同社のAIサービスに対する需要が急速に高まり続ける中での動きである。今回の合意により、AnthropicはGoogle CloudのTensor Processing
ユーザーが移行する中、クロードがChatGPTに追い上げを見せる
ChatGPTとその親会社であるOpenAIをめぐる一連の論争を受け、Claudeに移行するユーザーが増加している。転機となったのは、Claudeの開発元であるAnthropicが、自社のAIモデルを国内での大規模な監視や完全自律型兵器に利用するという米国防総省の要請を拒否した後のことだった。これに対し、トランプ大統領はすべての連邦機関に対しAnthropic製品の使用停止を命じ、ピート・ヘグセッ
アンソロピック社と国防総省の対立が国家安全保障に与える意味
ここ2週間は、軍によるAI技術の活用をめぐり、AnthropicのCEOダリオ・アモデイ氏とピート・ヘグセット国防長官との間で繰り広げられた公の対立が大きな話題となっている。Anthropicは、自社のAIモデルが米国市民に対する大規模監視や、人間の承認なしに攻撃を開始する完全自律型兵器システムに使用されることを禁止する方針を定めている。これに対し、ヘグセット長官は、国防総省がベンダーの規則に縛ら
関連特集おすすめ
コメント (2)
0/500
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

最近、Anthropic社の代理人である弁護士が、音楽出版社との係争中に同社のAIチャットボット「Claude」が生成した誤った引用文を使用したことを認めた。この告白は、木曜日に北カリフォルニアの裁判所に提出された書類によってなされた。
Anthropic社は、Bloombergが最初に報じた提出書類の中で、Claudeが誤ったタイトルと著者の詳細の両方で引用を捏造したと述べた。同社の弁護士は、クロードの "幻覚 "によって引き起こされた他のいくつかの不正確さとともに、日常的な引用チェックがこの誤りを発見できなかったことを認めた。
Anthropic社は、このミスを "正直な引用ミスであり、権威の捏造ではない "と謝罪した。
今週初め、ユニバーサル・ミュージック・グループと他の音楽出版社の弁護士は、Anthropicの専門家証人である従業員のオリビア・チェンが、クロードを使ったとされる証言で捏造された記事を参照したと非難した。これを受け、スーザン・ヴァン・クーレン連邦判事は、これらの主張についてアンソロピック社に回答を求めた。
音楽出版社が起こしたこの訴訟は、生成AIツールの開発に彼らのコンテンツが悪用されたという疑惑をめぐる、著作権者とテック企業間の複数の対立の一部である。
これは、法的手続きにおけるAIの使用が意図しない結果を招いた新たな事例となる。今週初め、カリフォルニア州の判事は、2つの法律事務所が自身の法廷で「ニセのAI生成研究」を提出したことを批判した。1月には、オーストラリアの弁護士が裁判文書の起草にChatGPTを利用し、その結果、引用に不備があったことが暴露された。
このような事件にもかかわらず、新興企業は法的手続きの自動化のために多額の資金を集め続けている。弁護士を支援するために生成的なAIモデルを採用するHarveyは、50億ドルを超える評価額で2億5000万ドル以上を確保するために協議中と報じられている。
Techcrunchイベント ### TechCrunch Sessionsにご参加ください:AI
OpenAI、Anthropic、Cohereが登壇するAI業界のプレミアイベントへの参加をご予約ください。専門家によるプレゼンテーション、ワークショップ、貴重なネットワーキングの機会を一日中楽しめるチケットが期間限定で292ドルとなっています。
TechCrunch Sessionsに出展:AI
TC Sessionsであなたの展位を予約してください:貴社のイノベーションを1,200人以上の意思決定者にアピールしてください。5月9日まで、または定員になり次第締め切ります。
カリフォルニア州バークレー|6月5日 今すぐ登録
Anthropic、GoogleおよびBroadromとのコンピューティング分野での提携を拡大
AI研究ラボのAnthropicは月曜日、GoogleおよびBroadcomとの新たな提携を発表し、同社のAIモデル「Claude」を支える処理能力と計算能力を大幅に強化するとした。このコンピューティングパートナーシップの再構築は、同社のAIサービスに対する需要が急速に高まり続ける中での動きである。今回の合意により、AnthropicはGoogle CloudのTensor Processing
ユーザーが移行する中、クロードがChatGPTに追い上げを見せる
ChatGPTとその親会社であるOpenAIをめぐる一連の論争を受け、Claudeに移行するユーザーが増加している。転機となったのは、Claudeの開発元であるAnthropicが、自社のAIモデルを国内での大規模な監視や完全自律型兵器に利用するという米国防総省の要請を拒否した後のことだった。これに対し、トランプ大統領はすべての連邦機関に対しAnthropic製品の使用停止を命じ、ピート・ヘグセッ
アンソロピック社と国防総省の対立が国家安全保障に与える意味
ここ2週間は、軍によるAI技術の活用をめぐり、AnthropicのCEOダリオ・アモデイ氏とピート・ヘグセット国防長官との間で繰り広げられた公の対立が大きな話題となっている。Anthropicは、自社のAIモデルが米国市民に対する大規模監視や、人間の承認なしに攻撃を開始する完全自律型兵器システムに使用されることを禁止する方針を定めている。これに対し、ヘグセット長官は、国防総省がベンダーの規則に縛ら
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.





家






