クロードが法律引用を幻視した後、アノスティックの弁護士が謝罪

最近、Anthropic社の代理人である弁護士が、音楽出版社との係争中に同社のAIチャットボット「Claude」が生成した誤った引用文を使用したことを認めた。この告白は、木曜日に北カリフォルニアの裁判所に提出された書類によってなされた。
Anthropic社は、Bloombergが最初に報じた提出書類の中で、Claudeが誤ったタイトルと著者の詳細の両方で引用を捏造したと述べた。同社の弁護士は、クロードの "幻覚 "によって引き起こされた他のいくつかの不正確さとともに、日常的な引用チェックがこの誤りを発見できなかったことを認めた。
Anthropic社は、このミスを "正直な引用ミスであり、権威の捏造ではない "と謝罪した。
今週初め、ユニバーサル・ミュージック・グループと他の音楽出版社の弁護士は、Anthropicの専門家証人である従業員のオリビア・チェンが、クロードを使ったとされる証言で捏造された記事を参照したと非難した。これを受け、スーザン・ヴァン・クーレン連邦判事は、これらの主張についてアンソロピック社に回答を求めた。
音楽出版社が起こしたこの訴訟は、生成AIツールの開発に彼らのコンテンツが悪用されたという疑惑をめぐる、著作権者とテック企業間の複数の対立の一部である。
これは、法的手続きにおけるAIの使用が意図しない結果を招いた新たな事例となる。今週初め、カリフォルニア州の判事は、2つの法律事務所が自身の法廷で「ニセのAI生成研究」を提出したことを批判した。1月には、オーストラリアの弁護士が裁判文書の起草にChatGPTを利用し、その結果、引用に不備があったことが暴露された。
このような事件にもかかわらず、新興企業は法的手続きの自動化のために多額の資金を集め続けている。弁護士を支援するために生成的なAIモデルを採用するHarveyは、50億ドルを超える評価額で2億5000万ドル以上を確保するために協議中と報じられている。
Techcrunchイベント ### TechCrunch Sessionsにご参加ください:AI
OpenAI、Anthropic、Cohereが登壇するAI業界のプレミアイベントへの参加をご予約ください。専門家によるプレゼンテーション、ワークショップ、貴重なネットワーキングの機会を一日中楽しめるチケットが期間限定で292ドルとなっています。
TechCrunch Sessionsに出展:AI
TC Sessionsであなたの展位を予約してください:貴社のイノベーションを1,200人以上の意思決定者にアピールしてください。5月9日まで、または定員になり次第締め切ります。
カリフォルニア州バークレー|6月5日 今すぐ登録
関連記事
Anthropic、新しいダイナミックワークフローツールを搭載した「Opus 4.8」をリリース
Anthropicは木曜日、同社の主力パブリックモデルである「Opus 4.8」を発表しました。価格は前バージョンと同額で、このアップデートは現在、すべてのプラットフォームで利用可能です。「Opus 4.7」のリリースからわずか41日後に公開された今回のアップデートにより、Anthropicは開発サイクルを大幅に加速させ、最近の「Sonnet」や「Haiku」のリリースで見られた3ヶ月や7ヶ月とい
Anthropicは、『Mythos』の一般公開版である『Claude Fable 5』をリリースした
Anthropicは、同社で最も高性能なAIモデルを初めて一般に公開した――ただし、安全対策が講じられている。火曜日、同社はMythosモデルの初の一般公開版となる「Claude Fable 5」をリリースした。 Anthropicによると、「Fable 5」はソフトウェアエンジニアリング、ナレッジワーク、画像処理タスクにおいて優れた性能を発揮するが、厳格な安全制限が設けられている。サイバーセキ
SandboxAQは、コンピューティング分野の博士号がなくても、Claudeに薬物探索用AIを導入できるようにします。
薬物探索は、現代産業において最もコストのかかる課題の一つであり続けている。実用可能な単一分子を見出すだけでも10年の歳月と数十億ドルの費用が必要で、候補となる物質のほとんどは結局失敗に終わる。AIスタートアップの波がこの状況を変えることを約束しているが、その多くは既に高度な技術力を持つ研究者たちにとって、研究プロセスをわずかに容易にしたに過ぎない。しかしSandboxAQは、ボトルネックがモデル自体ではなくインターフェースにあると考えている。同社はAnthropicと提携し、自身の科学系AIモ
関連特集おすすめ
コメント (3)
0/500
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

最近、Anthropic社の代理人である弁護士が、音楽出版社との係争中に同社のAIチャットボット「Claude」が生成した誤った引用文を使用したことを認めた。この告白は、木曜日に北カリフォルニアの裁判所に提出された書類によってなされた。
Anthropic社は、Bloombergが最初に報じた提出書類の中で、Claudeが誤ったタイトルと著者の詳細の両方で引用を捏造したと述べた。同社の弁護士は、クロードの "幻覚 "によって引き起こされた他のいくつかの不正確さとともに、日常的な引用チェックがこの誤りを発見できなかったことを認めた。
Anthropic社は、このミスを "正直な引用ミスであり、権威の捏造ではない "と謝罪した。
今週初め、ユニバーサル・ミュージック・グループと他の音楽出版社の弁護士は、Anthropicの専門家証人である従業員のオリビア・チェンが、クロードを使ったとされる証言で捏造された記事を参照したと非難した。これを受け、スーザン・ヴァン・クーレン連邦判事は、これらの主張についてアンソロピック社に回答を求めた。
音楽出版社が起こしたこの訴訟は、生成AIツールの開発に彼らのコンテンツが悪用されたという疑惑をめぐる、著作権者とテック企業間の複数の対立の一部である。
これは、法的手続きにおけるAIの使用が意図しない結果を招いた新たな事例となる。今週初め、カリフォルニア州の判事は、2つの法律事務所が自身の法廷で「ニセのAI生成研究」を提出したことを批判した。1月には、オーストラリアの弁護士が裁判文書の起草にChatGPTを利用し、その結果、引用に不備があったことが暴露された。
このような事件にもかかわらず、新興企業は法的手続きの自動化のために多額の資金を集め続けている。弁護士を支援するために生成的なAIモデルを採用するHarveyは、50億ドルを超える評価額で2億5000万ドル以上を確保するために協議中と報じられている。
Techcrunchイベント ### TechCrunch Sessionsにご参加ください:AI
OpenAI、Anthropic、Cohereが登壇するAI業界のプレミアイベントへの参加をご予約ください。専門家によるプレゼンテーション、ワークショップ、貴重なネットワーキングの機会を一日中楽しめるチケットが期間限定で292ドルとなっています。
TechCrunch Sessionsに出展:AI
TC Sessionsであなたの展位を予約してください:貴社のイノベーションを1,200人以上の意思決定者にアピールしてください。5月9日まで、または定員になり次第締め切ります。
カリフォルニア州バークレー|6月5日 今すぐ登録
Anthropic、新しいダイナミックワークフローツールを搭載した「Opus 4.8」をリリース
Anthropicは木曜日、同社の主力パブリックモデルである「Opus 4.8」を発表しました。価格は前バージョンと同額で、このアップデートは現在、すべてのプラットフォームで利用可能です。「Opus 4.7」のリリースからわずか41日後に公開された今回のアップデートにより、Anthropicは開発サイクルを大幅に加速させ、最近の「Sonnet」や「Haiku」のリリースで見られた3ヶ月や7ヶ月とい
Anthropicは、『Mythos』の一般公開版である『Claude Fable 5』をリリースした
Anthropicは、同社で最も高性能なAIモデルを初めて一般に公開した――ただし、安全対策が講じられている。火曜日、同社はMythosモデルの初の一般公開版となる「Claude Fable 5」をリリースした。 Anthropicによると、「Fable 5」はソフトウェアエンジニアリング、ナレッジワーク、画像処理タスクにおいて優れた性能を発揮するが、厳格な安全制限が設けられている。サイバーセキ
SandboxAQは、コンピューティング分野の博士号がなくても、Claudeに薬物探索用AIを導入できるようにします。
薬物探索は、現代産業において最もコストのかかる課題の一つであり続けている。実用可能な単一分子を見出すだけでも10年の歳月と数十億ドルの費用が必要で、候補となる物質のほとんどは結局失敗に終わる。AIスタートアップの波がこの状況を変えることを約束しているが、その多くは既に高度な技術力を持つ研究者たちにとって、研究プロセスをわずかに容易にしたに過ぎない。しかしSandboxAQは、ボトルネックがモデル自体ではなくインターフェースにあると考えている。同社はAnthropicと提携し、自身の科学系AIモ
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.





家






