脱獄をめぐる論争が世界的な検閲を招き、AIモデル「Claude Fable5」が速やかに削除される事態となった
Anthropic社は先日、「Claude Fable5」を発表しました。同社はこれを、これまでで最も強力な「Mythos」レベルの大型言語モデルと位置付けています。 コーディングや複雑なタスクの処理における同モデルの際立った性能は、すぐにテクノロジー業界で広く注目を集めました。しかし、その発表からわずか72時間以内に、米国政府はこの待望のAI製品に対して世界的な利用禁止措置を課し、同社はすべてのサービスを停止せざるを得なくなりました。
この禁止措置は特に厳しいものである。米国政府は国家安全保障を理由に、米国外の個人や機関だけでなく、米国内にいる外国人(Anthropic社の外国人従業員を含む)に対しても、同モデルへのアクセスを禁止した。 各ユーザーの国籍を迅速かつ正確に確認することは技術的に困難であったため、Anthropicは一律的な措置を講じ、「Claude Fable5」および関連する「Claude Mythos5」モデルのすべてのサービスを停止した。影響を受けたユーザーは現在、自動的に旧バージョンにリダイレクトされている。

この事態は、重大な脆弱性が発見されたことに端を発している。報告によると、この欠陥によりモデルの組み込み安全対策が迂回され、一種の「脱獄」が可能になるという。Anthropic社は、この脱獄手法は限定的で汎用性がないこと、またモデルはリリース前に数千時間にわたるレッドチームテストを経ていることを主張していた。 それにもかかわらず、米国政府は異例なほど強硬な姿勢を示した。当局者は、Claude Fable5の処理能力が「ネットワーク兵器レベル」に近いとして、安全対策のいかなる侵害も予測不可能な結果を招きかねないと主張した。当局はAnthropicに対し、脆弱性を直ちに修正するか、製品を市場から撤去するかのいずれかを要求した。
両者は、この脆弱性の深刻度をめぐって激しい対立を続けている。Anthropicは、限定的で汎用性のない脆弱性を理由に、数億人のユーザーが利用する製品の提供を停止することは、業界にとって危険な前例を作ることになると主張した。しかし、業界関係者によると、政府の懸念はそれ以上に深いものがあるという。 報道によると、米国当局は、中国と関連のある組織がすでにこの脆弱性を悪用してモデルの全機能にアクセスしている可能性があると疑っており、リバースエンジニアリングやモデル蒸留のリスクが高まっているという。
関連記事
ユーザーからの反発を受け、MetaはAI写真編集機能を削除
Meta、ソーシャルメディアの巨人は、人工知能とユーザープライバシーの微妙なバランスをめぐる公的な論争に再び巻き込まれている。TechCrunch によると、Meta の Superintelligence Labs は今週初めに新しい AI 画像ジェネレーター「Muse Image」を導入した。しかし、ユーザーが「@」記号でタグ付けすることで、公開されている Instagram アカウントから画像を修正・生成できるという、高い評価を受けた主要機能は、適切な通知メカニズムの欠如により、ユーザー
DeepMindのCEOハサビス氏:1日6時間睡眠し、通常午前1時頃に活力を感じます。
フォーチュンは最近、Google DeepMindのCEOであるデミス・ハサビスへのインタビューを掲載し、彼の休息と生産性に対する非伝統的なアプローチを明らかにした。ハサビスは、睡眠時間が非常に短いことを明かし、覚醒時間を2つの明確な作業ブロックに構造化していると語った。彼の睡眠習慣について、ハサビスは「6時間の睡眠を目標としているが、私の習慣は典型的ではない。一日中効果的に機能できる」と述べた。彼は、6時間未満の睡眠は脳の健康に悪影響を及ぼすことを強調した。2010年にDeepMindを共
OpenAIとAnthropic、収益の伸び悩みにもかかわらず市場シェア争いを繰り広げる
OpenAIが収益目標を達成できなかったとする最近の報道を受け、今週火曜日にハイテク株に売り圧力が生じたにもかかわらず、AI研究機関への民間投資家は依然として堅調だ。経験豊富な出資者たちは、メディアによる否定的な報道にもかかわらず、投資額を減らすつもりはないことを明らかにしている。アナリストらは、現在のAI競争はまだ初期段階にあると見ており、「勝者総取り」という結末はあり得ないと見ている。高いコン
関連特集おすすめ
コメント (0)
0/500
Anthropic社は先日、「Claude Fable5」を発表しました。同社はこれを、これまでで最も強力な「Mythos」レベルの大型言語モデルと位置付けています。 コーディングや複雑なタスクの処理における同モデルの際立った性能は、すぐにテクノロジー業界で広く注目を集めました。しかし、その発表からわずか72時間以内に、米国政府はこの待望のAI製品に対して世界的な利用禁止措置を課し、同社はすべてのサービスを停止せざるを得なくなりました。
この禁止措置は特に厳しいものである。米国政府は国家安全保障を理由に、米国外の個人や機関だけでなく、米国内にいる外国人(Anthropic社の外国人従業員を含む)に対しても、同モデルへのアクセスを禁止した。 各ユーザーの国籍を迅速かつ正確に確認することは技術的に困難であったため、Anthropicは一律的な措置を講じ、「Claude Fable5」および関連する「Claude Mythos5」モデルのすべてのサービスを停止した。影響を受けたユーザーは現在、自動的に旧バージョンにリダイレクトされている。

この事態は、重大な脆弱性が発見されたことに端を発している。報告によると、この欠陥によりモデルの組み込み安全対策が迂回され、一種の「脱獄」が可能になるという。Anthropic社は、この脱獄手法は限定的で汎用性がないこと、またモデルはリリース前に数千時間にわたるレッドチームテストを経ていることを主張していた。 それにもかかわらず、米国政府は異例なほど強硬な姿勢を示した。当局者は、Claude Fable5の処理能力が「ネットワーク兵器レベル」に近いとして、安全対策のいかなる侵害も予測不可能な結果を招きかねないと主張した。当局はAnthropicに対し、脆弱性を直ちに修正するか、製品を市場から撤去するかのいずれかを要求した。
両者は、この脆弱性の深刻度をめぐって激しい対立を続けている。Anthropicは、限定的で汎用性のない脆弱性を理由に、数億人のユーザーが利用する製品の提供を停止することは、業界にとって危険な前例を作ることになると主張した。しかし、業界関係者によると、政府の懸念はそれ以上に深いものがあるという。 報道によると、米国当局は、中国と関連のある組織がすでにこの脆弱性を悪用してモデルの全機能にアクセスしている可能性があると疑っており、リバースエンジニアリングやモデル蒸留のリスクが高まっているという。
ユーザーからの反発を受け、MetaはAI写真編集機能を削除
Meta、ソーシャルメディアの巨人は、人工知能とユーザープライバシーの微妙なバランスをめぐる公的な論争に再び巻き込まれている。TechCrunch によると、Meta の Superintelligence Labs は今週初めに新しい AI 画像ジェネレーター「Muse Image」を導入した。しかし、ユーザーが「@」記号でタグ付けすることで、公開されている Instagram アカウントから画像を修正・生成できるという、高い評価を受けた主要機能は、適切な通知メカニズムの欠如により、ユーザー
DeepMindのCEOハサビス氏:1日6時間睡眠し、通常午前1時頃に活力を感じます。
フォーチュンは最近、Google DeepMindのCEOであるデミス・ハサビスへのインタビューを掲載し、彼の休息と生産性に対する非伝統的なアプローチを明らかにした。ハサビスは、睡眠時間が非常に短いことを明かし、覚醒時間を2つの明確な作業ブロックに構造化していると語った。彼の睡眠習慣について、ハサビスは「6時間の睡眠を目標としているが、私の習慣は典型的ではない。一日中効果的に機能できる」と述べた。彼は、6時間未満の睡眠は脳の健康に悪影響を及ぼすことを強調した。2010年にDeepMindを共
OpenAIとAnthropic、収益の伸び悩みにもかかわらず市場シェア争いを繰り広げる
OpenAIが収益目標を達成できなかったとする最近の報道を受け、今週火曜日にハイテク株に売り圧力が生じたにもかかわらず、AI研究機関への民間投資家は依然として堅調だ。経験豊富な出資者たちは、メディアによる否定的な報道にもかかわらず、投資額を減らすつもりはないことを明らかにしている。アナリストらは、現在のAI競争はまだ初期段階にあると見ており、「勝者総取り」という結末はあり得ないと見ている。高いコン





家






