家AnthropicのCEOが銀行業界のようなAI規制を提唱、専門家は「選手と審判を兼ねる」ことへの警戒を呼びかける
CNBCによると、AnthropicのCEOであるダリオ・アモデイ氏は、主要なAI企業内に長期的な独立した第三者安全評価者を配置し、社内のリスク管理チームへのほぼ同等のアクセス権を付与するとともに、限定的な制約の下で調査結果を独自に公表する権限を与えることを提案した。 同氏は、銀行業界に常駐する規制当局の例を具体的に挙げ、Anthropicが第三者の評価者に、社内のリスク管理チームと同等のシステムアクセス権限を提供することを約束した。
週末に公開された長文の記事の中で、アモデイ氏はまた、今後6～12ヶ月以内に、意図と乖離したエージェントの集団がインターネットの大部分を乗っ取り、数千億ドルの損失を引き起こす可能性があると警告した。 これに先立ち、Anthropicの元研究者であるジェイコブ・コクソン氏は辞任し、主要な研究所が制御不能となる可能性のあるシステムの開発を競い合っているとの警告を発していた。
銀行検査官は銀行を閉鎖できるが、AI評価者には拒否権がない
複数の銀行規制専門家やAI評価の専門家は、この提案には銀行規制当局が持つような執行権限が欠けていると指摘した。ワイオミング大学ロースクールのジュリー・アンダーセン・ヒル学部長は、政府の検査官は大手銀行に常駐しており、銀行に対して特定の活動を停止させたり、成長を制限させたり、経営陣の交代を強制したり、極端な場合には銀行を閉鎖させたりすることもできると述べた。 しかし、アモデイ氏が提案する評価者は、調査と報告しかできず、モデルのトレーニングや公開を停止させる権限を持っていない。「銀行規制当局の権限ははるかに大きいため、これは根本的な違いだ」
サイバーセキュリティ企業XBOWのAI責任者であるアルバート・ジーグラー氏は、ブラックボックステストによってモデルが危険なタスクを実行する能力を持っているかどうかを明らかにすることはできるが、重大なリスクは、評価者がこれまで引き起こしたことのない条件の組み合わせにおいてのみ現れる可能性があると指摘した。 「私たちには実質的な拒否権がないのです」。評価者は、リリース前に企業が十分な情報に基づいた判断を下すよう促すことはできますが、最終的な決定権は依然として企業側にあります。
「独立性」への疑問：METRの役割と「監査ウォッシング」への批判
アモデイ氏は、非営利団体METRを潜在的な組み込み評価機関として挙げた。一方、アンソロピック社の元研究者であるジョー・ベントン氏も、最近同社を退社しMETRに加わった。 カリフォルニア大学バークレー校の研究者デボラ・ラジ氏は、この取り決めには金銭的、イデオロギー的、個人的な利害の衝突が伴っており、METRが近年主にAnthropicとOpenAIに焦点を当ててきたことで、「あらゆる種類の奇妙なことが起きる余地が生まれてしまった」と指摘した。 彼女は、単にアクセス権を得ただけでは独立性には等しくなく、評価を行う資格のある者、何をチェックできるか、そして結果をどこに報告するかを決定するのは、企業から独立した機関であるべきだと考えている。そうでなければ、「まるで企業が親しい友人を雇って宿題をチェックさせているようなものだ」と述べた。
ラジ氏は、究極の基準は、不都合な調査結果が何らかの結果をもたらすかどうかにあると述べた――「監査を行っても何も起こらなければ、それは『監査の飾り』に過ぎない」。ヒル氏は、「AIに社会を破壊する力があると真に信じているのであれば、電源を切ることができる独立した監督者が必要だ」と語った。
Anthropicの公共政策担当ディレクター、サラ・ヘック氏は水曜日に、AI企業が「名誉ある規範」だけで監督や安全上の問題を管理することはできないと反論した。「私たちは自分たちの宿題を自分でチェックすることはできない。それは極めて明白だ」
関連記事
あるベンチャーキャピタルが、2026年を「消費者の年」と見なす理由
2022年以降、消費者向けテクノロジースタートアップへの資金調達は低迷している。これは、マクロ経済の変動や持続的なインフレにより、ベンチャーキャピタリストが消費者の購買力に対して慎重な姿勢を示しているためだ。ここ数年、AI関連の投資は主に企業顧客を対象としており、巨額の予算、複数年にわたる契約、そしてより迅速な事業拡大の機会が魅力となっている。 しかし、あるベンチャーキャピタリストは、2026
AI時代について、劉振雲と馬毅が語る：機械は共通点を処理し、人間は個性を守る
AIがますます高度化する中、人類にはどのような役割が残されているのだろうか。9月10日の午前、上海で「2026インクルージョン・バンド・カンファレンス」が開会式とメインフォーラムを皮切りに幕を開けた。 円卓討論では、著名な作家の劉振雲氏と香港大学コンピューティング・データサイエンス学部長の馬毅教授が、AIが創造性、教育、雇用、そして人間関係にどのような変革をもたらしているかを、文学と技術のそれぞれ
WeChat Payがスマートグラス向けSDKをリリース、Rokidが初の対応ブランドに
WeChatは「WeChat Pay」スマートグラス用SDKを正式にリリースし、一般公開を開始しました。このソリューションは、WeChatの中核機能である「スキャンして支払う」機能を標準的なSDKに統合したもので、特定の基準を満たすスマートグラスメーカーが利用可能です。これにより、ユーザーは対応するスマートグラス上でシームレスに決済を完了できるようになります。 現在、Rokid Leqi AIグラ
関連特集おすすめ
ソーシャルメディア
おすすめのAIキャプション生成ツール：プラットフォームごとに最適化されたソーシャルメディア投稿を素早く作成
2026年最新版・おすすめのAIキャプション生成ツール一覧ページ！ XIX.AIは、各プラットフォーム向けのソーシャルメディア投稿を素早く作成するために、ぜひ試すべき高評価の強力なツールを厳選しました。これらのツールは実環境での厳格なテストを経ており、無料版と有料版の比較や明確なランキングを提供することで、生産性を高め、AIの真価を引き出す最適な選択肢を見つけるお手伝いをします。今すぐチェックしてみてください！
11 ツール
xix.ai
健康とウェルネス
シフト勤務者、時差ボケの解消、そしてより良い生活リズム作りに最適なAI睡眠コーチングツール
2026年最新！シフト勤務者、時差ボケ解消、より良い生活リズム作りに最適なAI睡眠コーチングツール！XIX.AIは、実地テストを経て正確なガイダンスを提供する、画期的な高評価ツールの厳選リストを作成しました。 無料版と有料版の詳しい比較情報や、これらの「必試」ソリューションが、いかに睡眠の質を向上させ、時差ボケの回復を早め、より健康的な生活リズムを築くのに役立つかを確認できます。今すぐチェックして、あなたにぴったりのツールを見つけましょう！
7 ツール
xix.ai
コード
Pythonのエラー、APIログ、スタックトレースのトリアージのためのChatGPTデバッグツール
2026年最新のChatGPTデバッグツールは、Pythonのエラー、APIログ、スタックトレースのトリアージに最適です。これらはXIX.AIで提供されています。この厳選されたトップ評価ソリューションのリストは、無料版と有料版の比較、実際のテスト、詳細なランキングを提供しており、あなたの生産性を大幅に向上させ、複雑な技術的な問題をより迅速に解決できる最も強力なツールを見つけるのに役立ちます。今すぐ探索して、完璧なソリューションを見つけましょう！
9 ツール
xix.ai
テキスト読み上げ
製品デモビデオ用のAIボイスオーバーツール
2026年最新版・最高評価のAIボイスオーバーツール一覧がXIX.AIにて公開！この厳選リストには、プロ品質のオーディオコンテンツを迅速に作成し、デモ効率を大幅に向上させる強力な革新的なオプションが掲載されています。私たちは実際のテストを実施し、無料版と有料版の比較および週次更新のランキングを提供し、最適なツール選びをサポートします。今すぐ探索して、AIによる優位性を解き放ちましょう！
10 ツール
xix.ai
仕事
スタートアップの事業検証に役立つAIビジネスプラン作成ツール
2026年最新版：スタートアップの事業検証に最適なAIビジネスプランツール！XIX.AIは、実環境でのテストを経て正確な結果をもたらす、画期的な高評価ツールを厳選しました。 無料版と有料版の比較、詳細なランキング、そしてわかりやすい分析情報が掲載されており、最適なソリューション選びとスタートアップの成功率向上に役立ちます。今すぐチェックして、AIの優位性を手に入れましょう！
9 ツール
xix.ai
チャットボット
ロールプレイと会話練習のためのAIチャットアプリ
2026年最新版！ロールプレイと会話練習に最適なAIチャットアプリBEST！XIX.AIは、厳格な実世界テストを経て卓越した結果をもたらす強力な必須ツールを厳選した高評価リストを提供しています。無料版と有料版の詳細比較、包括的なランキング、これらのアプリがどのように言語スキルとコミュニケーションの自信を効果的に向上させるかに関する洞察をご覧いただけます。今すぐ探索して、練習に最適な完璧なツールを見つけましょう！
10 ツール
xix.ai
コメント (0)
0/500
CNBCによると、AnthropicのCEOであるダリオ・アモデイ氏は、主要なAI企業内に長期的な独立した第三者安全評価者を配置し、社内のリスク管理チームへのほぼ同等のアクセス権を付与するとともに、限定的な制約の下で調査結果を独自に公表する権限を与えることを提案した。 同氏は、銀行業界に常駐する規制当局の例を具体的に挙げ、Anthropicが第三者の評価者に、社内のリスク管理チームと同等のシステムアクセス権限を提供することを約束した。
週末に公開された長文の記事の中で、アモデイ氏はまた、今後6～12ヶ月以内に、意図と乖離したエージェントの集団がインターネットの大部分を乗っ取り、数千億ドルの損失を引き起こす可能性があると警告した。 これに先立ち、Anthropicの元研究者であるジェイコブ・コクソン氏は辞任し、主要な研究所が制御不能となる可能性のあるシステムの開発を競い合っているとの警告を発していた。
銀行検査官は銀行を閉鎖できるが、AI評価者には拒否権がない
複数の銀行規制専門家やAI評価の専門家は、この提案には銀行規制当局が持つような執行権限が欠けていると指摘した。ワイオミング大学ロースクールのジュリー・アンダーセン・ヒル学部長は、政府の検査官は大手銀行に常駐しており、銀行に対して特定の活動を停止させたり、成長を制限させたり、経営陣の交代を強制したり、極端な場合には銀行を閉鎖させたりすることもできると述べた。 しかし、アモデイ氏が提案する評価者は、調査と報告しかできず、モデルのトレーニングや公開を停止させる権限を持っていない。「銀行規制当局の権限ははるかに大きいため、これは根本的な違いだ」
サイバーセキュリティ企業XBOWのAI責任者であるアルバート・ジーグラー氏は、ブラックボックステストによってモデルが危険なタスクを実行する能力を持っているかどうかを明らかにすることはできるが、重大なリスクは、評価者がこれまで引き起こしたことのない条件の組み合わせにおいてのみ現れる可能性があると指摘した。 「私たちには実質的な拒否権がないのです」。評価者は、リリース前に企業が十分な情報に基づいた判断を下すよう促すことはできますが、最終的な決定権は依然として企業側にあります。
「独立性」への疑問：METRの役割と「監査ウォッシング」への批判
アモデイ氏は、非営利団体METRを潜在的な組み込み評価機関として挙げた。一方、アンソロピック社の元研究者であるジョー・ベントン氏も、最近同社を退社しMETRに加わった。 カリフォルニア大学バークレー校の研究者デボラ・ラジ氏は、この取り決めには金銭的、イデオロギー的、個人的な利害の衝突が伴っており、METRが近年主にAnthropicとOpenAIに焦点を当ててきたことで、「あらゆる種類の奇妙なことが起きる余地が生まれてしまった」と指摘した。 彼女は、単にアクセス権を得ただけでは独立性には等しくなく、評価を行う資格のある者、何をチェックできるか、そして結果をどこに報告するかを決定するのは、企業から独立した機関であるべきだと考えている。そうでなければ、「まるで企業が親しい友人を雇って宿題をチェックさせているようなものだ」と述べた。
ラジ氏は、究極の基準は、不都合な調査結果が何らかの結果をもたらすかどうかにあると述べた――「監査を行っても何も起こらなければ、それは『監査の飾り』に過ぎない」。ヒル氏は、「AIに社会を破壊する力があると真に信じているのであれば、電源を切ることができる独立した監督者が必要だ」と語った。
Anthropicの公共政策担当ディレクター、サラ・ヘック氏は水曜日に、AI企業が「名誉ある規範」だけで監督や安全上の問題を管理することはできないと反論した。「私たちは自分たちの宿題を自分でチェックすることはできない。それは極めて明白だ」
あるベンチャーキャピタルが、2026年を「消費者の年」と見なす理由
2022年以降、消費者向けテクノロジースタートアップへの資金調達は低迷している。これは、マクロ経済の変動や持続的なインフレにより、ベンチャーキャピタリストが消費者の購買力に対して慎重な姿勢を示しているためだ。ここ数年、AI関連の投資は主に企業顧客を対象としており、巨額の予算、複数年にわたる契約、そしてより迅速な事業拡大の機会が魅力となっている。 しかし、あるベンチャーキャピタリストは、2026
AI時代について、劉振雲と馬毅が語る：機械は共通点を処理し、人間は個性を守る
AIがますます高度化する中、人類にはどのような役割が残されているのだろうか。9月10日の午前、上海で「2026インクルージョン・バンド・カンファレンス」が開会式とメインフォーラムを皮切りに幕を開けた。 円卓討論では、著名な作家の劉振雲氏と香港大学コンピューティング・データサイエンス学部長の馬毅教授が、AIが創造性、教育、雇用、そして人間関係にどのような変革をもたらしているかを、文学と技術のそれぞれ
WeChat Payがスマートグラス向けSDKをリリース、Rokidが初の対応ブランドに
WeChatは「WeChat Pay」スマートグラス用SDKを正式にリリースし、一般公開を開始しました。このソリューションは、WeChatの中核機能である「スキャンして支払う」機能を標準的なSDKに統合したもので、特定の基準を満たすスマートグラスメーカーが利用可能です。これにより、ユーザーは対応するスマートグラス上でシームレスに決済を完了できるようになります。 現在、Rokid Leqi AIグラ
2026年最新版・おすすめのAIキャプション生成ツール一覧ページ！ XIX.AIは、各プラットフォーム向けのソーシャルメディア投稿を素早く作成するために、ぜひ試すべき高評価の強力なツールを厳選しました。これらのツールは実環境での厳格なテストを経ており、無料版と有料版の比較や明確なランキングを提供することで、生産性を高め、AIの真価を引き出す最適な選択肢を見つけるお手伝いをします。今すぐチェックしてみてください！
11 ツール
xix.ai
2026年最新！シフト勤務者、時差ボケ解消、より良い生活リズム作りに最適なAI睡眠コーチングツール！XIX.AIは、実地テストを経て正確なガイダンスを提供する、画期的な高評価ツールの厳選リストを作成しました。 無料版と有料版の詳しい比較情報や、これらの「必試」ソリューションが、いかに睡眠の質を向上させ、時差ボケの回復を早め、より健康的な生活リズムを築くのに役立つかを確認できます。今すぐチェックして、あなたにぴったりのツールを見つけましょう！
7 ツール
xix.ai
2026年最新のChatGPTデバッグツールは、Pythonのエラー、APIログ、スタックトレースのトリアージに最適です。これらはXIX.AIで提供されています。この厳選されたトップ評価ソリューションのリストは、無料版と有料版の比較、実際のテスト、詳細なランキングを提供しており、あなたの生産性を大幅に向上させ、複雑な技術的な問題をより迅速に解決できる最も強力なツールを見つけるのに役立ちます。今すぐ探索して、完璧なソリューションを見つけましょう！
9 ツール
xix.ai
2026年最新版・最高評価のAIボイスオーバーツール一覧がXIX.AIにて公開！この厳選リストには、プロ品質のオーディオコンテンツを迅速に作成し、デモ効率を大幅に向上させる強力な革新的なオプションが掲載されています。私たちは実際のテストを実施し、無料版と有料版の比較および週次更新のランキングを提供し、最適なツール選びをサポートします。今すぐ探索して、AIによる優位性を解き放ちましょう！
10 ツール
xix.ai
2026年最新版：スタートアップの事業検証に最適なAIビジネスプランツール！XIX.AIは、実環境でのテストを経て正確な結果をもたらす、画期的な高評価ツールを厳選しました。 無料版と有料版の比較、詳細なランキング、そしてわかりやすい分析情報が掲載されており、最適なソリューション選びとスタートアップの成功率向上に役立ちます。今すぐチェックして、AIの優位性を手に入れましょう！
9 ツール
xix.ai
2026年最新版！ロールプレイと会話練習に最適なAIチャットアプリBEST！XIX.AIは、厳格な実世界テストを経て卓越した結果をもたらす強力な必須ツールを厳選した高評価リストを提供しています。無料版と有料版の詳細比較、包括的なランキング、これらのアプリがどのように言語スキルとコミュニケーションの自信を効果的に向上させるかに関する洞察をご覧いただけます。今すぐ探索して、練習に最適な完璧なツールを見つけましょう！
10 ツール
xix.ai
