競合他社が潜在的に危険なAIモデルを発表した場合、OpenAIはセーフガードを緩和する可能性がある

OpenAI、競争上のプレッシャーの中で安全プロトコルを調整
OpenAIは、開発サイクルを通じてAIモデルの安全性評価とセーフガードの実装を導く内部メカニズムであるPreparedness Frameworkを改訂しました。更新されたポリシーには、競合する企業が同等の保護なしにリスクの高いシステムを立ち上げた場合、安全対策を緩和する可能性を認める条項が含まれています。
この修正は、AI開発者が開発スケジュールを早めることを余儀なくされる市場の力が強まっていることを強調している。OpenAIは、安全性評価文書の公表を遅らせるなど、迅速なリリースを可能にするために安全性の優先順位を低下させたとされる点で、監視の強化に直面している。最近の法的手続きでは、12人の元従業員がイーロン・マスクのOpenAIに対する訴えを支持し、計画されている企業再編によって安全基準がさらに損なわれる可能性があると警告している。
競争と安全性のバランス
批判を予期して、OpenAIはいかなるポリシー調整も厳格な保護レベルを維持すると強調した。"競合他社が同等のセーフガードを欠く高リスクのシステムを展開する場合、我々は要件を適応する可能性があります。" と火曜日のブログ更新は述べています。"我々は徹底的なリスク検証、修正に関する透明性、そして優れた保護手段を維持することを約束します。"
改訂されたフレームワークは、OpenAIが従来の人間主導のテストに加えて、自動評価ツールへの依存を強めていることを強調している。同社の代表は、こうした自動化システムによって、評価の質を落とすことなくリリースペースを維持できると主張している。
物議を醸すテスト手法
OpenAIの公式スタンスとは相反する報告もあり、安全性のレビュー期間が圧縮されていることが内部関係者の証言から明らかになっている。Financial Timesの情報源によると、テスターは最近、差し迫ったモデルの評価期間を1週間以内に短縮されたという。さらに、安全性テストが、一般公開された展開バージョンではなく、プレリリースモデルのバリアントで主に行われていることについても、懸念が浮上した。
OpenAIは静かに安全へのコミットメントを減らしている。
フレームワークの変更から省かれました:
- 微調整されたモデルには安全性テストは必要ない
- Steven Adler (@sjgadler) 2025年4月15日
再定義されたリスク分類システム
更新されたフレームワークでは、2つの能力閾値に焦点を当てた合理的なモデル分類が導入されている:
- 高能力:既存の深刻な被害ベクトルを増幅するモデル
- 重大な能力:新たな深刻な被害経路を確立するモデル
「高能力のシステムは、配備前にリスクを軽減するセーフガードを義務付ける」とOpenAIは明確にしている。「クリティカル・ケイパビリティ・モデルは、開発段階での追加的な保護を必要とする。
これは、進化する業界のダイナミクスとOpenAIの内部運用の変更を反映し、2023年以来初の大幅なフレームワークの改訂となります。
関連記事
サティヤ・ナデラ、新たなOpenAIとの契約を活用する準備ができている
水曜日に、ウォール・ストリートのアナリストがマイクロソフトのCEOであるサティヤ・ナデラ氏に直接尋ねました。改正されたOpenAIとの提携関係が同社の財務状況にどのような影響を与えるのかと。ナデラ氏はこの新しい協定を「皆にとっての勝利」と表現しました。「OpenAIとの提携については満足しています。私は常にどんな提携でもウィンウィンの関係を築くことに重点を置いています。そうすることで、長期的に良いパートナーシップを維持できるからです。」彼は、マイクロソフトが依然としてOpenAIの知的財産、
OpenAIは、公的基金、ロボット税、週4日勤務制を柱とするAI経済の構想を提示した
各国政府が超知能機械による経済的影響への対応に苦慮する中、OpenAIは「知能の時代」において富と労働がどのように再構築されるべきかを概説した一連の政策提言を発表した。その構想は、公的資産基金や社会安全網の拡充といった伝統的な左派的な仕組みと、根本的に資本主義的で市場主導型の経済枠組みとを融合させたものである。OpenAIの提案は本質的に「要望リスト」に相当し、人工知能が労働と経済を変革する中で、
グレッグ・ブロックマンが、イーロン・マスクがOpenAIを去った経緯を明かす
2017年8月下旬、当時まだ小規模な非営利研究機関だったOpenAIの主要メンバーは、自社の技術を商用化し、汎用人工知能(AGI)の実現に必要な資金を調達するために、営利法人をどのように設立すべきかについて協議した。イーロン・マスクは同社の完全な支配権を要求しており、ちょうどその直前に共同創業者たち一人ひとりにテスラ「モデル3」を贈っていた。CTOのグレッグ・ブロックマンは、マスクとサム・アルトマ
関連特集おすすめ
コメント (2)
0/500
またOpenAIの方針転換...競争が激化する中、安全性と開発速度のバランスって本当に難しいですよね。個人的には過去のChatGPTの制限が緩和された時みたいに、今回もユーザー体験が向上するなら歓迎だけど、やっぱり倫理的基準は守ってほしいな😅 他の企業が危険なAIを出したら同じ土俵に上がる必要性ある?

OpenAI、競争上のプレッシャーの中で安全プロトコルを調整
OpenAIは、開発サイクルを通じてAIモデルの安全性評価とセーフガードの実装を導く内部メカニズムであるPreparedness Frameworkを改訂しました。更新されたポリシーには、競合する企業が同等の保護なしにリスクの高いシステムを立ち上げた場合、安全対策を緩和する可能性を認める条項が含まれています。
この修正は、AI開発者が開発スケジュールを早めることを余儀なくされる市場の力が強まっていることを強調している。OpenAIは、安全性評価文書の公表を遅らせるなど、迅速なリリースを可能にするために安全性の優先順位を低下させたとされる点で、監視の強化に直面している。最近の法的手続きでは、12人の元従業員がイーロン・マスクのOpenAIに対する訴えを支持し、計画されている企業再編によって安全基準がさらに損なわれる可能性があると警告している。
競争と安全性のバランス
批判を予期して、OpenAIはいかなるポリシー調整も厳格な保護レベルを維持すると強調した。"競合他社が同等のセーフガードを欠く高リスクのシステムを展開する場合、我々は要件を適応する可能性があります。" と火曜日のブログ更新は述べています。"我々は徹底的なリスク検証、修正に関する透明性、そして優れた保護手段を維持することを約束します。"
改訂されたフレームワークは、OpenAIが従来の人間主導のテストに加えて、自動評価ツールへの依存を強めていることを強調している。同社の代表は、こうした自動化システムによって、評価の質を落とすことなくリリースペースを維持できると主張している。
物議を醸すテスト手法
OpenAIの公式スタンスとは相反する報告もあり、安全性のレビュー期間が圧縮されていることが内部関係者の証言から明らかになっている。Financial Timesの情報源によると、テスターは最近、差し迫ったモデルの評価期間を1週間以内に短縮されたという。さらに、安全性テストが、一般公開された展開バージョンではなく、プレリリースモデルのバリアントで主に行われていることについても、懸念が浮上した。
OpenAIは静かに安全へのコミットメントを減らしている。
- Steven Adler (@sjgadler) 2025年4月15日
フレームワークの変更から省かれました:
- 微調整されたモデルには安全性テストは必要ない
再定義されたリスク分類システム
更新されたフレームワークでは、2つの能力閾値に焦点を当てた合理的なモデル分類が導入されている:
- 高能力:既存の深刻な被害ベクトルを増幅するモデル
- 重大な能力:新たな深刻な被害経路を確立するモデル
「高能力のシステムは、配備前にリスクを軽減するセーフガードを義務付ける」とOpenAIは明確にしている。「クリティカル・ケイパビリティ・モデルは、開発段階での追加的な保護を必要とする。
これは、進化する業界のダイナミクスとOpenAIの内部運用の変更を反映し、2023年以来初の大幅なフレームワークの改訂となります。
サティヤ・ナデラ、新たなOpenAIとの契約を活用する準備ができている
水曜日に、ウォール・ストリートのアナリストがマイクロソフトのCEOであるサティヤ・ナデラ氏に直接尋ねました。改正されたOpenAIとの提携関係が同社の財務状況にどのような影響を与えるのかと。ナデラ氏はこの新しい協定を「皆にとっての勝利」と表現しました。「OpenAIとの提携については満足しています。私は常にどんな提携でもウィンウィンの関係を築くことに重点を置いています。そうすることで、長期的に良いパートナーシップを維持できるからです。」彼は、マイクロソフトが依然としてOpenAIの知的財産、
OpenAIは、公的基金、ロボット税、週4日勤務制を柱とするAI経済の構想を提示した
各国政府が超知能機械による経済的影響への対応に苦慮する中、OpenAIは「知能の時代」において富と労働がどのように再構築されるべきかを概説した一連の政策提言を発表した。その構想は、公的資産基金や社会安全網の拡充といった伝統的な左派的な仕組みと、根本的に資本主義的で市場主導型の経済枠組みとを融合させたものである。OpenAIの提案は本質的に「要望リスト」に相当し、人工知能が労働と経済を変革する中で、
グレッグ・ブロックマンが、イーロン・マスクがOpenAIを去った経緯を明かす
2017年8月下旬、当時まだ小規模な非営利研究機関だったOpenAIの主要メンバーは、自社の技術を商用化し、汎用人工知能(AGI)の実現に必要な資金を調達するために、営利法人をどのように設立すべきかについて協議した。イーロン・マスクは同社の完全な支配権を要求しており、ちょうどその直前に共同創業者たち一人ひとりにテスラ「モデル3」を贈っていた。CTOのグレッグ・ブロックマンは、マスクとサム・アルトマ
またOpenAIの方針転換...競争が激化する中、安全性と開発速度のバランスって本当に難しいですよね。個人的には過去のChatGPTの制限が緩和された時みたいに、今回もユーザー体験が向上するなら歓迎だけど、やっぱり倫理的基準は守ってほしいな😅 他の企業が危険なAIを出したら同じ土俵に上がる必要性ある?





家






