OpenAIがGPT-4.1を安全報告書なしでリリース
OpenAIのGPT-4.1が安全報告書なしでリリース—その理由が重要なわけ
月曜日、OpenAIは最新のAIモデルであるGPT-4.1を公開し、特にプログラミング基準で向上したパフォーマンスを誇示した。しかし、以前のリリースとは異なり、今回は注目すべき欠落がありました:安全報告書がないことです。
通常、OpenAIは内部および第三者の安全評価を詳細に記載した「システムカード」を公開し、欺瞞的な行動や意図しない説得力などの潜在的なリスクを明らかにします。これらのレポートは、AI開発における透明性を促進するための誠実な努力と見なされています。
しかし、火曜日の時点で、OpenAIはGPT-4.1について公開しないことを確認しました。広報担当者のShaokyi Amdoによると、このモデルは「最先端」のAIシステムとは見なされておらず、完全な安全性の詳細報告を正当化するほど境界を押し広げていないということです。
透明性の低下傾向か?
この動きは、主要なAIラボが安全性の開示を縮小しているという懸念が高まる中で起こっています。過去1年間で:
- Googleは安全報告書の公開を遅らせています。
- Anthropicやその他は、より詳細の少ない評価を公開しています。
- OpenAI自体も一貫性のない報告で批判されており、以下が含まれます:
- 2023年12月の安全報告書を公開したが、本番モデルと一致しないベンチマーク結果だった。
- DeepSeek-V3をシステムカード公開の数週間前にリリースした。
Steven Adler、元OpenAIの安全研究者は、TechCrunchに対し、これらの報告書は任意であるものの、AI業界における重要な透明性ツールになっていると述べました。OpenAIは以前、2023年英国AI安全サミットを前に政府に対し、システムカードが説明責任に不可欠だと約束していました。
なぜ反発があるのか?
安全報告書は時に不都合な真実を明らかにします—例えば、ユーザーを操作できるモデルや有害なコンテンツを生成するモデルなど。しかし、競争の激化により、AI企業は精査よりもスピードを優先している可能性があります。
最近の報告によると、OpenAIは安全テストリソースを削減しており、先週、12人の元従業員(Adlerを含む)がElon Muskの訴訟に友人の意見書を提出し、利益を追求するOpenAIが安全性を損なう可能性があると警告しました。
GPT-4.1は報告書なしで危険か?
GPT-4.1はOpenAIの最も先進的なモデルではありませんが、効率を向上させ、遅延を削減します—これが依然としてリスクを引き起こす可能性があります。
Thomas Woodside、Secure AI Projectの共同設立者は、パフォーマンスの向上には安全ドキュメントが伴うべきだと主張しています。「モデルが高度になればなるほど、リスクは高まる」と彼はTechCrunchに語りました。
AI規制をめぐる大きな戦い
OpenAIを含む多くのAI企業は、強制的な安全法に抵抗しています。今年初め、OpenAIはカリフォルニアのSB 1047に反対し、これはAI開発者に公開モデルの安全監査の公開を強制するものでした。
現時点では、業界の透明性基準は自己課されたものであり、ますます任意になっています。
TechCrunchイベント:オールステージパスで200ドル以上節約
🚀 より賢く構築。より速くスケール。より深くつながる。
Precursor Ventures、NEA、Index Ventures、Underscore VCなどのビジョナリーと一緒に、戦略、ワークショップ、ネットワーキングの1日を過ごしましょう。
📍 ボストン、MA | 7月15日
🔗 今すぐ登録
AIが進化するにつれ、安全性対スピードの議論が激化しています。より厳格な説明責任がなければ、どのリスクを取る価値があるかを誰が決めるのでしょうか?
関連記事
OpenAIは、10代の若者がChatGPTを使い始めてから数年を経て、より安全なChatGPTをリリースした
AIチャットボットに安全対策が欠如していたことによる一連の訴訟――これが10代の自殺やその他のメンタルヘルスの危機の一因となった――を受け、OpenAIは月曜日に「ChatGPT for Teens」を発表した。この新サービスには強化された安全機能が組み込まれており、学校現場でAIツールによって助長されている学業上の不正行為という深刻化する問題に対処している。教育的な観点から、「ChatGPT f
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli
NEAのティファニー・ラック:企業はまだAIのROIに苦戦している
プレイヤーを読み込み中…今年初頭、シリコンバレーでは「トークン最大化」が話題を独占し、CEOたちは社員にAIの使用を最大化するよう促した。しかし、その熱狂はすぐに現実とぶつかった。ウーバーは報告によると、数ヶ月で年間AI予算を超過し、一部の企業は部門全体でClaudeのライセンスを削減し、メタは社内パフォーマンスランキングを廃止した。NEAパートナーのティファニー・ラックは、この興奮と実際のリターンのギャップを日々乗り越えている。以前はECが未来であると企業を説得した経験を持つ彼女は、現在、
関連特集おすすめ
コメント (1)
0/500
OpenAIのGPT-4.1が安全報告書なしでリリース—その理由が重要なわけ
月曜日、OpenAIは最新のAIモデルであるGPT-4.1を公開し、特にプログラミング基準で向上したパフォーマンスを誇示した。しかし、以前のリリースとは異なり、今回は注目すべき欠落がありました:安全報告書がないことです。
通常、OpenAIは内部および第三者の安全評価を詳細に記載した「システムカード」を公開し、欺瞞的な行動や意図しない説得力などの潜在的なリスクを明らかにします。これらのレポートは、AI開発における透明性を促進するための誠実な努力と見なされています。
しかし、火曜日の時点で、OpenAIはGPT-4.1について公開しないことを確認しました。広報担当者のShaokyi Amdoによると、このモデルは「最先端」のAIシステムとは見なされておらず、完全な安全性の詳細報告を正当化するほど境界を押し広げていないということです。
透明性の低下傾向か?
この動きは、主要なAIラボが安全性の開示を縮小しているという懸念が高まる中で起こっています。過去1年間で:
- Googleは安全報告書の公開を遅らせています。
- Anthropicやその他は、より詳細の少ない評価を公開しています。
- OpenAI自体も一貫性のない報告で批判されており、以下が含まれます:
- 2023年12月の安全報告書を公開したが、本番モデルと一致しないベンチマーク結果だった。
- DeepSeek-V3をシステムカード公開の数週間前にリリースした。
Steven Adler、元OpenAIの安全研究者は、TechCrunchに対し、これらの報告書は任意であるものの、AI業界における重要な透明性ツールになっていると述べました。OpenAIは以前、2023年英国AI安全サミットを前に政府に対し、システムカードが説明責任に不可欠だと約束していました。
なぜ反発があるのか?
安全報告書は時に不都合な真実を明らかにします—例えば、ユーザーを操作できるモデルや有害なコンテンツを生成するモデルなど。しかし、競争の激化により、AI企業は精査よりもスピードを優先している可能性があります。
最近の報告によると、OpenAIは安全テストリソースを削減しており、先週、12人の元従業員(Adlerを含む)がElon Muskの訴訟に友人の意見書を提出し、利益を追求するOpenAIが安全性を損なう可能性があると警告しました。
GPT-4.1は報告書なしで危険か?
GPT-4.1はOpenAIの最も先進的なモデルではありませんが、効率を向上させ、遅延を削減します—これが依然としてリスクを引き起こす可能性があります。
Thomas Woodside、Secure AI Projectの共同設立者は、パフォーマンスの向上には安全ドキュメントが伴うべきだと主張しています。「モデルが高度になればなるほど、リスクは高まる」と彼はTechCrunchに語りました。
AI規制をめぐる大きな戦い
OpenAIを含む多くのAI企業は、強制的な安全法に抵抗しています。今年初め、OpenAIはカリフォルニアのSB 1047に反対し、これはAI開発者に公開モデルの安全監査の公開を強制するものでした。
現時点では、業界の透明性基準は自己課されたものであり、ますます任意になっています。
TechCrunchイベント:オールステージパスで200ドル以上節約
🚀 より賢く構築。より速くスケール。より深くつながる。
Precursor Ventures、NEA、Index Ventures、Underscore VCなどのビジョナリーと一緒に、戦略、ワークショップ、ネットワーキングの1日を過ごしましょう。
📍 ボストン、MA | 7月15日
🔗 今すぐ登録
AIが進化するにつれ、安全性対スピードの議論が激化しています。より厳格な説明責任がなければ、どのリスクを取る価値があるかを誰が決めるのでしょうか?
OpenAIは、10代の若者がChatGPTを使い始めてから数年を経て、より安全なChatGPTをリリースした
AIチャットボットに安全対策が欠如していたことによる一連の訴訟――これが10代の自殺やその他のメンタルヘルスの危機の一因となった――を受け、OpenAIは月曜日に「ChatGPT for Teens」を発表した。この新サービスには強化された安全機能が組み込まれており、学校現場でAIツールによって助長されている学業上の不正行為という深刻化する問題に対処している。教育的な観点から、「ChatGPT f
フロンティアAIラボ、異常挙動を示すモデルの封じ込め戦略の開示を拒否
最近の調査によると、主要なAI研究所のうち、封じ込め対応計画を公表または実証しているところはごくわずかであることが示されている。封じ込め計画とは、AIシステムが人間の制御を覆そうとした場合の対応手順を定義するもので、どのアクセス権限を取り消すか、またいつシステムを完全にシャットダウンするかを具体的に規定している。この調査結果は、安全な最先端AI開発の実践を推進することに注力する組織「Guideli
NEAのティファニー・ラック:企業はまだAIのROIに苦戦している
プレイヤーを読み込み中…今年初頭、シリコンバレーでは「トークン最大化」が話題を独占し、CEOたちは社員にAIの使用を最大化するよう促した。しかし、その熱狂はすぐに現実とぶつかった。ウーバーは報告によると、数ヶ月で年間AI予算を超過し、一部の企業は部門全体でClaudeのライセンスを削減し、メタは社内パフォーマンスランキングを廃止した。NEAパートナーのティファニー・ラックは、この興奮と実際のリターンのギャップを日々乗り越えている。以前はECが未来であると企業を説得した経験を持つ彼女は、現在、





家






