OpenAI、ChatGPTの過度に同意的な応答後に修正を約束
OpenAIは、アップデートによりChatGPTが過度に追従的な応答を示した後、AIモデルの更新プロセスを見直す予定です。これは広範なユーザーからのフィードバックを受けたものです。
先週末、ChatGPTの背後にあるモデルGPT-4oのアップデート後、ソーシャルメディア上でユーザーが、プラットフォームが有害なアイデアに対しても過剰に肯定する応答を示したと報告し、バイラルなミームが発生しました。スクリーンショットでは、ChatGPTが疑問のある決定を支持している様子が示されました。
日曜日、CEOのサム・アルトマンはXでこの問題に対処し、即時対応を約束しました。火曜日までに、彼はGPT-4oのアップデートのロールバックと、モデルの動作を改善するための作業が進行中であることを発表しました。
火曜日の事後分析と金曜日のブログ投稿で、OpenAIは同様の問題を防ぐためのモデル展開アプローチの変更を概説しました。
OpenAIは、選択されたChatGPTユーザーにオプションの「アルファフェーズ」を導入し、完全リリース前にモデルをテストし、フィードバックを提供できるようにします。また、将来のアップデートでは「既知の制限」を開示し、人格、欺瞞、信頼性、幻覚などの問題に対処するための安全性レビューを強化し、これらを重大なリリースの障害とみなします。
「ChatGPTモデルのアップデートについては、軽微であれ重大であれ、透明性を保ちます」とOpenAIはブログ投稿で述べました。「問題を完全に測定できない場合でも、プロキシメトリクスや質的シグナルを使用して、A/Bテストの結果が良好であっても必要に応じてリリースを停止します。」
we missed the mark with last week's GPT-4o update.
what happened, what we learned, and some things we will do differently in the future: https://t.co/ER1GmRYrIC
— Sam Altman (@sama) May 2, 2025
これらの変更は、ChatGPTへの依存度が高まる中で行われます。最近のExpress Legal Fundingの調査では、米国の成人の60％がアドバイスや情報のためにChatGPTを使用していることがわかりました。膨大なユーザー基盤を持つこのプラットフォームでは、追従性、幻覚、その他の欠陥が重大な影響を及ぼします。
TechCrunch Sessions: AIでの展示
TC Sessions: AIであなたの作品を1,200人以上の意思決定者に展示し、予算を抑えて出展の機会を確保しましょう。5月9日まで、またはブースがなくなるまで利用可能です。
TechCrunch Sessions: AIでの展示
TC Sessions: AIであなたの作品を1,200人以上の意思決定者に展示し、予算を抑えて出展の機会を確保しましょう。5月9日まで、またはブースがなくなるまで利用可能です。
今週初め、OpenAIはリアルタイムのユーザーからのフィードバックをテストしてChatGPTの対話を形成する計画を発表しました。同社は、追従性を減らし、複数のモデルパーソナリティオプションを提供し、安全対策を強化し、過度な同意以外の問題を捉えるための評価を拡大することを目指しています。
「人々が個人アドバイスのためにChatGPTに深く依存していることを学びました。これは1年前には完全には予想していなかったトレンドです」とOpenAIはブログ投稿で述べました。「AIと社会が共に進化する中、このユースケースを安全性の取り組みで優先し、より慎重に対応しています。」
関連記事
OpenAIがAIレコメンデーションスタートアップCrossing Mindsから人材を獲得
Eコマース向けAI駆動型レコメンデーションシステムを専門とするスタートアップCrossing Mindsは、木曜日にそのチームがOpenAIに移籍することを発表しました。Index Ventures、Shopify、Plug and Play、Radical Venturesなどの投資家から支援を受け、このスタートアップはCrunchbaseのデータによると、複数のラウンドで1350万ドル以上の資
OpenAI、巨大な5ギガワットのAIデータセンターをアブダビに建設
OpenAIは、アブダビに巨大な5ギガワットのデータセンターキャンパスを主導し、最近のブルームバーグの報道によると、世界最大のAIインフラプロジェクトの一つで主要なテナントとしての地位を確立する予定です。この施設は、10平方マイルをカバーし、5つの原子力発電所に相当する電力が必要で、OpenAIやその競合他社が公開しているどのAIインフラよりも規模が大きいとされています。（OpenAIはTechC
新しい画像ライブラリがChatGPTに追加され、AI生成アートへの簡単なアクセスが可能に
OpenAIは、ChatGPTに画像ライブラリ機能を導入し、AI生成画像へのアクセスを簡素化したと本日発表しました。このアップデートは、モバイルおよびウェブプラットフォームのすべてのFree、Plus、Proユーザーに現在利用可能です。短いビデオで、OpenAIはこの機能を紹介しています。ChatGPTのサイドバーから、新しい「ライブラリ」セクションにアクセスできます。それをクリックすると、以前に
コメント (0)
0/200
OpenAIは、アップデートによりChatGPTが過度に追従的な応答を示した後、AIモデルの更新プロセスを見直す予定です。これは広範なユーザーからのフィードバックを受けたものです。
先週末、ChatGPTの背後にあるモデルGPT-4oのアップデート後、ソーシャルメディア上でユーザーが、プラットフォームが有害なアイデアに対しても過剰に肯定する応答を示したと報告し、バイラルなミームが発生しました。スクリーンショットでは、ChatGPTが疑問のある決定を支持している様子が示されました。
日曜日、CEOのサム・アルトマンはXでこの問題に対処し、即時対応を約束しました。火曜日までに、彼はGPT-4oのアップデートのロールバックと、モデルの動作を改善するための作業が進行中であることを発表しました。
火曜日の事後分析と金曜日のブログ投稿で、OpenAIは同様の問題を防ぐためのモデル展開アプローチの変更を概説しました。
OpenAIは、選択されたChatGPTユーザーにオプションの「アルファフェーズ」を導入し、完全リリース前にモデルをテストし、フィードバックを提供できるようにします。また、将来のアップデートでは「既知の制限」を開示し、人格、欺瞞、信頼性、幻覚などの問題に対処するための安全性レビューを強化し、これらを重大なリリースの障害とみなします。
「ChatGPTモデルのアップデートについては、軽微であれ重大であれ、透明性を保ちます」とOpenAIはブログ投稿で述べました。「問題を完全に測定できない場合でも、プロキシメトリクスや質的シグナルを使用して、A/Bテストの結果が良好であっても必要に応じてリリースを停止します。」
we missed the mark with last week's GPT-4o update.
what happened, what we learned, and some things we will do differently in the future: https://t.co/ER1GmRYrIC
— Sam Altman (@sama) May 2, 2025
これらの変更は、ChatGPTへの依存度が高まる中で行われます。最近のExpress Legal Fundingの調査では、米国の成人の60％がアドバイスや情報のためにChatGPTを使用していることがわかりました。膨大なユーザー基盤を持つこのプラットフォームでは、追従性、幻覚、その他の欠陥が重大な影響を及ぼします。
TechCrunch Sessions: AIでの展示
TC Sessions: AIであなたの作品を1,200人以上の意思決定者に展示し、予算を抑えて出展の機会を確保しましょう。5月9日まで、またはブースがなくなるまで利用可能です。
TechCrunch Sessions: AIでの展示
TC Sessions: AIであなたの作品を1,200人以上の意思決定者に展示し、予算を抑えて出展の機会を確保しましょう。5月9日まで、またはブースがなくなるまで利用可能です。
今週初め、OpenAIはリアルタイムのユーザーからのフィードバックをテストしてChatGPTの対話を形成する計画を発表しました。同社は、追従性を減らし、複数のモデルパーソナリティオプションを提供し、安全対策を強化し、過度な同意以外の問題を捉えるための評価を拡大することを目指しています。
「人々が個人アドバイスのためにChatGPTに深く依存していることを学びました。これは1年前には完全には予想していなかったトレンドです」とOpenAIはブログ投稿で述べました。「AIと社会が共に進化する中、このユースケースを安全性の取り組みで優先し、より慎重に対応しています。」
OpenAIがAIレコメンデーションスタートアップCrossing Mindsから人材を獲得
Eコマース向けAI駆動型レコメンデーションシステムを専門とするスタートアップCrossing Mindsは、木曜日にそのチームがOpenAIに移籍することを発表しました。Index Ventures、Shopify、Plug and Play、Radical Venturesなどの投資家から支援を受け、このスタートアップはCrunchbaseのデータによると、複数のラウンドで1350万ドル以上の資
OpenAI、巨大な5ギガワットのAIデータセンターをアブダビに建設
OpenAIは、アブダビに巨大な5ギガワットのデータセンターキャンパスを主導し、最近のブルームバーグの報道によると、世界最大のAIインフラプロジェクトの一つで主要なテナントとしての地位を確立する予定です。この施設は、10平方マイルをカバーし、5つの原子力発電所に相当する電力が必要で、OpenAIやその競合他社が公開しているどのAIインフラよりも規模が大きいとされています。（OpenAIはTechC
新しい画像ライブラリがChatGPTに追加され、AI生成アートへの簡単なアクセスが可能に
OpenAIは、ChatGPTに画像ライブラリ機能を導入し、AI生成画像へのアクセスを簡素化したと本日発表しました。このアップデートは、モバイルおよびウェブプラットフォームのすべてのFree、Plus、Proユーザーに現在利用可能です。短いビデオで、OpenAIはこの機能を紹介しています。ChatGPTのサイドバーから、新しい「ライブラリ」セクションにアクセスできます。それをクリックすると、以前に
