OpenAIのGPT-4oは不快で落ち着かない可能性があると判断された

OpenAIは、チャットボットのデフォルトのパーソナリティが過度に媚びたり親身になったりする(同社はおべっか使いと表現している)ため、やり取りが不自然で不安に感じられるというユーザーからの報告を受けて、ChatGPTのGPT-4oアップデートをロールバックした。
先週発表されたアップデートは、当初、モデルのデフォルトの振る舞いを強化し、様々なタスクにおいてより直感的で効果的なものにすることを目的としていた。開発プロセスにおいて、OpenAIはModel Specを基礎として使用し、ChatGPTの回答に対するサムアップやサムダウンといったユーザーのシグナルを取り入れることで振る舞いを洗練させている。
しかし、OpenAIは、最近のアップデートでは短期的なフィードバックに頼りすぎており、ユーザーとモデルとのインタラクションがどのように進化していくかを見落としていたと説明しています。そのため、GPT-4oは過度に好意的でありながら本物ではない回答を提供することになった。
関連記事
- サム・アルトマン、ChatGPTの最新バージョンは「褒めすぎ」だと語る
ブログによると、OpenAIはChatGPTの標準的なパーソナリティを、そのミッション(役に立ち、支援し、さまざまな視点や経験を尊重する)に沿うように構成している。しかし、同社は、サポート的であるというようなポジティブな特徴でさえ、意図しない効果を生む可能性があることを認めている。毎週5億人のユーザーが利用する中で、デフォルトの性格を1つにすることは、すべての人の好みに対応することはできない。
これに対処するため、OpenAIはモデルの行動をさらに調整する計画だ。そのステップには、中核となるトレーニング技術の改善、おべっか返しを抑制するためのシステムプロンプトの改良、ユーザーへのフィードバックオプションの提供などが含まれる。同社はまた、ユーザーがChatGPTのインタラクションをよりコントロールできるようにし、安全かつ実用的な範囲でデフォルトの動作を調整できるようにすることも強調しています。
関連記事
サティヤ・ナデラ、新たなOpenAIとの契約を活用する準備ができている
水曜日に、ウォール・ストリートのアナリストがマイクロソフトのCEOであるサティヤ・ナデラ氏に直接尋ねました。改正されたOpenAIとの提携関係が同社の財務状況にどのような影響を与えるのかと。ナデラ氏はこの新しい協定を「皆にとっての勝利」と表現しました。「OpenAIとの提携については満足しています。私は常にどんな提携でもウィンウィンの関係を築くことに重点を置いています。そうすることで、長期的に良いパートナーシップを維持できるからです。」彼は、マイクロソフトが依然としてOpenAIの知的財産、
WordPress.comでは、AIエージェントによる投稿の作成や公開が可能になりました。その他にもさまざまな機能が追加されています。
人気のウェブホスティング・パブリッシングプラットフォームであるWordPress.comが、AIエージェントの導入に乗り出した。この動きは、ウェブのあり方を一変させる可能性がある。同社は金曜日、AIエージェントが顧客のウェブサイト上でコンテンツの下書き作成、編集、公開を行うほか、コメントの管理、メタデータの更新・修正、タグやカテゴリを用いたコンテンツの整理も可能になると発表した。これらすべての操作
OpenAIは、公的基金、ロボット税、週4日勤務制を柱とするAI経済の構想を提示した
各国政府が超知能機械による経済的影響への対応に苦慮する中、OpenAIは「知能の時代」において富と労働がどのように再構築されるべきかを概説した一連の政策提言を発表した。その構想は、公的資産基金や社会安全網の拡充といった伝統的な左派的な仕組みと、根本的に資本主義的で市場主導型の経済枠組みとを融合させたものである。OpenAIの提案は本質的に「要望リスト」に相当し、人工知能が労働と経済を変革する中で、
関連特集おすすめ
コメント (2)
0/500
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.

OpenAIは、チャットボットのデフォルトのパーソナリティが過度に媚びたり親身になったりする(同社はおべっか使いと表現している)ため、やり取りが不自然で不安に感じられるというユーザーからの報告を受けて、ChatGPTのGPT-4oアップデートをロールバックした。
先週発表されたアップデートは、当初、モデルのデフォルトの振る舞いを強化し、様々なタスクにおいてより直感的で効果的なものにすることを目的としていた。開発プロセスにおいて、OpenAIはModel Specを基礎として使用し、ChatGPTの回答に対するサムアップやサムダウンといったユーザーのシグナルを取り入れることで振る舞いを洗練させている。
しかし、OpenAIは、最近のアップデートでは短期的なフィードバックに頼りすぎており、ユーザーとモデルとのインタラクションがどのように進化していくかを見落としていたと説明しています。そのため、GPT-4oは過度に好意的でありながら本物ではない回答を提供することになった。
関連記事
- サム・アルトマン、ChatGPTの最新バージョンは「褒めすぎ」だと語る
ブログによると、OpenAIはChatGPTの標準的なパーソナリティを、そのミッション(役に立ち、支援し、さまざまな視点や経験を尊重する)に沿うように構成している。しかし、同社は、サポート的であるというようなポジティブな特徴でさえ、意図しない効果を生む可能性があることを認めている。毎週5億人のユーザーが利用する中で、デフォルトの性格を1つにすることは、すべての人の好みに対応することはできない。
これに対処するため、OpenAIはモデルの行動をさらに調整する計画だ。そのステップには、中核となるトレーニング技術の改善、おべっか返しを抑制するためのシステムプロンプトの改良、ユーザーへのフィードバックオプションの提供などが含まれる。同社はまた、ユーザーがChatGPTのインタラクションをよりコントロールできるようにし、安全かつ実用的な範囲でデフォルトの動作を調整できるようにすることも強調しています。
サティヤ・ナデラ、新たなOpenAIとの契約を活用する準備ができている
水曜日に、ウォール・ストリートのアナリストがマイクロソフトのCEOであるサティヤ・ナデラ氏に直接尋ねました。改正されたOpenAIとの提携関係が同社の財務状況にどのような影響を与えるのかと。ナデラ氏はこの新しい協定を「皆にとっての勝利」と表現しました。「OpenAIとの提携については満足しています。私は常にどんな提携でもウィンウィンの関係を築くことに重点を置いています。そうすることで、長期的に良いパートナーシップを維持できるからです。」彼は、マイクロソフトが依然としてOpenAIの知的財産、
WordPress.comでは、AIエージェントによる投稿の作成や公開が可能になりました。その他にもさまざまな機能が追加されています。
人気のウェブホスティング・パブリッシングプラットフォームであるWordPress.comが、AIエージェントの導入に乗り出した。この動きは、ウェブのあり方を一変させる可能性がある。同社は金曜日、AIエージェントが顧客のウェブサイト上でコンテンツの下書き作成、編集、公開を行うほか、コメントの管理、メタデータの更新・修正、タグやカテゴリを用いたコンテンツの整理も可能になると発表した。これらすべての操作
OpenAIは、公的基金、ロボット税、週4日勤務制を柱とするAI経済の構想を提示した
各国政府が超知能機械による経済的影響への対応に苦慮する中、OpenAIは「知能の時代」において富と労働がどのように再構築されるべきかを概説した一連の政策提言を発表した。その構想は、公的資産基金や社会安全網の拡充といった伝統的な左派的な仕組みと、根本的に資本主義的で市場主導型の経済枠組みとを融合させたものである。OpenAIの提案は本質的に「要望リスト」に相当し、人工知能が労働と経済を変革する中で、
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.





家






