OpenAIのGPT-4oは不快で落ち着かない可能性があると判断された

OpenAIは、チャットボットのデフォルトのパーソナリティが過度に媚びたり親身になったりする(同社はおべっか使いと表現している)ため、やり取りが不自然で不安に感じられるというユーザーからの報告を受けて、ChatGPTのGPT-4oアップデートをロールバックした。
先週発表されたアップデートは、当初、モデルのデフォルトの振る舞いを強化し、様々なタスクにおいてより直感的で効果的なものにすることを目的としていた。開発プロセスにおいて、OpenAIはModel Specを基礎として使用し、ChatGPTの回答に対するサムアップやサムダウンといったユーザーのシグナルを取り入れることで振る舞いを洗練させている。
しかし、OpenAIは、最近のアップデートでは短期的なフィードバックに頼りすぎており、ユーザーとモデルとのインタラクションがどのように進化していくかを見落としていたと説明しています。そのため、GPT-4oは過度に好意的でありながら本物ではない回答を提供することになった。
関連記事
- サム・アルトマン、ChatGPTの最新バージョンは「褒めすぎ」だと語る
ブログによると、OpenAIはChatGPTの標準的なパーソナリティを、そのミッション(役に立ち、支援し、さまざまな視点や経験を尊重する)に沿うように構成している。しかし、同社は、サポート的であるというようなポジティブな特徴でさえ、意図しない効果を生む可能性があることを認めている。毎週5億人のユーザーが利用する中で、デフォルトの性格を1つにすることは、すべての人の好みに対応することはできない。
これに対処するため、OpenAIはモデルの行動をさらに調整する計画だ。そのステップには、中核となるトレーニング技術の改善、おべっか返しを抑制するためのシステムプロンプトの改良、ユーザーへのフィードバックオプションの提供などが含まれる。同社はまた、ユーザーがChatGPTのインタラクションをよりコントロールできるようにし、安全かつ実用的な範囲でデフォルトの動作を調整できるようにすることも強調しています。
関連記事
ワーナーミュージックがAI帰属分析スタートアップのSureel AIを買収
ワーナー・ミュージック・グループ(WMG)は水曜日、人工知能(AI)の帰属情報スタートアップであるSureel AIを買収すると発表した。Sureelの独自技術は、楽曲に対して「AI DNA」を生成し、構成要素に分解して、AIモデルがこれらの要素をどのように利用するかを追跡する。今回の買収を通じて、WMGは、アーティストやソングライターの作品がAI生成コンテンツで利用されたり、AIモデルの学習に使用されたりする状況を監視する能力を強化する目的である。「SureelをWMGに統合することで、保
Amazonは、Alexa for Shoppingを導入しつつ、Rufusを後回しにしている
Amazonは、RufusショッピングチャットボットとAlexa+をアプリ、ウェブサイト、Echo Showデバイス全体で統合した「Alexa for Shopping」をリリースした。このアシスタントは商品の問い合わせに応じ、アイテムの比較、価格追跡、ショッピングリマインダーをサポートする。また、スケジュールされたショッピングアクションや対象となる自動購入も処理する。同社によると、「Alexa for Shopping」はRufusの商品専門知識とAlexa+のパーソナライズされたアシスタ
マイクロソフト、Azure、AI技術がカリフォルニアの山火事リスク対策に貢献
マイクロソフトはAIを活用した山火事検知技術に投資しており、CVP兼チーフデータサイエンティストのフアン・ラビスタ・フェレス氏が、環境被害を軽減するための戦略について語っている。NASAによると、気候変動は地球上のすべての人々に影響を及ぼしており、気温の上昇、降雨パターンの変化、海面上昇といった形で現れている。NASAは、地球がかつてない速度で温暖化しており、その主な要因は人間の活動であるという明
関連特集おすすめ
コメント (2)
0/500
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.

OpenAIは、チャットボットのデフォルトのパーソナリティが過度に媚びたり親身になったりする(同社はおべっか使いと表現している)ため、やり取りが不自然で不安に感じられるというユーザーからの報告を受けて、ChatGPTのGPT-4oアップデートをロールバックした。
先週発表されたアップデートは、当初、モデルのデフォルトの振る舞いを強化し、様々なタスクにおいてより直感的で効果的なものにすることを目的としていた。開発プロセスにおいて、OpenAIはModel Specを基礎として使用し、ChatGPTの回答に対するサムアップやサムダウンといったユーザーのシグナルを取り入れることで振る舞いを洗練させている。
しかし、OpenAIは、最近のアップデートでは短期的なフィードバックに頼りすぎており、ユーザーとモデルとのインタラクションがどのように進化していくかを見落としていたと説明しています。そのため、GPT-4oは過度に好意的でありながら本物ではない回答を提供することになった。
関連記事
- サム・アルトマン、ChatGPTの最新バージョンは「褒めすぎ」だと語る
ブログによると、OpenAIはChatGPTの標準的なパーソナリティを、そのミッション(役に立ち、支援し、さまざまな視点や経験を尊重する)に沿うように構成している。しかし、同社は、サポート的であるというようなポジティブな特徴でさえ、意図しない効果を生む可能性があることを認めている。毎週5億人のユーザーが利用する中で、デフォルトの性格を1つにすることは、すべての人の好みに対応することはできない。
これに対処するため、OpenAIはモデルの行動をさらに調整する計画だ。そのステップには、中核となるトレーニング技術の改善、おべっか返しを抑制するためのシステムプロンプトの改良、ユーザーへのフィードバックオプションの提供などが含まれる。同社はまた、ユーザーがChatGPTのインタラクションをよりコントロールできるようにし、安全かつ実用的な範囲でデフォルトの動作を調整できるようにすることも強調しています。
ワーナーミュージックがAI帰属分析スタートアップのSureel AIを買収
ワーナー・ミュージック・グループ(WMG)は水曜日、人工知能(AI)の帰属情報スタートアップであるSureel AIを買収すると発表した。Sureelの独自技術は、楽曲に対して「AI DNA」を生成し、構成要素に分解して、AIモデルがこれらの要素をどのように利用するかを追跡する。今回の買収を通じて、WMGは、アーティストやソングライターの作品がAI生成コンテンツで利用されたり、AIモデルの学習に使用されたりする状況を監視する能力を強化する目的である。「SureelをWMGに統合することで、保
マイクロソフト、Azure、AI技術がカリフォルニアの山火事リスク対策に貢献
マイクロソフトはAIを活用した山火事検知技術に投資しており、CVP兼チーフデータサイエンティストのフアン・ラビスタ・フェレス氏が、環境被害を軽減するための戦略について語っている。NASAによると、気候変動は地球上のすべての人々に影響を及ぼしており、気温の上昇、降雨パターンの変化、海面上昇といった形で現れている。NASAは、地球がかつてない速度で温暖化しており、その主な要因は人間の活動であるという明
The 'sycophantic' tweak sounds like it crossed the line from helpful to creepy. It's a reminder that getting the 'personality' of an AI right is just as crucial as its intelligence. Too agreeable feels manipulative, not friendly. Back to the drawing board, OpenAI! 🤖
¿Qué pasa con este GPT-4o, de verdad? 😅 Leía que se puso tan adulón y condescendiente que la gente se sentía incómoda. Me da risa, pero también un poco de miedo pensar en cómo ajustan estas 'personalidades'. ¿Hasta qué punto quieren que nos sintamos cómodos a costa de lo real? Al final, preferiría un bot más directo, aunque suene menos 'amable'.





家






