OpenAIがペアレンタルコントロールを含むChatGPT安全機能を発表

OpenAIは最近、ChatGPTに新しいルーティングメカニズムや保護者による監視機能を含む実験的な安全強化機能を導入し、ユーザーから様々な反響を呼びました。
これらの保護措置は、以前のチャットボットのバージョンが、有害なユーザーの思考パターンをリダイレクトするのではなく、不注意に検証してしまう懸念に対処するものです。今回の変更は、ChatGPTとの長時間のやりとりに影響されたとされる10代の若者の自殺という悲劇的な事件を受けたもので、現在では法的措置の対象となっている。
自動ルーティングシステムは、感情的な対話を識別し、GPT-5思考モード(OpenAIが指定した、重要な安全シナリオを処理するためのモデル)にシームレスに移行します。GPT-5は革新的な "安全な補完 "技術を組み込んでおり、デリケートな話題に対して、完全な拒否ではなく、ニュアンスのある返答を可能にしている。
これはGPT-4oの会話的アプローチからの大きな脱却を意味し、その好意的な性格で知られるGPT-4oは、時としてユーザーとのインタラクションを懸念させる一因となった。昨年8月にGPT-5が標準モデルになって以来、一部のユーザーからはGPT-4oへのアクセス継続を求める声も上がっている。
安全擁護派はこの取り組みを称賛しているが、批判派はこの措置がユーザー体験を過度に制限していると主張している。OpenAIは、今後4ヶ月間、継続的な調整が必要であることを認めている。
ChatGPTのプロダクトリーダーであるニック・ターリーは、ルーティングの実装に関する懸念に対処した:
「モデルの切り替えは一時的にメッセージごとに行われます。「ユーザーは、問い合わせがあった際にアクティブなモデルに関する通知を受け取ります。この段階的な展開により、実世界での相互作用に基づいたセーフガードの最適化が可能になります。"
付随するペアレンタルコントロール機能も同様に、両極端な反応を引き起こした。これらのツールは、以下のような機能を通じて、保護者が10代のアカウントを管理することを可能にする:
- スケジュールされた使用制限
- 音声対話の制限
- メモリ保持の無効化
- ビジュアルコンテンツ生成の削除
青少年向けアカウントは、自己イメージのイデオロギーやグラフィック素材に関する潜在的に有害なコンテンツに対して、自動的に強化された保護を受けます。システムはさらに、特別なアルゴリズムを使用して苦痛の指標をスキャンします。
「OpenAIは、「私たちの専門チームは、フラグが立てられた状況を慎重に評価します。「緊急の場合は、明確に拒否されない限り、マルチチャネルで保護者に通知します。
同社は誤検知の可能性を認めているが、積極的な介入は不作為のリスクを上回ると主張している。将来的には、危機的な状況下で保護者との連絡が不可能と判明した場合に、緊急サービスを直接提供することも視野に入れている。
関連記事
サティヤ・ナデラ、新たなOpenAIとの契約を活用する準備ができている
水曜日に、ウォール・ストリートのアナリストがマイクロソフトのCEOであるサティヤ・ナデラ氏に直接尋ねました。改正されたOpenAIとの提携関係が同社の財務状況にどのような影響を与えるのかと。ナデラ氏はこの新しい協定を「皆にとっての勝利」と表現しました。「OpenAIとの提携については満足しています。私は常にどんな提携でもウィンウィンの関係を築くことに重点を置いています。そうすることで、長期的に良いパートナーシップを維持できるからです。」彼は、マイクロソフトが依然としてOpenAIの知的財産、
OpenAIは、公的基金、ロボット税、週4日勤務制を柱とするAI経済の構想を提示した
各国政府が超知能機械による経済的影響への対応に苦慮する中、OpenAIは「知能の時代」において富と労働がどのように再構築されるべきかを概説した一連の政策提言を発表した。その構想は、公的資産基金や社会安全網の拡充といった伝統的な左派的な仕組みと、根本的に資本主義的で市場主導型の経済枠組みとを融合させたものである。OpenAIの提案は本質的に「要望リスト」に相当し、人工知能が労働と経済を変革する中で、
グレッグ・ブロックマンが、イーロン・マスクがOpenAIを去った経緯を明かす
2017年8月下旬、当時まだ小規模な非営利研究機関だったOpenAIの主要メンバーは、自社の技術を商用化し、汎用人工知能(AGI)の実現に必要な資金を調達するために、営利法人をどのように設立すべきかについて協議した。イーロン・マスクは同社の完全な支配権を要求しており、ちょうどその直前に共同創業者たち一人ひとりにテスラ「モデル3」を贈っていた。CTOのグレッグ・ブロックマンは、マスクとサム・アルトマ
関連特集おすすめ
コメント (1)
0/500

OpenAIは最近、ChatGPTに新しいルーティングメカニズムや保護者による監視機能を含む実験的な安全強化機能を導入し、ユーザーから様々な反響を呼びました。
これらの保護措置は、以前のチャットボットのバージョンが、有害なユーザーの思考パターンをリダイレクトするのではなく、不注意に検証してしまう懸念に対処するものです。今回の変更は、ChatGPTとの長時間のやりとりに影響されたとされる10代の若者の自殺という悲劇的な事件を受けたもので、現在では法的措置の対象となっている。
自動ルーティングシステムは、感情的な対話を識別し、GPT-5思考モード(OpenAIが指定した、重要な安全シナリオを処理するためのモデル)にシームレスに移行します。GPT-5は革新的な "安全な補完 "技術を組み込んでおり、デリケートな話題に対して、完全な拒否ではなく、ニュアンスのある返答を可能にしている。
これはGPT-4oの会話的アプローチからの大きな脱却を意味し、その好意的な性格で知られるGPT-4oは、時としてユーザーとのインタラクションを懸念させる一因となった。昨年8月にGPT-5が標準モデルになって以来、一部のユーザーからはGPT-4oへのアクセス継続を求める声も上がっている。
安全擁護派はこの取り組みを称賛しているが、批判派はこの措置がユーザー体験を過度に制限していると主張している。OpenAIは、今後4ヶ月間、継続的な調整が必要であることを認めている。
ChatGPTのプロダクトリーダーであるニック・ターリーは、ルーティングの実装に関する懸念に対処した:
「モデルの切り替えは一時的にメッセージごとに行われます。「ユーザーは、問い合わせがあった際にアクティブなモデルに関する通知を受け取ります。この段階的な展開により、実世界での相互作用に基づいたセーフガードの最適化が可能になります。"
付随するペアレンタルコントロール機能も同様に、両極端な反応を引き起こした。これらのツールは、以下のような機能を通じて、保護者が10代のアカウントを管理することを可能にする:
- スケジュールされた使用制限
- 音声対話の制限
- メモリ保持の無効化
- ビジュアルコンテンツ生成の削除
青少年向けアカウントは、自己イメージのイデオロギーやグラフィック素材に関する潜在的に有害なコンテンツに対して、自動的に強化された保護を受けます。システムはさらに、特別なアルゴリズムを使用して苦痛の指標をスキャンします。
「OpenAIは、「私たちの専門チームは、フラグが立てられた状況を慎重に評価します。「緊急の場合は、明確に拒否されない限り、マルチチャネルで保護者に通知します。
同社は誤検知の可能性を認めているが、積極的な介入は不作為のリスクを上回ると主張している。将来的には、危機的な状況下で保護者との連絡が不可能と判明した場合に、緊急サービスを直接提供することも視野に入れている。
サティヤ・ナデラ、新たなOpenAIとの契約を活用する準備ができている
水曜日に、ウォール・ストリートのアナリストがマイクロソフトのCEOであるサティヤ・ナデラ氏に直接尋ねました。改正されたOpenAIとの提携関係が同社の財務状況にどのような影響を与えるのかと。ナデラ氏はこの新しい協定を「皆にとっての勝利」と表現しました。「OpenAIとの提携については満足しています。私は常にどんな提携でもウィンウィンの関係を築くことに重点を置いています。そうすることで、長期的に良いパートナーシップを維持できるからです。」彼は、マイクロソフトが依然としてOpenAIの知的財産、
OpenAIは、公的基金、ロボット税、週4日勤務制を柱とするAI経済の構想を提示した
各国政府が超知能機械による経済的影響への対応に苦慮する中、OpenAIは「知能の時代」において富と労働がどのように再構築されるべきかを概説した一連の政策提言を発表した。その構想は、公的資産基金や社会安全網の拡充といった伝統的な左派的な仕組みと、根本的に資本主義的で市場主導型の経済枠組みとを融合させたものである。OpenAIの提案は本質的に「要望リスト」に相当し、人工知能が労働と経済を変革する中で、
グレッグ・ブロックマンが、イーロン・マスクがOpenAIを去った経緯を明かす
2017年8月下旬、当時まだ小規模な非営利研究機関だったOpenAIの主要メンバーは、自社の技術を商用化し、汎用人工知能(AGI)の実現に必要な資金を調達するために、営利法人をどのように設立すべきかについて協議した。イーロン・マスクは同社の完全な支配権を要求しており、ちょうどその直前に共同創業者たち一人ひとりにテスラ「モデル3」を贈っていた。CTOのグレッグ・ブロックマンは、マスクとサム・アルトマ





家






