OpenAIのティーン向けChatGPT、安全性メカニズムをめぐり専門家の懐疑の声

OpenAIが年齢別の制限を設けた「ChatGPT for Kids」の最近の公開は、その安全対策の透明性と有効性に疑問を呈する子供向け安全推進団体から激しい批判を浴びている。
安全専門家は、このプラットフォームが家族向けに推奨される前に、独立したテストが不可欠であると強調している。Common Sense Mediaのロビー・ティンヤラは、OpenAIが未検証の主張に頼るのではなく、安全機能が実際に機能することの具体的な証拠を提供しなければならないと指摘した。
フェアプレイ・イニシアチブの責任者であるジョシュ・ゴリンは、説明責任の欠如について深刻な懸念を表明した。彼は、自殺や暴力といった敏感なトピックに関するOpenAIの過去の制限がしばしば失敗してきたと指摘し、強力な監督がない自己規制は不十分であると論じた。
専門家たちはまた、自動年齢確認システムの信頼性にも懐疑的である。ティンヤラは、OpenAIが偽陽性または偽陰性の率に関するデータを公開していないことを指摘し、自動システムが若いユーザーを完全に特定できないことは明らかだと述べた。さらに、10代の子供たちはこれらの確認を回避する方法を見つける可能性が高い。
フラグされたコンテンツがスタッフによってレビューされ、保護者に1時間以内に通知されるというOpenAIの約束についても、懐疑的な見方が強い。ティンヤラは自動フィルターの信頼性を疑問視し、ゴリンは毎日のフラグ数、チーム規模、レビュー時間に関する確実なデータを要求した。また、すべての危険な対話を徹底的に手動でレビューするために十分なスタッフを確保することは非現実的であると指摘した。
最後に、専門家たちは、保護者が手動でアカウントをリンクすることを義務付けることが保護を弱めると主張している。ゴリンは、複雑な設定の負担を完全に保護者に負わせるのではなく、自動的な時間制限など、安全機能が製品にデフォルトで組み込まれるべきだと提案した。
関連記事
xAI、複雑なプログラミングタスク用の早期Grokベータ版を公開
5月14日、イーロン・マスクのAIベンチャーxAIは、Grok Buildという名前のコーディングアシスタントの初期ベータ版をリリースした。現在SuperGrokのサブスクリプション会員に限定されているこのプラットフォームは、ソフトウェアエンジニアリングを効率化し、複雑なプログラミングワークフローを処理するために設計されている。標準的なコード補完ユーティリティとは異なり、Grok Buildは「計画してから実行する」手法を優先し、大規模プロジェクトに内在するロジックのオーケストレーションの課題に
アンソロピックのCEOが「フロンティア」を牽引する計画を明らかにした
AI研究者たちは、人工知能のリスクについてますます切迫した警告を発しており、OpenAIのCEOであるサム・アルトマン氏は、開発の「ペースを調整」すべき時期が来ているのではないかと示唆している。しかし、それは実際にはどのようなことを意味するのだろうか?AnthropicのCEOダリオ・アモデイ氏は最近のブログ記事で、「フロンティアのペースを調整する」という呼びかけに賛同しただけでなく、そのための3
TechCrunch Disrupt 2026まであと48時間:次なる未来を形作るビルダーたちの声をお届けします
残り48時間となった今、TechCrunch Disrupt 2026がサンフランシスコのモスコン・ウエストにて開幕します。入場料金が高騰する前に、最大100ドル割引のチケットを確保してください。さらに、2枚目のパスを半額で購入できます。今日中に登録してください。10月13日から15日の3日間、10,000人以上の起業家、投資家、テクノロジーリーダーが集まり、自身のキャリアを再定義するつながりを築きます。250人以上のスピーカーが200以上のセッションでプレゼンテーションを行います。未来を切り拓
関連特集おすすめ
コメント (0)
0/500

OpenAIが年齢別の制限を設けた「ChatGPT for Kids」の最近の公開は、その安全対策の透明性と有効性に疑問を呈する子供向け安全推進団体から激しい批判を浴びている。
安全専門家は、このプラットフォームが家族向けに推奨される前に、独立したテストが不可欠であると強調している。Common Sense Mediaのロビー・ティンヤラは、OpenAIが未検証の主張に頼るのではなく、安全機能が実際に機能することの具体的な証拠を提供しなければならないと指摘した。
フェアプレイ・イニシアチブの責任者であるジョシュ・ゴリンは、説明責任の欠如について深刻な懸念を表明した。彼は、自殺や暴力といった敏感なトピックに関するOpenAIの過去の制限がしばしば失敗してきたと指摘し、強力な監督がない自己規制は不十分であると論じた。
専門家たちはまた、自動年齢確認システムの信頼性にも懐疑的である。ティンヤラは、OpenAIが偽陽性または偽陰性の率に関するデータを公開していないことを指摘し、自動システムが若いユーザーを完全に特定できないことは明らかだと述べた。さらに、10代の子供たちはこれらの確認を回避する方法を見つける可能性が高い。
フラグされたコンテンツがスタッフによってレビューされ、保護者に1時間以内に通知されるというOpenAIの約束についても、懐疑的な見方が強い。ティンヤラは自動フィルターの信頼性を疑問視し、ゴリンは毎日のフラグ数、チーム規模、レビュー時間に関する確実なデータを要求した。また、すべての危険な対話を徹底的に手動でレビューするために十分なスタッフを確保することは非現実的であると指摘した。
最後に、専門家たちは、保護者が手動でアカウントをリンクすることを義務付けることが保護を弱めると主張している。ゴリンは、複雑な設定の負担を完全に保護者に負わせるのではなく、自動的な時間制限など、安全機能が製品にデフォルトで組み込まれるべきだと提案した。
xAI、複雑なプログラミングタスク用の早期Grokベータ版を公開
5月14日、イーロン・マスクのAIベンチャーxAIは、Grok Buildという名前のコーディングアシスタントの初期ベータ版をリリースした。現在SuperGrokのサブスクリプション会員に限定されているこのプラットフォームは、ソフトウェアエンジニアリングを効率化し、複雑なプログラミングワークフローを処理するために設計されている。標準的なコード補完ユーティリティとは異なり、Grok Buildは「計画してから実行する」手法を優先し、大規模プロジェクトに内在するロジックのオーケストレーションの課題に
アンソロピックのCEOが「フロンティア」を牽引する計画を明らかにした
AI研究者たちは、人工知能のリスクについてますます切迫した警告を発しており、OpenAIのCEOであるサム・アルトマン氏は、開発の「ペースを調整」すべき時期が来ているのではないかと示唆している。しかし、それは実際にはどのようなことを意味するのだろうか?AnthropicのCEOダリオ・アモデイ氏は最近のブログ記事で、「フロンティアのペースを調整する」という呼びかけに賛同しただけでなく、そのための3
TechCrunch Disrupt 2026まであと48時間:次なる未来を形作るビルダーたちの声をお届けします
残り48時間となった今、TechCrunch Disrupt 2026がサンフランシスコのモスコン・ウエストにて開幕します。入場料金が高騰する前に、最大100ドル割引のチケットを確保してください。さらに、2枚目のパスを半額で購入できます。今日中に登録してください。10月13日から15日の3日間、10,000人以上の起業家、投資家、テクノロジーリーダーが集まり、自身のキャリアを再定義するつながりを築きます。250人以上のスピーカーが200以上のセッションでプレゼンテーションを行います。未来を切り拓





家






