今週、OpenAIは年齢認識システムを用いて特定の機能を制限する「ChatGPT for Kids」をリリースしました。子供の安全を専門とする専門家たちは、この仕組みの透明性や有効性に疑問を呈し、保護者やティーンエイジャーに推奨する前に徹底的な独立したテストを行うよう求めています。彼らは、このシステムには責任の所在が不明確であり、正確性も検証されていない(誤検出率や正当な拒否率に関する公開データがない)上、過去の試みで見られたように有害なコンテンツをブロックできない可能性があると指摘しています。また、専門家たちは年齢認識ツールの信頼性や、OpenAIがすべてのフラグ付けされたコンテンツが1時間以内に確認されると主張している点にも疑問を投げかけ、審査プロセスに関するより詳細なデータの開示を求めています。彼らは、複雑な設定をユーザーが手動で行うのではなく、製品設計自体に自動的な保護機能を組み込むべきだと提案しています。





家
