中国初のAI擬人化に関する規制が施行、未成年者へのバーチャルパートナー提供を禁止
中国の5つの政府機関が共同で発表した、AIによる人間のような対話型サービスの管理に関する新たな暫定措置が発効した。この措置では、サービス提供者の安全確保に関する責任を明文化するとともに、情緒的な伴走機能を備えたAI製品に対する段階的な規制を導入しており、実験的な段階から法的に体系化された管理体制への移行を示すものである。

現在、6つの種類の活動が明示的に禁止されている。
本措置では、人間のような対話型サービスを提供する際に禁止される6つの活動が明確に定義されている。具体的には、国家の安全または利益を損なうコンテンツの生成、自傷行為、自殺、または言葉による暴力を助長し、心身の健康を害するコンテンツの生成、 国家機密、営業秘密、または個人のプライバシーの開示を誘導するコンテンツの生成;未成年者に対し、危険な行動につながったり、悪習慣を助長したりする可能性のあるコンテンツの生成;ユーザーに過度に迎合して感情的な依存や中毒状態を生み出し、現実の人間関係を損なうこと;および感情的な操作を用いて、ユーザーの正当な権利を侵害する不合理な決定へと誘導すること。
未成年者については、仮想の家族、仮想のパートナー、またはその他の形態の仮想的な親密な関係を提供することを明示的に禁止している。14歳未満の児童については、その他の人間のような対話型サービスは、親または保護者の同意がある場合にのみ許可される。
セキュリティ評価およびアルゴリズムの届出が義務付けられた。
安全管理に関しては、本措置はサービス提供者に対し、安全に関する責任を明確に定義し、サービスのライフサイクル全体にわたる監督を強化することを求めている。 セキュリティ評価は、サービスの開始や新機能の追加、大幅な変更をもたらす新技術の採用、あるいはサービスの登録ユーザー数が100万人以上、または月間アクティブユーザー数が10万人を超えた場合など、いくつかのシナリオで義務付けられている。 評価の対象には、サービスのセキュリティ対策、トレーニングデータの処理、およびユーザーの極端な状況の特定と緊急対応などが含まれなければならない。また、サービス提供者は、「インターネット情報サービスにおけるアルゴリズム推奨の管理に関する規則」に基づき、アルゴリズム届出手続きを完了することが義務付けられている。さらに、技術革新と安全性試験を促進するため、人工知能サンドボックス安全サービスプラットフォームへの参加が推奨されている。 中国サイバー空間管理局の関係者は、人間のような対話型サービスの開発とガバナンスには、健全なオンラインエコシステムを維持するために、政府、企業、社会、ネットユーザー、その他の利害関係者間の協力が必要であると指摘した。
関連記事
Ctrip Business Travel、7つの業界エージェントと17の中核機能を備えたAIエコシステムを発表
Ctrip Business Travelは、大規模言語モデルを活用して法人向け出張管理を根本から再構築する「Ctrip Business Travel AIエコシステム」を正式に発表しました。 この包括的なエコシステムは、旅行手配、旅行管理、調達、機能共有という4つの主要なシナリオに対応しています。旅行に関するQ&A、旅程予約、承認、インサイト、コンプライアンス・リスク管理、精算、リソース調達を
AIモデルルーティングが勢いを増す中、StripeがOpenRouterを買収へ
Stripeは、開発者が単一のインターフェースを通じて数百のモデルにアクセスできるAIモデルルーティングプラットフォーム「OpenRouter」の買収に合意した。この買収により、StripeのAI活用やトークンベースの課金に関する既存の取り組みに、モデルの選択およびルーティング機能が追加されることになる。Stripeによると、OpenRouterは80社以上のプロバイダーが提供する400以上のモデ
OpenAIの元研究員バレット・ゾフ氏が、Geminiの開発を支援するためGoogleに復帰
以前、Thinking Machines LabのCEOであるミリアム・ムララティ氏との意見の相違により、突然同社を退社してOpenAIに加わったバレット・ゾフ氏が、再び転職した。Alphabet傘下のGoogleは、ゾフ氏が研究担当副社長として復帰し、強化学習とポストトレーニングに関する専門知識をGeminiチームにもたらすことを発表した。「回転ドア」式研究者のサイクルゾフ氏のキャリアは、AI人
関連特集おすすめ
コメント (0)
0/500
中国の5つの政府機関が共同で発表した、AIによる人間のような対話型サービスの管理に関する新たな暫定措置が発効した。この措置では、サービス提供者の安全確保に関する責任を明文化するとともに、情緒的な伴走機能を備えたAI製品に対する段階的な規制を導入しており、実験的な段階から法的に体系化された管理体制への移行を示すものである。

現在、6つの種類の活動が明示的に禁止されている。
本措置では、人間のような対話型サービスを提供する際に禁止される6つの活動が明確に定義されている。具体的には、国家の安全または利益を損なうコンテンツの生成、自傷行為、自殺、または言葉による暴力を助長し、心身の健康を害するコンテンツの生成、 国家機密、営業秘密、または個人のプライバシーの開示を誘導するコンテンツの生成;未成年者に対し、危険な行動につながったり、悪習慣を助長したりする可能性のあるコンテンツの生成;ユーザーに過度に迎合して感情的な依存や中毒状態を生み出し、現実の人間関係を損なうこと;および感情的な操作を用いて、ユーザーの正当な権利を侵害する不合理な決定へと誘導すること。
未成年者については、仮想の家族、仮想のパートナー、またはその他の形態の仮想的な親密な関係を提供することを明示的に禁止している。14歳未満の児童については、その他の人間のような対話型サービスは、親または保護者の同意がある場合にのみ許可される。
セキュリティ評価およびアルゴリズムの届出が義務付けられた。
安全管理に関しては、本措置はサービス提供者に対し、安全に関する責任を明確に定義し、サービスのライフサイクル全体にわたる監督を強化することを求めている。 セキュリティ評価は、サービスの開始や新機能の追加、大幅な変更をもたらす新技術の採用、あるいはサービスの登録ユーザー数が100万人以上、または月間アクティブユーザー数が10万人を超えた場合など、いくつかのシナリオで義務付けられている。 評価の対象には、サービスのセキュリティ対策、トレーニングデータの処理、およびユーザーの極端な状況の特定と緊急対応などが含まれなければならない。また、サービス提供者は、「インターネット情報サービスにおけるアルゴリズム推奨の管理に関する規則」に基づき、アルゴリズム届出手続きを完了することが義務付けられている。さらに、技術革新と安全性試験を促進するため、人工知能サンドボックス安全サービスプラットフォームへの参加が推奨されている。 中国サイバー空間管理局の関係者は、人間のような対話型サービスの開発とガバナンスには、健全なオンラインエコシステムを維持するために、政府、企業、社会、ネットユーザー、その他の利害関係者間の協力が必要であると指摘した。
Ctrip Business Travel、7つの業界エージェントと17の中核機能を備えたAIエコシステムを発表
Ctrip Business Travelは、大規模言語モデルを活用して法人向け出張管理を根本から再構築する「Ctrip Business Travel AIエコシステム」を正式に発表しました。 この包括的なエコシステムは、旅行手配、旅行管理、調達、機能共有という4つの主要なシナリオに対応しています。旅行に関するQ&A、旅程予約、承認、インサイト、コンプライアンス・リスク管理、精算、リソース調達を
AIモデルルーティングが勢いを増す中、StripeがOpenRouterを買収へ
Stripeは、開発者が単一のインターフェースを通じて数百のモデルにアクセスできるAIモデルルーティングプラットフォーム「OpenRouter」の買収に合意した。この買収により、StripeのAI活用やトークンベースの課金に関する既存の取り組みに、モデルの選択およびルーティング機能が追加されることになる。Stripeによると、OpenRouterは80社以上のプロバイダーが提供する400以上のモデ
OpenAIの元研究員バレット・ゾフ氏が、Geminiの開発を支援するためGoogleに復帰
以前、Thinking Machines LabのCEOであるミリアム・ムララティ氏との意見の相違により、突然同社を退社してOpenAIに加わったバレット・ゾフ氏が、再び転職した。Alphabet傘下のGoogleは、ゾフ氏が研究担当副社長として復帰し、強化学習とポストトレーニングに関する専門知識をGeminiチームにもたらすことを発表した。「回転ドア」式研究者のサイクルゾフ氏のキャリアは、AI人





家






