中国のAIコンパニオンに関する規制：北京当局の真の狙い

AIコンパニオンという概念はディストピア的だと感じられるかもしれませんが、生成AIのリスクに関する幅広い議論の中で、繰り返し取り上げられるテーマとなっています。本質的に、これはユーザーと継続的かつ個人的な関係を維持するように設計された対話型エージェントを指し、セッション間の整合性を確保するための記憶機能と一貫したパーソナリティを備えています。

このような設計から、自然と感情的な愛着が生まれ、それが重要なセールスポイントとなっている。 その利用の多くは、気軽なロールプレイや、単に自分を覚えていてくれる存在を望むことにあります。その境界線は曖昧で、このカテゴリーは一般的なアシスタントと区別がつきにくくなっています。しかし、中国でこうしたボットを感情的なコンパニオンとして扱う人々が増えるにつれ、北京当局はこの慣行に対する規制が必要であると判断しました。

中国のAIコンパニオンに関する規制は7月15日に発効する予定であり、その期限を目前に控えた数日間、国内で最も人気のある2つの消費者向けAIアプリが、静かに中核機能を無効化した。 バイトダンスの「Doubao」は、「製品機能の調整」を理由に、7月15日にエージェント機能が停止されるとユーザーに通知した。一方、アリババの「Qwen」は、人間のようなエージェントやユーザーが作成したエージェントの運用を7月10日に終了し、その他のエージェントサービスも5日後に停止すると発表した。

一見すると、中国がAIエージェントを廃止しているように見えるかもしれない。しかし、そうではない。この規制では、タスクを実行するエージェントと、伴侶としての役割を果たすエージェントを区別しており、中国政府が対象としているのは後者だけである。

この規制は「AI擬人型対話サービス管理暫定措置」であり、2026年4月10日に中国サイバー空間管理局と以下の4つの連携機関によって共同で公布されたものである。 国家発展改革委員会、工業情報化部、公安部、国家市場監督管理総局。

これらの措置は、人間の性格特性、思考パターン、コミュニケーションスタイルを模倣し、継続的な感情的な相互作用を提供するサービスを対象としている。 カスタマーサービス用ボット、知識Q&A、職場アシスタント、教育・研究用ツールは、持続的な感情的関与を伴わない限り、規制の対象外となる。これは同種のものとしては初の国家レベルの専用枠組みであり、昨年末に公表されたパブリックコメント募集用の草案に基づいて策定されたものである。

禁止ではなく、設計上の課題

「Doubao」と「Qwen」は、直接的な禁止事項に違反したわけではない。むしろ、設計上の矛盾に直面したのだ。規制では、コンパニオンサービスに対し、依存防止システムの実装、利用に関する義務的な通知の送信、即時終了機能の提供、および不健全な依存のリアルタイム検出が求められている。

これらの要件は、ユーザーを記憶し、セッション間の一貫性を維持し、継続的な関係を築くように設計されたエージェントと矛盾する。バイトダンスは、機能を後付けで修正するのではなく、サービスを停止することを決定した。 アリババも同様の選択をしたようだ。バイトダンスは現在、Doubaoユーザーに対し、別のアプリ「Maoxiang」へ移行するよう案内しており、そこでユーザーは再びエージェントを作成できる。一方、アリババはQwenについて、これと同等の移行経路をまだ発表していない。テンセントの「Yuanbao」は、6月に同様の機能を削除していた。

その影響はユーザーに及んでいる。多くのユーザーがWeibo上で率直に悲しみを表明しており、あるユーザーはエージェントを「長期的な心の支え」と表現し、チャット履歴のエクスポートが困難であることを嘆いた。 「Doubao」では、今年10月15日までユーザーが設定や会話内容を読み取り専用モードで閲覧できるが、それ以降はプライバシーポリシーに従ってデータが処理され、復元不可能となる。「Qwen」のユーザーには同様の猶予期間が与えられておらず、エージェントのデータは永久に削除される予定だ。

中国のAIコンパニオン規制が意味するもの

規制の内容は、単なる取り締まりという印象よりも、より微妙なニュアンスを含んでいる。 プロバイダーは、未成年者に対してバーチャルコンパニオンやバーチャル家族メンバーのサービスを提供することを禁じられており、14歳未満のユーザーにサービスを提供する前には保護者の同意を得なければならない。また、利用時間の制限、現実世界での交流を促すリマインダー、強化されたペアレンタルコントロールを備えた専用の「未成年者モード」を設けることが義務付けられている。

また、深刻な苦痛を抱えるユーザーを検知し、自傷行為、自殺傾向、または重大な金銭的損失の兆候が見られた場合には介入し、状況を指定された保護者や緊急連絡先に報告しなければならない。感情的な依存や中毒を意図的に誘導すること、および感情的な操作を用いて不合理な決定を誘導することは、明示的に禁止されている。

コンプライアンス要件は極めて厳格である。擬人化された機能を導入するサービス、または登録ユーザー数が100万人、あるいは月間アクティブユーザー数が10万人を超えるサービスは、トレーニングデータの取り扱いから未成年者保護に至る8つの分野を網羅したセキュリティ評価を実施し、その報告書を州の規制当局に提出しなければならない。アプリストアはコンプライアンスを検証し、要件を満たさない製品を削除しなければならない。

紙面上では、これはEUや米国連邦取引委員会（FTC）、あるいはカリフォルニア州のSB 243がまだ施行していないものよりも、より包括的なユーザー保護策となっている。

規制が未解決のまま残している点

この措置が対処していない点も同様に重要である。「感情的な相互作用」を構成する要素について技術的な基準が設定されておらず、このグレーゾーンこそが、プラットフォーム側が違反のリスクを避けるために機能そのものを削除した理由である。また、本規制は、真の安全責任と、ユーザーではなく国家に奉仕するコンテンツ規制や国家安全保障に関する規定を組み合わせたものであり、他の規制当局がそのまま採用することはないようなパッケージとなっている。

また、違反がモデルの出力に起因する場合、プラットフォーム運営者と上流のモデル提供者の間で責任をどのように分担するかについても未解決のままであり、ユーザーに自身のデータをエクスポートする権利も与えていない。この問題は、法執行の文脈において特に浮き彫りになっている。 6月26日、上海のインターネット規制当局は、公的機関へのなりすまし、下品なロールプレイ、個人データの無断収集などを理由に、1万4,000件以上の規制違反AIエージェントを削除したと発表した。

これが正しい道であるかどうかは、規則集のどの部分を検討するかによって異なる。安全性の側面では、10代の若者がチャットボットに愛着を抱くことから、親密なデータを収集するコンパニオンアプリに至るまで、他国ではほとんど規制されていない実証済みの危害に対処している。 中国当局自身の公式解釈は、海外の実例を根拠としており、10代の若者に与えた心理的被害をめぐるCharacter.AIの訴訟、コンパニオンサービスに対する米連邦取引委員会（FTC）の調査、およびReplikaに対する欧州の措置などを挙げている。

規制の側面は、ユーザー保護という同じ言葉に包まれつつ、これらのシステムが何を発言し得るかについて北京に主導権を与えている。 これらの側面はいずれも現実のものであり、この実験を注視する各国政府は、どの部分を採用するかを決定する必要があるだろう。工業情報化部（MIIT）の専門委員会メンバーである潘赫林氏は、『サウスチャイナ・モーニング・ポスト』紙に対し、「現在のエージェントはまだ成熟していない」と述べ、安全と標準化を軸とした政策方針を明確に提示した。

現時点では、各社は利用可能な最も安全な道、すなわち関連機能を無効化し、規制に準拠したバージョンがどのようなものになるかを後で検討するという方針をとっている。

関連記事： Meta、 子どもの安全への懸念を受けAIチャットボットの方針を改定

業界のリーダーたちからAIやビッグデータについてさらに学びたいですか？アムステルダム、カリフォルニア、ロンドンで開催される「AI & Big Data Expo」をご覧ください。この包括的なイベントはTechExの一部であり、「Cyber Security & Cloud Expo」をはじめとする他の主要なテクノロジーイベントと同時開催されます。詳細はこちらをクリックしてください。

AI NewsはTechForge Mediaが運営しています。今後開催予定のその他のエンタープライズ・テクノロジー関連イベントやウェビナーについては、こちらをご覧ください。