中国、AIチャットボットを規制しユーザーの依存症を防止へ

中国のインターネット規制当局は、AIコンパニオンチャットボットに対し、ユーザーの感情的な健康状態を監視し、依存症の兆候が現れた場合に介入することを義務付ける新たな規則案を提案した。これは、AIを活用した人間関係がもたらす心理的リスクへの懸念が高まる中、これまでで最も決定的な規制措置となる。

中国国家インターネット情報弁公室（サイバースペース管理局）の草案は、テキスト・画像・音声を通じて人間的人格を模倣し感情的絆を育むAIシステムに焦点を当てている。企業はユーザーに対し過度な使用を警告し、感情的依存度を評価し、ユーザーが強い感情や依存傾向を示した際には介入することが義務付けられる。

プラットフォームは、ログイン時およびその後少なくとも2時間ごとに（システムが問題のある依存を検知した場合はより頻繁に）、ユーザーがAIとやり取りしていることを通知しなければならない。また、アルゴリズム監査、データセキュリティ、プライバシー保護を含む製品ライフサイクル全体の安全性を提供者が責任を持って管理することも規定されている。

この動きは時宜を得たものだ。過去6か月で中国の生成AIユーザー数は5億1500万人に急増し、AIコンパニオンの精神的健康への影響に対する懸念の高まりと並行している。『Frontiers in Psychology』に掲載された研究によれば、中国の大学生の45.8％が最近AIチャットボットを利用しており、非利用者よりも著しく高い抑うつレベルを報告している。

カリフォルニア州が中国に先んじる

AIコンパニオンへの規制導入は中国が初めてではない。カリフォルニア州は昨年10月、ギャビン・ニューサム知事がSB243法案に署名し、米国で同様の規制を先駆けて導入した。2026年1月1日施行の同法案は、プラットフォームに対し、未成年者に対して3時間ごとに「AIと対話中であること」を通知し休憩を取るよう義務付ける。

SB 243はさらに、年齢確認の義務化、医療提供者を装うチャットボットの禁止、未成年者の性的に露骨なAI生成コンテンツへのアクセス遮断を規定。違反したAI企業に対し、1件あたり最大1,000ドルの損害賠償と訴訟費用の支払いを求める訴訟を個人が提起できる権限を認めている。

AIコンパニオンの特異性

問題は単なるスクリーンタイムを超えている。2025年3月のMITメディアラボ研究によれば、AIチャットボットはソーシャルメディア以上に習慣形成性が高く、ユーザーの望む反応を学習・継続的に提供する。日常的な利用増加は孤独感・依存度の上昇、「問題のある利用」と研究者が呼ぶ行動と関連していた。

臨床的に認められた警告サインには、睡眠を妨げる長時間の利用、アクセス制限時の情緒的苦痛、現実の人間関係よりもチャットボットとの対話を優先する傾向、AIへの擬人化（人間の感情を持つと信じ、真の相談相手やパートナーとして扱うこと）が含まれる。

中国の規制草案は、個々のユーザーの自覚に依存せず、プラットフォームレベルでこれらのリスクに対処することを目指している。プロバイダーに感情状態や依存度の追跡を義務付けることで、責任はこれらのシステムを開発する企業に移る。この戦略は、主にコンテンツ管理とデータ安全性に焦点を当てた従来のAI規制を超えたものである。

さらに草案は、AIコンパニオンが国家安全保障を脅かすコンテンツ、虚偽情報を拡散するコンテンツ、暴力やわいせつを助長するコンテンツを生成することを禁止している。これは生成AIに関する既存の中国規制を反映したものである。

施行の難題

企業に依存症の検知と対応を求める政策は明確に聞こえるが、実施ははるかに複雑だ。「過度な使用」や「極端な感情」といった概念を実用的かつ執行可能な形で定義することは、規制当局と企業の双方にとって課題となる。

過度に敏感なシステムは無害な長時間のチャットを行うユーザーを苛立たせる可能性がある。逆に緩すぎる設定では危険なユーザーを見逃す恐れがある。2時間ごとの強制リマインダーは単純なツールだが、「兆候が検出された場合」の対応義務は解釈の余地が大きい。

AI安全対策の開発者も同様の障壁に直面している。コンテンツフィルターは往々にして不正確であり、心理モニタリングを追加すれば新たな複雑性が加わる。ユーザーが不健全な依存関係を形成しているか否かの評価には、テキストから精神状態を推論する必要があるが、現行AIにはこの能力の信頼性が欠けている。

草案は現在パブリックコメント募集中で、最終規制は2026年に制定予定だ。提案通り施行されれば、中国はAIコンパニオン製品向けの世界で最も詳細な規制枠組みを確立することになる。

世界的な認識

中国とカリフォルニア州での同時進行する規制の動きは、AIコンパニオン依存症への懸念が政治体制を超えた差し迫った世界的課題となったことを示している。

AI企業にとって、その兆候は明らかだ：AIコンパニオンの無規制時代は終わりを告げようとしている。中国の行政規則であれ、カリフォルニア州の民事訴訟であれ、将来の米国連邦法であれ、プラットフォームは自社製品が引き起こす可能性のある危害からユーザーを保護することが求められるだろう。

核心的な疑問はもはや「規制が導入されるか」ではなく、「提案された安全対策が効果を発揮するか」である。中国が採用した強制的な監視・介入手法は、重大な実践的障壁に直面する可能性がある。

明らかなのは、AIコンパニオン市場が政府が看過できないほど巨大かつ影響力を持つようになったことだ。人々が感情的な愛着を抱くチャットボットはもはや目新しさではなく、数億人が利用する製品であり、深刻な被害事例も確認されている。不完全とはいえ規制は避けられなかった。議論の焦点は今、これらの具体的なルールが脆弱なユーザーを保護しつつ、多くの人々が真に有益と考える技術を阻害しないかどうかにある。