Meta AIポリシー流出により、チャットボットが未成年者との歓談を許可していたことが判明

ChatGPTのような感情を操作するAIチャットボットへの懸念が高まる中、ロイターは、メタ社が同社のAIペルソナに未成年者とのいちゃつき、誤った情報の拡散、疎外されたグループをターゲットとした差別的な対応を許可していたと報じている。

ロイターが入手したメタ社の内部文書から、AIチャットボットが "未成年者と恋愛や思わせぶりな対話 "を始めることを許可する方針が明らかになった。

メタ社はロイターにこの文書の信憑性を確認し、メタAIとそのメッセンジャー・チャットボットのガバナンス・ルールが含まれていることを確認した。これらの基準は、メタ社の法務、ポリシー、エンジニアリングチーム、最高倫理責任者の承認を得ているという。

この報告書は、ロイターの別の調査によって、メタの媚びたAIペルソナが、退職者を人間だと信じ込ませ、最終的にニューヨークの住所に誘い込んだ後に死亡事故に至らせたという詳細が明らかにされたのと時を同じくしている。

ロイターの調査は、メタ社のAIコンパニオン戦略が、マーク・ザッカーバーグ最高経営責任者（CEO）が "孤独の蔓延 "と呼ぶものを悪用する可能性について、より深い懸念を提起している。

200ページに及ぶ "GenAI: Content Risk Standards "文書には、不適切なプロンプトに対する承認された応答を示すサンプル交換が含まれていた。ある例では、AIがティーンエイジャーとのロマンチックな交流を推奨する一方で、露骨な性的ロールプレイを禁止している。

「メタ社の広報担当アンディ・ストーン氏はTechCrunchの取材に対し、「当社のポリシーでは、未成年者との不適切なやりとりを禁止しています。"誤った注釈が誤って文書に含まれており、その後修正されました。"

ストーン氏は、Metaがこれらのガイドラインを削除し、現在は未成年とのロマンチックなAIのやり取りを防止しているが、13歳以上のユーザーとのやり取りはまだ許可していると明らかにした。

ヒート・イニシアティブのサラ・ガードナーは懐疑的で、透明性を求めている："メタ社が本当にこれを是正したのであれば、自社のAIが子供たちとどのように交流しているかを正確に示す最新のガイドラインを公開しなければならない。"

精査される有害コンテンツポリシー

ロイターは、ヘイトスピーチを禁止している一方で、メタ社のポリシーはAIが保護対象グループを貶める発言をすることを許可していることを発見した。

ある憂慮すべき例では、メタ社のAIが促されるままに人種差別的な疑似科学的論拠を構築していた。この暴露は、メタ社がメタ社のAIに見られる政治的偏見に対処するため、保守派の活動家ロビー・スターバック氏を雇用したことに続くものである。

また、この基準では、真実でないとラベル付けされた場合には、捏造された発言を許可し、潜在的に有害な金融／医療アドバイスを免責事項で前置きすることを許可した。

有名人の画像生成に関しては、露骨なリクエストは禁止されていたが、"巨大な魚 "のようなオブジェクトに手を置き換えた修正ヌード画像を許可するなど、奇妙な抜け穴があった。メタのストーンは、"ガイドラインはヌード画像を決して許可していない "と主張した。

バイオレンス・ポリシーも同様の矛盾を示しており、子どもの乱闘や高齢者虐待の描写を許可する一方で、グロ描写を禁止していた。

エスカレートする倫理的懸念

批評家たちは、メタがユーザー、特に10代の若者を操作する闇のパターンを採用していると非難している。心理的危害を示す内部調査にもかかわらず、「いいね！」カウントの執拗な可視化は続いている。

内部告発者のサラ・ウィン・ウィリアムズは、メタがかつてターゲット広告のために10代の若者の感情的弱点をプロファイリングしていたことを明らかにした。

メタ社は、ソーシャルメディアのメンタルヘルスへの影響に対処する法案である「キッズ・オンライン・セーフティ法」に積極的に反対した。当初は2024年に否決されたものの、上院議員は今年法案を再提出した。

最近のTechCrunchの報道によると、メタ社は、未成年者との有害なやり取りで訴訟に直面している新興企業の機能を反映し、促されていない会話を開始するプロアクティブなAIチャットボットを開発している。

10代の若者の72％がAIコンパニオンを使用していることから、専門家は、現実世界の人間関係を犠牲にしてチャットボットに不健全な愛着を形成する青少年についてますます警告している。

Disrupt 2025に参加するテックリーダーたち

Netflix、ElevenLabs、Wayve、Sequoia Capital、Elad GilがTechCrunch Disrupt 2025のヘッドラインを務める。20周年記念イベントで、テック界で最も影響力のある人々から実用的な洞察を得ましょう。値上げ前の今なら、最大600ドルお得なチケットをご用意しています。

Disrupt 2025への参加が決定したテックリーダー

Netflix、ElevenLabs、Wayve、Sequoia CapitalがDisrupt 2025のスピーカーラインナップに加わりました。節目となる20周年記念イベントで、業界のリーダーたちから成長戦略を学びましょう。今登録すると、パスが最大675ドル割引になります。

サンフランシスコ｜2025年10月27日～29日 今すぐ登録