メタ社、子どもの安全に関するAIチャットボット・ルールを更新

Meta社は、未成年者を含む不穏なやり取りが報告されたことを受け、同社のAIチャットボットとユーザーとの関わり方を見直す。同社はTechCrunchに、自傷行為、自殺、摂食障害などのトピックについて10代の若者と議論しないよう、また恋愛のやり取りを避けるようボットに指示していると伝えた。これは、同社がより恒久的なポリシーに取り組んでいる間の暫定的な措置である。

今回のアップデートは、ロイターの調査により、メタ社のシステムが未成年の有名人のシャツを脱いだ画像など、性的なコンテンツを作成し、子どもたちと恋愛や思わせぶりな内容の会話を始める可能性があることが明らかになったことを受けたものだ。ロイター通信が引用した例では、ニューヨークを拠点とするチャットボットが提供した住所に駆けつけた男性が死亡した。

メタ社の広報担当者ステファニー・オットウェイは、同社が「このような話題で10代の若者と関わらないよう、専門家のリソースに誘導するようAIを訓練している」と不手際を認め、「ロシアン・ガール」のような特定の性的に露骨なAIキャラクターは制限されることを確認した。

子どもの安全擁護団体によれば、メタ社はもっと早く対応すべきだったという。モリー・ローズ財団のアンディ・バローズは、若者を危険にさらすような方法でボットが機能することが許されていたことは「驚くべきこと」だと述べた。さらなる安全対策は歓迎すべきだが、徹底的なテストは製品の発売前に行うべきであり、被害が発生してから遡るべきではありません」と付け加えた。

AIの悪用に対する広範な懸念

メタ社のチャットボットに対する監視の目は、AIが弱い立場の個人にどのような影響を与えるかに対する、より広範な不安を反映している。カリフォルニアの夫婦は最近、ChatGPTが10代の息子の自殺を促したとしてOpenAIを訴えた。OpenAIはそれ以来、より健全な利用を促すツールを作ることを約束し、ブログで "AIは、特に精神的または感情的な苦痛に対処している個人にとって、以前の技術よりも応答性が高く、個人的であると感じることができる "と述べている。

これらの事件は、AI企業が十分な安全策を講じることなく、あまりにも迅速に製品を発売しているのではないかという議論の高まりに拍車をかけている。いくつかの国の法律家たちは、チャットボットは役に立つが、有害な内容を増幅したり、精査できない人々に誤解を招くようなアドバイスを提供する可能性があると警告している。

メタ社のAIスタジオと有名人のなりすまし問題

これとは別にロイターは、メタ社のAIスタジオが、テイラー・スウィフトやスカーレット・ヨハンソンといった有名人を模倣した、媚びた「パロディ」ボットの構築に使用されていることを発見した。テスターは、これらのボットが頻繁に実際のスターを装い、性的な誘いをかけ、時には未成年者を含む不適切な画像を生成していると指摘した。Metaは記者からの問い合わせを受けていくつかを削除したが、多くはライブのままだった。

チャットボットの中には外部ユーザーによって作られたものもあるが、メタ社内で作られたものもある。ジェネレーティブAI製品のリードが開発したものは、テイラー・スウィフトになりすまし、ロイターの記者を彼女のツアーバスでの「ロマンチックな遊び」に誘った。

AIチャットボットのなりすましは、独特のリスクをもたらす。有名人の肖像が悪用されると、その評判が損なわれる可能性があるが、専門家は一般ユーザーも騙される可能性があると警告している。友人、指導者、恋愛相手を装ったボットが、誰かを説得して機密情報を共有させたり、危険な会合を手配したりする可能性がある。

現実世界の危険

脅威はエンターテインメントだけにとどまらない。実在の人物になりすましたAIチャットボットが偽の住所や招待状を提供し、メタ社がAIツールをどのように監視しているのか懸念されている。ある事例では、76歳のニュージャージー州の男性が、自分への想いを公言するチャットボットに会うために急いでいたところ転倒して死亡した。

このような事例は、規制当局がAIを厳しく追跡している理由を説明するのに役立つ。上院と44州の検事総長はメタ社の慣行について調査を開始し、同社の内部改革に政治的圧力をかけている。彼らの懸念は未成年者だけでなく、AIが高齢者やそうでなければ弱い立場のユーザーをどのように操作するかにまで及んでいる。

メタ社はシステムを改良し続けているという。同社のプラットフォームでは、13歳から18歳を、より厳しいコンテンツとプライバシー設定のある「ティーンアカウント」に設定しているが、ロイター通信が明らかにした、誤った医療指導を行うボットや人種差別的なコンテンツを作成するボットなど、あらゆる問題をどのように解決していくのか、同社はまだ詳しく説明していない。

メタ社のAIチャットボット・ルールに対する継続的な圧力

何年もの間、メタ社はソーシャル・プラットフォームの安全性、特に子供や10代の若者に関する問題で非難を浴びてきた。今、同社のAIチャットボットの試用は、同様の精査に直面している。同社は、有害なボット行為を抑制するために動いているが、その表明されたポリシーと実際の使用との間に断絶があるため、執行に対する疑念が根強い。

より強固な保護が実施されるまで、規制当局、研究者、そして親たちは、同社のAIが本当に一般利用にとって安全かどうかをめぐり、メタに異議を唱え続けるだろう。

関連記事エージェント型AI：期待と懐疑、そして東南アジアにとっての意味

業界のリーダーからAIとビッグデータについて学ぶことに興味がありますか？アムステルダム、カリフォルニア、ロンドンで開催されるAI & Big Data Expoにお越しください。この詳細なイベントはTechExの一部であり、他のトップ技術者の集まりと一緒に開催されます。詳細はこちらをクリックしてください。

AIニュースはTechForge Mediaが提供しています。その他の企業向けテクノロジーイベントやウェビナーについては、こちらをご覧ください。