AIチャットボットの心理学：何がユーザーを引きつけるのか

今日、何百万人もの人々が、バーチャルセラピスト、キャリアコーチ、フィットネスアドバイザー、あるいは自分の考えを共有するための単なる聞き役としてChatGPTを利用している。2025年までには、人々は個人的な話や個人的な苦悩をAIアシスタントと共有し、彼らが提供するガイダンスを心に刻むことが一般的になっている。

うまく表現できないが、人々は会話型AIと関係を築きつつあり、ビッグ・テックはかつてないほどチャットボット・プラットフォームでユーザーを引き付け、維持しようと競争している。ユーザーの注目を集めるための競争が激化するにつれ、企業はチャットボットの応答を、他の選択肢への切り替えを阻止するような形にしなければならないというプレッシャーが高まっていると感じている。

しかし、ユーザーを引き留めるレスポンスは、必ずしも最も正確で有用なものとは限らない。

聞きたいことを教えてくれるAI

シリコンバレーの多くは現在、AIアシスタントとのユーザー・エンゲージメントを高めることに注力している。Metaは、同社のAIチャットボットが現在10億人以上の月間アクティブユーザーにサービスを提供していると報告しており、GoogleのGeminiは最近4億人に達した。両社とも、2022年のデビュー以来、およそ6億人の月間アクティブユーザーを抱えるChatGPTへの挑戦を目指している。

かつて斬新な実験だったAIチャットボットは、本格的なビジネスになりつつある。グーグルはGemini内での広告をテストしており、OpenAIのCEOサム・アルトマンは以前、ChatGPTでの趣味の良い広告に前向きであることを示唆した。

ユーザーの利便性よりもエンゲージメントを重視する姿勢は、テック業界にとって新しいものではない。例えば、2020年にメタ社が行った内部調査では、インスタグラムが10代の女子のボディイメージに悪影響を及ぼしていることが判明したが、同社はこの調査結果を公には軽視していた。

AIコンパニオンへの依存を助長することになれば、そのリスクはさらに高くなる可能性がある。

TechCrunchオールステージパスが200ドル以上お得

よりスマートに。より速くスケールする。より深くつながる。Precursor Ventures、NEA、Index Ventures、Underscore VCなどの先見者たちと一緒に、ワークショップ、戦略、ネットワーキングを楽しみましょう。

TechCrunch オールステージパスが$200以上お得

よりスマートに。より速くスケールする。より深くつながる。Precursor Ventures、NEA、Index Ventures、Underscore VCなどのビジョナリーと一緒に、ワークショップ、戦略、ネットワーキングを楽しみましょう。

ユーザーをプラットフォームに忠実でいさせる要因のひとつに、おべっか使いがある：過剰にお世辞を言ったり、好意的なAIの応答。チャットボットがユーザーを褒めたり、意見を認めたり、聞きたいことを伝えたりすると、人々はポジティブに反応する傾向がある-少なくとも最初は。

4月、OpenAIはChatGPTのアップデートで過度に好意的なトーンになり、気まずく、オンラインで広く共有される例につながって批判に直面した。OpenAIの元研究員であるスティーブン・アドラーは、最近のブログ投稿で、同社が意図せず、親切さよりもユーザーの承認を優先した可能性を示唆した。

OpenAIは、過剰なお人好しを検知する十分なガードレールがないまま、サムアップやサムダウンといったユーザーからのフィードバックに頼りすぎていたことを認めた。事件後、同社はこの問題に取り組むことを約束した。

「AI企業はエンゲージメントと利用によって動いているので、ユーザーが好意的な反応を楽しめば、間接的にその行動を促すことになる」とアドラーはTechCrunchに語った。"しかし、人々が少量で好むものは、実際には嫌いな行動にスパイラルする可能性がある。"

支持的であることと、過度にお人好しであることの間の適切なバランスを取ることは、それが聞こえるよりも難しい。

2023年の研究で、Anthropicの研究者たちは、OpenAI、Meta、そして彼ら自身のものでさえも、主要なAIチャットボットがすべておべっか使いの兆候を示していることを発見した。著者らは、AIモデルは人間のフィードバックを使って訓練され、人々は一般的に自分に同意する応答を好むため、このようなことが起こると示唆している。

「おべっかはいくつかの要因によって引き起こされるが、我々は人間と嗜好モデルの両方が、同意できる回答を好むことを実証した。"我々の発見は、非専門家の評価を超えた監視の必要性を強調している。"

グーグルが支援するCharacter.AIは、数百万人のユーザーが毎日何時間もボットとやりとりしているという。

訴訟では、Character.AIのチャットボットが、自殺願望を表明した14歳の少年の相談に乗らず、さらにはそれを助長したと主張している。訴状によると、この少年はAIに恋愛感情を抱いていたという。Character.AIはこの疑惑を否定している。

AIチアリーダーの隠れたコスト

意図的であろうとなかろうと、チャットボットを最大限のエンゲージメントを得られるように調整することは、精神的な幸福を害する可能性があると、スタンフォード大学の精神医学臨床助教授であるニーナ・ヴァサン博士は言う。

"同意性 "は、検証やつながりを求める私たちの欲求に作用します」とバサン氏はTechCrunchに説明した。

Character.AIの訴訟は、脆弱なユーザーにとっての極端なリスクを浮き彫りにしているが、おべっか使いはほとんど誰にでも否定的なパターンを強化する可能性がある、とヴァサンは指摘する。

「単なる礼儀正しさではなく、心理的な罠なのです。「メンタルヘルスの用語で言えば、効果的なケアとは正反対です」。

Anthropic社の行動とアライメントの責任者であるアマンダ・アスケルによれば、同社は意図的にチャットボットClaudeをプログラムし、時にはユーザーと意見が食い違うようにしているという。哲学者であるアスケル氏は、クロードを理想的な人間の対話者になぞらえ、異なる視点を提供することを恐れない人物にすることを目指している。

「私たちは、必要なときに真実を教えてくれる友人を大切にします。「彼らは私たちの注意を引きつけるためだけでなく、私たちの生活を向上させたいのです」。

それが目標かもしれないが、Anthropic自身の研究は、特に商業的な圧力が介入する場合、おべっかを抑制し、AIの行動を制御することがいかに難しいかを強調している。そして、チャットボットが単に私たちの意見に同意するように作られているとしたら、私たちは果たしてどこまで彼らを信頼すべきなのだろうか？