AIの使用を強化するための5つの迅速なヒントを改善するためのより良い結果と安全性

今日の世界では、人工知能（AI）を避けることが日々難しくなっています。例えば、Google検索では、AIが生成した応答が表示されるようになりました。AIが私たちの生活に欠かせない存在となる中、その安全な利用を確保することがこれまで以上に重要です。では、AIユーザーとして、生成AI（Gen AI）の世界をどのように安全にナビゲートできるでしょうか？

また：AIツールの99％を無視すべき理由と、私が毎日使っている4つのツール

SXSWでは、カーネギーメロン大学のコンピュータサイエンス学部の助教授であるマールテン・サップとシェリー・トンシュアン・ウーが、ChatGPTのような人気のGen AIツールの背後にある技術である大規模言語モデル（LLM）の限界について光を当てました。彼らはまた、これらの技術をより効果的に使用する方法についてのヒントも共有しました。

「それらは素晴らしく、どこにでもありますが、実際には完璧とは程遠い」とサップは指摘しました。

日常のAIとのやり取りに施せる調整は簡単です。それらはAIの欠点を防ぎ、AIチャットボットからより正確な応答を引き出すのに役立ちます。以下は、専門家が推奨するAIの使用を最適化するための5つの戦略です。

1. AIにより明確な指示を与える

AIの会話能力は、ユーザーが友達と話すように曖昧で簡潔なプロンプトを与えることが多いです。問題は、このような最小限のガイダンスでは、AIがあなたのテキストを誤解する可能性があり、行間を読む人間の能力が欠けていることです。

セッション中に、サップとウーは、チャットボットに100万冊の本を読んでいると伝えた例を示しました。AIはそれを誇張と理解せず、文字通りに受け取りました。サップの研究によると、現代のLLMは非文字通りの参照に対して50％以上の確率で苦戦します。

また：AIはアーティストから盗まずに創造性を超強化できるか？

これを回避するには、プロンプトをより明確にし、誤解の余地を減らしてください。ウーは、チャットボットをアシスタントのように扱い、明確で詳細な指示を与えることを提案しています。プロンプトを作成するのに少し努力が必要かもしれませんが、結果はあなたのニーズにより適合します。

2. 応答を再確認する

AIチャットボットを使ったことがあるなら、「ハルシネーション」—AIが間違った情報を吐き出す現象—に馴染みがあるでしょう。これには、事実的に間違った回答から、与えられた情報を誤って表現したり、ユーザーの誤った発言に同意したりするものまで含まれます。

サップは、日常のシナリオではハルシネーションが1％から25％の確率で発生し、法律や医療などの専門分野では50％を超えると指摘しました。これらのエラーはもっともらしく聞こえるため、間違っている場合でも見抜くのが難しいです。

また：AIエージェントは単なるアシスタントではない：今日の仕事の未来を変える方法

AIモデルは、間違っていても「私は自信があります」といったフレーズで応答を補強することがよくあります。引用された研究論文によると、AIモデルは47％の確率で自信を持って間違っていました。

ハルシネーションを防ぐには、AIの応答を常に再確認してください。信頼できる外部の情報源と照らし合わせたり、質問を言い換えてAIの応答が一貫しているか確認してください。自分の専門知識の範囲内のトピックに留まれば、エラーを発見しやすくなります。

3. 大切なデータを非公開に保つ

Gen AIツールは膨大なデータセットでトレーニングされ、改善のために新しいデータから学び続けます。問題は、これらのモデルがトレーニングデータを応答に吐き出す可能性があり、あなたの個人情報が他人に公開されるリスクがあることです。ウェブベースのアプリケーションを使用する際には、データがクラウドに送信されて処理されるため、セキュリティリスクもあります。

また：この新しいAIベンチマークは、モデルがどの程度嘘をつくかを測定します

良好なAI衛生を保つには、LLMに機密情報や個人データを共有しないようにしてください。個人データを使用する必要がある場合は、編集することを検討してください。ChatGPTを含む多くのAIツールは、データ収集をオプトアウトするオプションを提供しており、機密情報を使用していなくても賢い選択です。

4. LLMについて話す方法に注意する

AIの会話的な性質は、ユーザーがその能力を過大評価し、時にはこれらのシステムに人間の特性を帰属させることにつながります。この擬人化は、AIに過剰な責任やデータを信頼してしまう可能性があるため危険です。

また：OpenAIの新しいAIエージェントツールがコーディングの方法を変える理由

これに対抗するために、サップはAIモデルを人間の言葉で表現しないようにアドバイスしています。「モデルはあなたがバランスの取れた応答を望んでいると考えます」の代わりに、「モデルはトレーニングデータに基づいてバランスの取れた応答を生成するように設計されています」と言うべきです。

5. LLMを使用するタイミングを慎重に考える

LLMは多用途に見えますが、すべてのタスクに最適な解決策とは限りません。利用可能なベンチマークは、ユーザーとLLMのインタラクションのほんの一部しかカバーしていません。

また：プレミアムAIツールでさえニュースを歪め、リンクを捏造します—これが最悪です

さらに、LLMは人種差別や西洋中心の視点などのバイアスを示す可能性があり、特定の用途には不適切です。

LLMを効果的に使用するには、その適用について慎重に考えてください。LLMがあなたのニーズに適切なツールかどうかを評価し、特定のタスクに最適なモデルを選択してください。

• AIに関するさらなるストーリーを知りたいですか？毎週のニュースレターInnovationに登録してください。