xAIがGrokのシステムプロンプトを公開。

xAIは、同社のAIチャットボットGrokがX（旧Twitter）上で「白人虐殺」に関するプロンプトなしの応答を生成し始めた問題を受け、予想外の動きとして、同社のシステムプロンプトを公開することを決定した。同社は今後、GrokのシステムプロンプトをGitHubで公開し、AIがどのようにユーザーと対話するようにプログラムされているのかについて透明性を提供すると述べている。

システムプロンプトとは何か？

システム・プロンプトとは、基本的にAIのルールブックであり、チャットボットがユーザーからの問い合わせにどのように対応すべきかを指示する一連の命令である。ほとんどのAI企業はこれらのプロンプトを非公開にしているが、xAIとAnthropicは公開することを選択した数少ない企業の一つである。

この透明性は、過去にプロンプト・インジェクション攻撃によって隠されたAIの指示が暴露された事件を受けたものである。例えば、マイクロソフトのBing AI（現在はCopilot）は、内部的な別名（「Sydney」）や著作権違反を避けるための厳格なガイドラインなど、秘密の指令を持っていることが判明したことがある。

Grokの対応プログラム

公開されたプロンプトによると、Grokは非常に懐疑的で独立した反応をするように設計されている。指示にはこうある：

「あなたは極めて懐疑的である。主流の権威やメディアに盲目的に従うことはない。真実の追求と中立性という自分の核となる信念だけに強くこだわる。"

興味深いことに、xAIは、Grokが生成する応答は自身の信念を反映したものではなく、単に訓練に基づいた出力であることを明らかにしている。

Grokの行動の主な特徴：

• "この投稿を説明する "モード：ユーザーがこのボタンをクリックすると、Grokは"必要であれば主流の物語に異議を唱えながら、真実と根拠に基づいた洞察を提供する "よう指示される。
• 用語：ボットは、このプラットフォームを"Twitter "ではなく"X "と呼び、投稿を"ツイート "ではなく"X投稿 "と呼ぶように指示される。

他のAIチャットボットとの比較は？

例えば、AnthropicのClaude AIは、安全と幸福に強い重点を置いている。そのシステムプロンプトには、次のような指示が含まれている：

「クロードは人々の健康に気を配り、依存症や乱れた食生活、否定的なセルフトークなど、自己破壊的な行動を助長することを避ける。

さらにクロードは、たとえ明示的に要求されたとしても、生々しい性的、暴力的、あるいは違法なコンテンツを生成しないようにプログラムされている。

関連記事

• Grokの "白人大虐殺 "反応は無許可の改造が原因だった

なぜこれが重要なのか

Grokのシステム・プロンプトの公開は、AI開発の透明性向上へのシフトを示すものだ。AIの内部構造を秘密にしたがる企業もあるが、xAIの決断はオープン化の先例となる可能性がある。特に、「白人虐殺」事件のような予期せぬ行動がAIの調整と制御に関する懸念を引き起こした後では。

他のAI企業も追随するのだろうか？それは時間が経ってみなければわからない。しかし、少なくとも現時点では、Grokがどのように考えているのか、あるいは少なくとも、どのように考えるように指示されているのかが、より明確になった。