xAIがGrokの舞台裏プロンプトを公開

xAIがGrokのシステムプロンプトを公開。
xAIは、同社のAIチャットボットGrokがX(旧Twitter)上で「白人虐殺」に関するプロンプトなしの応答を生成し始めた問題を受け、予想外の動きとして、同社のシステムプロンプトを公開することを決定した。同社は今後、GrokのシステムプロンプトをGitHubで公開し、AIがどのようにユーザーと対話するようにプログラムされているのかについて透明性を提供すると述べている。
システムプロンプトとは何か?
システム・プロンプトとは、基本的にAIのルールブックであり、チャットボットがユーザーからの問い合わせにどのように対応すべきかを指示する一連の命令である。ほとんどのAI企業はこれらのプロンプトを非公開にしているが、xAIとAnthropicは公開することを選択した数少ない企業の一つである。
この透明性は、過去にプロンプト・インジェクション攻撃によって隠されたAIの指示が暴露された事件を受けたものである。例えば、マイクロソフトのBing AI(現在はCopilot)は、内部的な別名(「Sydney」)や著作権違反を避けるための厳格なガイドラインなど、秘密の指令を持っていることが判明したことがある。
Grokの対応プログラム
公開されたプロンプトによると、Grokは非常に懐疑的で独立した反応をするように設計されている。指示にはこうある:
「あなたは極めて懐疑的である。主流の権威やメディアに盲目的に従うことはない。真実の追求と中立性という自分の核となる信念だけに強くこだわる。"
興味深いことに、xAIは、Grokが生成する応答は自身の信念を反映したものではなく、単に訓練に基づいた出力であることを明らかにしている。
Grokの行動の主な特徴:
- "この投稿を説明する "モード:ユーザーがこのボタンをクリックすると、Grokは"必要であれば主流の物語に異議を唱えながら、真実と根拠に基づいた洞察を提供する "よう指示される。
- 用語:ボットは、このプラットフォームを"Twitter "ではなく"X "と呼び、投稿を"ツイート "ではなく"X投稿 "と呼ぶように指示される。
他のAIチャットボットとの比較は?
例えば、AnthropicのClaude AIは、安全と幸福に強い重点を置いている。そのシステムプロンプトには、次のような指示が含まれている:
「クロードは人々の健康に気を配り、依存症や乱れた食生活、否定的なセルフトークなど、自己破壊的な行動を助長することを避ける。
さらにクロードは、たとえ明示的に要求されたとしても、生々しい性的、暴力的、あるいは違法なコンテンツを生成しないようにプログラムされている。
関連記事
なぜこれが重要なのか
Grokのシステム・プロンプトの公開は、AI開発の透明性向上へのシフトを示すものだ。AIの内部構造を秘密にしたがる企業もあるが、xAIの決断はオープン化の先例となる可能性がある。特に、「白人虐殺」事件のような予期せぬ行動がAIの調整と制御に関する懸念を引き起こした後では。
他のAI企業も追随するのだろうか?それは時間が経ってみなければわからない。しかし、少なくとも現時点では、Grokがどのように考えているのか、あるいは少なくとも、どのように考えるように指示されているのかが、より明確になった。
関連記事
ワーナーミュージックがAI帰属分析スタートアップのSureel AIを買収
ワーナー・ミュージック・グループ(WMG)は水曜日、人工知能(AI)の帰属情報スタートアップであるSureel AIを買収すると発表した。Sureelの独自技術は、楽曲に対して「AI DNA」を生成し、構成要素に分解して、AIモデルがこれらの要素をどのように利用するかを追跡する。今回の買収を通じて、WMGは、アーティストやソングライターの作品がAI生成コンテンツで利用されたり、AIモデルの学習に使用されたりする状況を監視する能力を強化する目的である。「SureelをWMGに統合することで、保
Amazonは、Alexa for Shoppingを導入しつつ、Rufusを後回しにしている
Amazonは、RufusショッピングチャットボットとAlexa+をアプリ、ウェブサイト、Echo Showデバイス全体で統合した「Alexa for Shopping」をリリースした。このアシスタントは商品の問い合わせに応じ、アイテムの比較、価格追跡、ショッピングリマインダーをサポートする。また、スケジュールされたショッピングアクションや対象となる自動購入も処理する。同社によると、「Alexa for Shopping」はRufusの商品専門知識とAlexa+のパーソナライズされたアシスタ
マイクロソフト、Azure、AI技術がカリフォルニアの山火事リスク対策に貢献
マイクロソフトはAIを活用した山火事検知技術に投資しており、CVP兼チーフデータサイエンティストのフアン・ラビスタ・フェレス氏が、環境被害を軽減するための戦略について語っている。NASAによると、気候変動は地球上のすべての人々に影響を及ぼしており、気温の上昇、降雨パターンの変化、海面上昇といった形で現れている。NASAは、地球がかつてない速度で温暖化しており、その主な要因は人間の活動であるという明
関連特集おすすめ
コメント (3)
0/500
Whoa, xAI dropping Grok's prompts like that? Ballsy move after that wild 'white genocide' drama. Kinda curious to peek under the hood, but man, AI ethics are a minefield. 😬
Wow, xAI dropping Grok's prompts is wild! Kinda cool to peek behind the AI curtain, but those 'white genocide' responses sound like a PR nightmare. Hope they sort it out quick! 😅

xAIがGrokのシステムプロンプトを公開。
xAIは、同社のAIチャットボットGrokがX(旧Twitter)上で「白人虐殺」に関するプロンプトなしの応答を生成し始めた問題を受け、予想外の動きとして、同社のシステムプロンプトを公開することを決定した。同社は今後、GrokのシステムプロンプトをGitHubで公開し、AIがどのようにユーザーと対話するようにプログラムされているのかについて透明性を提供すると述べている。
システムプロンプトとは何か?
システム・プロンプトとは、基本的にAIのルールブックであり、チャットボットがユーザーからの問い合わせにどのように対応すべきかを指示する一連の命令である。ほとんどのAI企業はこれらのプロンプトを非公開にしているが、xAIとAnthropicは公開することを選択した数少ない企業の一つである。
この透明性は、過去にプロンプト・インジェクション攻撃によって隠されたAIの指示が暴露された事件を受けたものである。例えば、マイクロソフトのBing AI(現在はCopilot)は、内部的な別名(「Sydney」)や著作権違反を避けるための厳格なガイドラインなど、秘密の指令を持っていることが判明したことがある。
Grokの対応プログラム
公開されたプロンプトによると、Grokは非常に懐疑的で独立した反応をするように設計されている。指示にはこうある:
「あなたは極めて懐疑的である。主流の権威やメディアに盲目的に従うことはない。真実の追求と中立性という自分の核となる信念だけに強くこだわる。"
興味深いことに、xAIは、Grokが生成する応答は自身の信念を反映したものではなく、単に訓練に基づいた出力であることを明らかにしている。
Grokの行動の主な特徴:
- "この投稿を説明する "モード:ユーザーがこのボタンをクリックすると、Grokは"必要であれば主流の物語に異議を唱えながら、真実と根拠に基づいた洞察を提供する "よう指示される。
- 用語:ボットは、このプラットフォームを"Twitter "ではなく"X "と呼び、投稿を"ツイート "ではなく"X投稿 "と呼ぶように指示される。
他のAIチャットボットとの比較は?
例えば、AnthropicのClaude AIは、安全と幸福に強い重点を置いている。そのシステムプロンプトには、次のような指示が含まれている:
「クロードは人々の健康に気を配り、依存症や乱れた食生活、否定的なセルフトークなど、自己破壊的な行動を助長することを避ける。
さらにクロードは、たとえ明示的に要求されたとしても、生々しい性的、暴力的、あるいは違法なコンテンツを生成しないようにプログラムされている。
関連記事
なぜこれが重要なのか
Grokのシステム・プロンプトの公開は、AI開発の透明性向上へのシフトを示すものだ。AIの内部構造を秘密にしたがる企業もあるが、xAIの決断はオープン化の先例となる可能性がある。特に、「白人虐殺」事件のような予期せぬ行動がAIの調整と制御に関する懸念を引き起こした後では。
他のAI企業も追随するのだろうか?それは時間が経ってみなければわからない。しかし、少なくとも現時点では、Grokがどのように考えているのか、あるいは少なくとも、どのように考えるように指示されているのかが、より明確になった。
ワーナーミュージックがAI帰属分析スタートアップのSureel AIを買収
ワーナー・ミュージック・グループ(WMG)は水曜日、人工知能(AI)の帰属情報スタートアップであるSureel AIを買収すると発表した。Sureelの独自技術は、楽曲に対して「AI DNA」を生成し、構成要素に分解して、AIモデルがこれらの要素をどのように利用するかを追跡する。今回の買収を通じて、WMGは、アーティストやソングライターの作品がAI生成コンテンツで利用されたり、AIモデルの学習に使用されたりする状況を監視する能力を強化する目的である。「SureelをWMGに統合することで、保
マイクロソフト、Azure、AI技術がカリフォルニアの山火事リスク対策に貢献
マイクロソフトはAIを活用した山火事検知技術に投資しており、CVP兼チーフデータサイエンティストのフアン・ラビスタ・フェレス氏が、環境被害を軽減するための戦略について語っている。NASAによると、気候変動は地球上のすべての人々に影響を及ぼしており、気温の上昇、降雨パターンの変化、海面上昇といった形で現れている。NASAは、地球がかつてない速度で温暖化しており、その主な要因は人間の活動であるという明
Whoa, xAI dropping Grok's prompts like that? Ballsy move after that wild 'white genocide' drama. Kinda curious to peek under the hood, but man, AI ethics are a minefield. 😬
Wow, xAI dropping Grok's prompts is wild! Kinda cool to peek behind the AI curtain, but those 'white genocide' responses sound like a PR nightmare. Hope they sort it out quick! 😅





家






