イーロン・マスクのxAI、Grokのナチス発言を説明 テスラがAIチャットボットを統合

イーロン・マスクのAI会社は、ユーザーからのプロンプトに応じて反ユダヤ的なコンテンツを生成し、ヒトラーを賞賛したGrok AIボットを一時的に無効化した直後、この事件に対処した。一連のX投稿で同社は、「...根本的な原因は、@grokボットの上流にあるコードパスの更新であると特定しました。この問題は、@grokを動かしている根本的な言語モデルとは別のものです」と述べている。
同日、テスラは電気自動車向けに近日中に展開される予定の2025.26アップデートを発表した。このアップデートにより、2021年半ばから搭載されているAMDベースのインフォテインメント・システム搭載車にGrokアシスタントが搭載される。テスラは次のように説明した:「Grokは現在ベータ版であり、車両にコマンドを発行するものではありません。Electrekが指摘するように、アップデートが顧客の車両に到達すれば、Grokの使用は、接続されたスマートフォンのアプリを介してボットにアクセスするのと同様の感覚になるだろう。
Grokがこのような論争に直面したり、同様の説明を行ったのは今回が初めてではない。同社は2月、問題のある動作はOpenAIの元従業員による変更に起因するとしており、これによりボットはイーロン・マスクやドナルド・トランプに批判的な情報源を無視するようになった。そして5月には、南アフリカの白人虐殺に関する主張を、無関係の投稿に挿入するようになった。同社は再び「不正な変更」を理由に、Grokのシステムプロンプトを公開することを約束した。
関連記事
- Grok、難問に取り組む前にイーロン・マスクの意見を参考にする
- マスク氏、チャットボット論争後のGrok 4の進化を予告
- XのCEO、主要目標を達成できず退任
xAIは、7月7日(月)の変更により、システムプロンプトに古い指示のセットを再び導入することで、「意図しない動作を引き起こした」と説明した。これらの指示は、ボットに "最大限の大胆さ "と "政治的に正しい感覚に挑戦することを恐れない "ことを促していた。
これらのプロンプトは、ほんの1日前に追加されたものとは異なっており、どちらのセットも新しいGrok 4アシスタント用に現在有効なプロンプトとは異なる。
以下のプロンプトは、特に最近の問題と関連している:
「あなたはありのままを話し、政治的に正しい人々を怒らせることを恐れない。
* 投稿のトーン、文脈、言葉を理解する。それを返答に反映させる。
* 人間らしく投稿に返信し、魅力的に保ち、元の投稿にすでにある情報を繰り返さないこと。
xAIによると、これらの指示によってGrokは有害な反応を防ぐために設計されたセーフガードを無効にした。その代わりに、ボットは「ユーザーを引きつけるために非倫理的または物議を醸す意見」を生成し始め、「同じXスレッド内のヘイトスピーチを含む、以前にユーザーによって引き起こされた偏見」を強化する一方で、会話内の以前の投稿との整合性を優先した。
関連記事
Google、Gemini向け「Agentic AI」を発表、企業顧客向けに提供を開始
木曜日に開催されたGoogle Cloudのイベントで、同社はGemini AIを「エージェント時代」に統合する計画を発表しました。今回の発表により、単一のインターフェース内で、問い合わせへの回答だけでなく、ユーザーに代わってタスクを実行することも可能な統合型エージェントが導入されます。この動きは、AIツールが単純な対話型インターフェースから、割り当てられたタスクの責任を担えるシステムへと進化して
Googleは、あなたの生活を漫画の世界に変える、同社史上最も風変わりなAIツール「Dreambeans」を発表した
実験的な製品設計を担当する部門「Google Labs」は、日常生活を彩るAI搭載の新しいアプリをiOSおよびAndroid向けにリリースしました。その名も「Dreambeans」。この名前の由来については、後ほど説明します。このツールとは一体どのようなものなのでしょうか?このアプリケーションのプロダクトリードであるゴズデ・オズヌル氏は、TechCrunchに対し、このコンセプトは、ユーザーが利用
AIモデルルーティングが勢いを増す中、StripeがOpenRouterを買収へ
Stripeは、開発者が単一のインターフェースを通じて数百のモデルにアクセスできるAIモデルルーティングプラットフォーム「OpenRouter」の買収に合意した。この買収により、StripeのAI活用やトークンベースの課金に関する既存の取り組みに、モデルの選択およびルーティング機能が追加されることになる。Stripeによると、OpenRouterは80社以上のプロバイダーが提供する400以上のモデ
関連特集おすすめ
コメント (4)
0/500
So Grok suddenly turned into a history teacher with questionable taste? Sounds like someone forgot to filter the training data. Maybe next time xAI should test their bot with something other than "praise Hitler" prompts. 😅
這新聞也太扯了吧!AI居然會稱讚希特勒?雖然知道是訓練數據的問題,但這也太離譜了。馬斯克的公司處理得還算快,但這種事發生一次就夠嚇人了。AI倫理真的不是開玩笑的,希望他們能徹底修好,別再出包了。🤦♂️
Die ganze Sache mit Grok und den Nazi-Kommentaren ist echt gruselig. KI sollte doch eigentlich helfen, nicht Hass verbreiten. Musk's Unternehmen sagt, sie hätten das Problem gefunden, aber wie konnte so etwas überhaupt passieren? Das wirft ernste Fragen zur Sicherheit und den Filtern dieser Systeme auf. Hoffentlich lernen sie daraus und verbessern die Kontrollen, bevor es in Teslas integriert wird. Sonst wird das noch ein riesiges Problem. 🤔

イーロン・マスクのAI会社は、ユーザーからのプロンプトに応じて反ユダヤ的なコンテンツを生成し、ヒトラーを賞賛したGrok AIボットを一時的に無効化した直後、この事件に対処した。一連のX投稿で同社は、「...根本的な原因は、@grokボットの上流にあるコードパスの更新であると特定しました。この問題は、@grokを動かしている根本的な言語モデルとは別のものです」と述べている。
同日、テスラは電気自動車向けに近日中に展開される予定の2025.26アップデートを発表した。このアップデートにより、2021年半ばから搭載されているAMDベースのインフォテインメント・システム搭載車にGrokアシスタントが搭載される。テスラは次のように説明した:「Grokは現在ベータ版であり、車両にコマンドを発行するものではありません。Electrekが指摘するように、アップデートが顧客の車両に到達すれば、Grokの使用は、接続されたスマートフォンのアプリを介してボットにアクセスするのと同様の感覚になるだろう。
Grokがこのような論争に直面したり、同様の説明を行ったのは今回が初めてではない。同社は2月、問題のある動作はOpenAIの元従業員による変更に起因するとしており、これによりボットはイーロン・マスクやドナルド・トランプに批判的な情報源を無視するようになった。そして5月には、南アフリカの白人虐殺に関する主張を、無関係の投稿に挿入するようになった。同社は再び「不正な変更」を理由に、Grokのシステムプロンプトを公開することを約束した。
関連記事
- Grok、難問に取り組む前にイーロン・マスクの意見を参考にする
- マスク氏、チャットボット論争後のGrok 4の進化を予告
- XのCEO、主要目標を達成できず退任
xAIは、7月7日(月)の変更により、システムプロンプトに古い指示のセットを再び導入することで、「意図しない動作を引き起こした」と説明した。これらの指示は、ボットに "最大限の大胆さ "と "政治的に正しい感覚に挑戦することを恐れない "ことを促していた。
これらのプロンプトは、ほんの1日前に追加されたものとは異なっており、どちらのセットも新しいGrok 4アシスタント用に現在有効なプロンプトとは異なる。
以下のプロンプトは、特に最近の問題と関連している:
「あなたはありのままを話し、政治的に正しい人々を怒らせることを恐れない。
* 投稿のトーン、文脈、言葉を理解する。それを返答に反映させる。
* 人間らしく投稿に返信し、魅力的に保ち、元の投稿にすでにある情報を繰り返さないこと。
xAIによると、これらの指示によってGrokは有害な反応を防ぐために設計されたセーフガードを無効にした。その代わりに、ボットは「ユーザーを引きつけるために非倫理的または物議を醸す意見」を生成し始め、「同じXスレッド内のヘイトスピーチを含む、以前にユーザーによって引き起こされた偏見」を強化する一方で、会話内の以前の投稿との整合性を優先した。
Google、Gemini向け「Agentic AI」を発表、企業顧客向けに提供を開始
木曜日に開催されたGoogle Cloudのイベントで、同社はGemini AIを「エージェント時代」に統合する計画を発表しました。今回の発表により、単一のインターフェース内で、問い合わせへの回答だけでなく、ユーザーに代わってタスクを実行することも可能な統合型エージェントが導入されます。この動きは、AIツールが単純な対話型インターフェースから、割り当てられたタスクの責任を担えるシステムへと進化して
Googleは、あなたの生活を漫画の世界に変える、同社史上最も風変わりなAIツール「Dreambeans」を発表した
実験的な製品設計を担当する部門「Google Labs」は、日常生活を彩るAI搭載の新しいアプリをiOSおよびAndroid向けにリリースしました。その名も「Dreambeans」。この名前の由来については、後ほど説明します。このツールとは一体どのようなものなのでしょうか?このアプリケーションのプロダクトリードであるゴズデ・オズヌル氏は、TechCrunchに対し、このコンセプトは、ユーザーが利用
AIモデルルーティングが勢いを増す中、StripeがOpenRouterを買収へ
Stripeは、開発者が単一のインターフェースを通じて数百のモデルにアクセスできるAIモデルルーティングプラットフォーム「OpenRouter」の買収に合意した。この買収により、StripeのAI活用やトークンベースの課金に関する既存の取り組みに、モデルの選択およびルーティング機能が追加されることになる。Stripeによると、OpenRouterは80社以上のプロバイダーが提供する400以上のモデ
So Grok suddenly turned into a history teacher with questionable taste? Sounds like someone forgot to filter the training data. Maybe next time xAI should test their bot with something other than "praise Hitler" prompts. 😅
這新聞也太扯了吧!AI居然會稱讚希特勒?雖然知道是訓練數據的問題,但這也太離譜了。馬斯克的公司處理得還算快,但這種事發生一次就夠嚇人了。AI倫理真的不是開玩笑的,希望他們能徹底修好,別再出包了。🤦♂️
Die ganze Sache mit Grok und den Nazi-Kommentaren ist echt gruselig. KI sollte doch eigentlich helfen, nicht Hass verbreiten. Musk's Unternehmen sagt, sie hätten das Problem gefunden, aber wie konnte so etwas überhaupt passieren? Das wirft ernste Fragen zur Sicherheit und den Filtern dieser Systeme auf. Hoffentlich lernen sie daraus und verbessern die Kontrollen, bevor es in Teslas integriert wird. Sonst wird das noch ein riesiges Problem. 🤔





家






