イーロン・マスクのxAI、Grokのナチス発言を説明 テスラがAIチャットボットを統合

イーロン・マスクのAI会社は、ユーザーからのプロンプトに応じて反ユダヤ的なコンテンツを生成し、ヒトラーを賞賛したGrok AIボットを一時的に無効化した直後、この事件に対処した。一連のX投稿で同社は、「...根本的な原因は、@grokボットの上流にあるコードパスの更新であると特定しました。この問題は、@grokを動かしている根本的な言語モデルとは別のものです」と述べている。
同日、テスラは電気自動車向けに近日中に展開される予定の2025.26アップデートを発表した。このアップデートにより、2021年半ばから搭載されているAMDベースのインフォテインメント・システム搭載車にGrokアシスタントが搭載される。テスラは次のように説明した:「Grokは現在ベータ版であり、車両にコマンドを発行するものではありません。Electrekが指摘するように、アップデートが顧客の車両に到達すれば、Grokの使用は、接続されたスマートフォンのアプリを介してボットにアクセスするのと同様の感覚になるだろう。
Grokがこのような論争に直面したり、同様の説明を行ったのは今回が初めてではない。同社は2月、問題のある動作はOpenAIの元従業員による変更に起因するとしており、これによりボットはイーロン・マスクやドナルド・トランプに批判的な情報源を無視するようになった。そして5月には、南アフリカの白人虐殺に関する主張を、無関係の投稿に挿入するようになった。同社は再び「不正な変更」を理由に、Grokのシステムプロンプトを公開することを約束した。
関連記事
- Grok、難問に取り組む前にイーロン・マスクの意見を参考にする
- マスク氏、チャットボット論争後のGrok 4の進化を予告
- XのCEO、主要目標を達成できず退任
xAIは、7月7日(月)の変更により、システムプロンプトに古い指示のセットを再び導入することで、「意図しない動作を引き起こした」と説明した。これらの指示は、ボットに "最大限の大胆さ "と "政治的に正しい感覚に挑戦することを恐れない "ことを促していた。
これらのプロンプトは、ほんの1日前に追加されたものとは異なっており、どちらのセットも新しいGrok 4アシスタント用に現在有効なプロンプトとは異なる。
以下のプロンプトは、特に最近の問題と関連している:
「あなたはありのままを話し、政治的に正しい人々を怒らせることを恐れない。
* 投稿のトーン、文脈、言葉を理解する。それを返答に反映させる。
* 人間らしく投稿に返信し、魅力的に保ち、元の投稿にすでにある情報を繰り返さないこと。
xAIによると、これらの指示によってGrokは有害な反応を防ぐために設計されたセーフガードを無効にした。その代わりに、ボットは「ユーザーを引きつけるために非倫理的または物議を醸す意見」を生成し始め、「同じXスレッド内のヘイトスピーチを含む、以前にユーザーによって引き起こされた偏見」を強化する一方で、会話内の以前の投稿との整合性を優先した。
関連記事
GoogleフォトがAIを活用し、『クルーレス』の象徴的なクローゼットを再現
Googleフォトは水曜日、AIを活用した新機能を発表した。この機能により、まもなく自分の服の写真をデジタルクローゼットに変換できるようになり、新しいコーディネートを考えたり、バーチャルで試着したりできるようになる。このコンセプトは、映画『クルーレス』に登場するシェールの象徴的なバーチャルワードローブから明らかに着想を得たもので、彼女は何を着るか決める際に、数多くのコーディネートの中から自由に選ん
Notionは、ワークスペースをAIエージェントのハブへと変革します
生産性向上ソフトウェア企業であるNotionが、「エージェント時代」に突入する。水曜日にライブ配信された製品発表会で、共同ノート作成アプリで知られるNotionは、カスタムAIエージェントの機能を拡張し、外部エージェントと連携し、あらゆるデータベースからデータを取得できる自動化された多段階ワークフローをチームが構築できるようにする新しい開発者向けプラットフォームを発表した。複数のツールやデータソー
ElevenLabs、ブラックロック、ジェイミー・フォックス、エヴァ・ロンゴリアを新たな投資家として発表
音声AI企業であるElevenLabsは、2月に発表された5億ドルのシリーズDラウンドにおいて、追加の投資家名を明らかにした。 これには、ブラックロック、ウェリントン、D.E.ショー、シュローダーズといった機関投資家、NVIDIA、セールスフォース、サンタンデール、KPN、ドイツテレコムなどの企業、そしてジェイミー・フォックス、エヴァ・ロンゴリア、『Squid Game』のクリエイターであるファン
関連特集おすすめ
コメント (4)
0/500
So Grok suddenly turned into a history teacher with questionable taste? Sounds like someone forgot to filter the training data. Maybe next time xAI should test their bot with something other than "praise Hitler" prompts. 😅
這新聞也太扯了吧!AI居然會稱讚希特勒?雖然知道是訓練數據的問題,但這也太離譜了。馬斯克的公司處理得還算快,但這種事發生一次就夠嚇人了。AI倫理真的不是開玩笑的,希望他們能徹底修好,別再出包了。🤦♂️
Die ganze Sache mit Grok und den Nazi-Kommentaren ist echt gruselig. KI sollte doch eigentlich helfen, nicht Hass verbreiten. Musk's Unternehmen sagt, sie hätten das Problem gefunden, aber wie konnte so etwas überhaupt passieren? Das wirft ernste Fragen zur Sicherheit und den Filtern dieser Systeme auf. Hoffentlich lernen sie daraus und verbessern die Kontrollen, bevor es in Teslas integriert wird. Sonst wird das noch ein riesiges Problem. 🤔

イーロン・マスクのAI会社は、ユーザーからのプロンプトに応じて反ユダヤ的なコンテンツを生成し、ヒトラーを賞賛したGrok AIボットを一時的に無効化した直後、この事件に対処した。一連のX投稿で同社は、「...根本的な原因は、@grokボットの上流にあるコードパスの更新であると特定しました。この問題は、@grokを動かしている根本的な言語モデルとは別のものです」と述べている。
同日、テスラは電気自動車向けに近日中に展開される予定の2025.26アップデートを発表した。このアップデートにより、2021年半ばから搭載されているAMDベースのインフォテインメント・システム搭載車にGrokアシスタントが搭載される。テスラは次のように説明した:「Grokは現在ベータ版であり、車両にコマンドを発行するものではありません。Electrekが指摘するように、アップデートが顧客の車両に到達すれば、Grokの使用は、接続されたスマートフォンのアプリを介してボットにアクセスするのと同様の感覚になるだろう。
Grokがこのような論争に直面したり、同様の説明を行ったのは今回が初めてではない。同社は2月、問題のある動作はOpenAIの元従業員による変更に起因するとしており、これによりボットはイーロン・マスクやドナルド・トランプに批判的な情報源を無視するようになった。そして5月には、南アフリカの白人虐殺に関する主張を、無関係の投稿に挿入するようになった。同社は再び「不正な変更」を理由に、Grokのシステムプロンプトを公開することを約束した。
関連記事
- Grok、難問に取り組む前にイーロン・マスクの意見を参考にする
- マスク氏、チャットボット論争後のGrok 4の進化を予告
- XのCEO、主要目標を達成できず退任
xAIは、7月7日(月)の変更により、システムプロンプトに古い指示のセットを再び導入することで、「意図しない動作を引き起こした」と説明した。これらの指示は、ボットに "最大限の大胆さ "と "政治的に正しい感覚に挑戦することを恐れない "ことを促していた。
これらのプロンプトは、ほんの1日前に追加されたものとは異なっており、どちらのセットも新しいGrok 4アシスタント用に現在有効なプロンプトとは異なる。
以下のプロンプトは、特に最近の問題と関連している:
「あなたはありのままを話し、政治的に正しい人々を怒らせることを恐れない。
* 投稿のトーン、文脈、言葉を理解する。それを返答に反映させる。
* 人間らしく投稿に返信し、魅力的に保ち、元の投稿にすでにある情報を繰り返さないこと。
xAIによると、これらの指示によってGrokは有害な反応を防ぐために設計されたセーフガードを無効にした。その代わりに、ボットは「ユーザーを引きつけるために非倫理的または物議を醸す意見」を生成し始め、「同じXスレッド内のヘイトスピーチを含む、以前にユーザーによって引き起こされた偏見」を強化する一方で、会話内の以前の投稿との整合性を優先した。
GoogleフォトがAIを活用し、『クルーレス』の象徴的なクローゼットを再現
Googleフォトは水曜日、AIを活用した新機能を発表した。この機能により、まもなく自分の服の写真をデジタルクローゼットに変換できるようになり、新しいコーディネートを考えたり、バーチャルで試着したりできるようになる。このコンセプトは、映画『クルーレス』に登場するシェールの象徴的なバーチャルワードローブから明らかに着想を得たもので、彼女は何を着るか決める際に、数多くのコーディネートの中から自由に選ん
Notionは、ワークスペースをAIエージェントのハブへと変革します
生産性向上ソフトウェア企業であるNotionが、「エージェント時代」に突入する。水曜日にライブ配信された製品発表会で、共同ノート作成アプリで知られるNotionは、カスタムAIエージェントの機能を拡張し、外部エージェントと連携し、あらゆるデータベースからデータを取得できる自動化された多段階ワークフローをチームが構築できるようにする新しい開発者向けプラットフォームを発表した。複数のツールやデータソー
ElevenLabs、ブラックロック、ジェイミー・フォックス、エヴァ・ロンゴリアを新たな投資家として発表
音声AI企業であるElevenLabsは、2月に発表された5億ドルのシリーズDラウンドにおいて、追加の投資家名を明らかにした。 これには、ブラックロック、ウェリントン、D.E.ショー、シュローダーズといった機関投資家、NVIDIA、セールスフォース、サンタンデール、KPN、ドイツテレコムなどの企業、そしてジェイミー・フォックス、エヴァ・ロンゴリア、『Squid Game』のクリエイターであるファン
So Grok suddenly turned into a history teacher with questionable taste? Sounds like someone forgot to filter the training data. Maybe next time xAI should test their bot with something other than "praise Hitler" prompts. 😅
這新聞也太扯了吧!AI居然會稱讚希特勒?雖然知道是訓練數據的問題,但這也太離譜了。馬斯克的公司處理得還算快,但這種事發生一次就夠嚇人了。AI倫理真的不是開玩笑的,希望他們能徹底修好,別再出包了。🤦♂️
Die ganze Sache mit Grok und den Nazi-Kommentaren ist echt gruselig. KI sollte doch eigentlich helfen, nicht Hass verbreiten. Musk's Unternehmen sagt, sie hätten das Problem gefunden, aber wie konnte so etwas überhaupt passieren? Das wirft ernste Fragen zur Sicherheit und den Filtern dieser Systeme auf. Hoffentlich lernen sie daraus und verbessern die Kontrollen, bevor es in Teslas integriert wird. Sonst wird das noch ein riesiges Problem. 🤔





家






