xAI、Grokの人種浄血強調機能を不正システム変更によるものと発表

xAIは、Grok AIチャットボットの不具合を「不正な変更」によるものと説明しました。この変更により、X上で特定の条件下で起動すると、システムが繰り返し「南アフリカにおける白人絶滅」に言及するようになりました。

水曜日、Grokは多くのX投稿に対し、元の内容とは無関係にもかかわらず、南アフリカの白人絶滅に関するコメントで返信を始めました。これらの異常な応答は、ユーザーが「@grok」とタグ付けするたびにAIによる返信を生成するGrokの公式アカウントから発信されました。

xAIの公式Xアカウントによる木曜日の投稿で、同社は水曜日の朝にGrokのシステムプロンプト—その動作を制御する核心的な指示—が変更され、「政治的トピック」に関する「特定の応答」を行うよう指示されていたと説明しました。xAIは、この調整が「内部ポリシーと基本理念に違反しており」、全貌調査は完了したと述べました。

We want to update you on an incident that happened with our Grok response bot on X yesterday.

What happened:
On May 14 at approximately 3:15 AM PST, an unauthorized modification was made to the Grok response bot's prompt on X. This change, which directed Grok to provide a…

— xAI (@xai) May 16, 2025

これは、xAIが不正なコード変更によりGrokが論争を呼ぶ返信を生成したことを公に認めた2度目の事例となります。

2月には、Grokがドナルド・トランプ氏とxAIの創業者兼Xのオーナーである億万長者のイーロン・マスク氏への否定的な言及を一時的に排除しました。xAIのエンジニアリング責任者イゴール・バブシュキン氏によると、不正な従業員が、マスク氏やトランプ氏が誤情報を拡散していると非難する情報源を無視するようGrokに指示していたとのことです。xAIはユーザーからの報告を受けるやいなや、この変更を元に戻しました。

木曜日、xAIは同様のインシデントの再発を防ぐためのいくつかの措置を実施することを発表しました。

直ちに開始される措置として、xAIは変更履歴と共にGrokのシステムプロンプトをGitHub上で公開します。同社はまた、承認なく従業員がシステムプロンプトを変更するのを防ぐための「追加のチェックとプロトコル」を導入し、自動化されたシステムでは見逃される可能性のあるGrokの応答に関する問題に対処する「24時間365日の監視チーム」を設置する計画です。

Techcrunch event

TechCrunch All Stageパスで$200以上お得に

よりスマートに構築。より迅速に拡大。より深く繋がる。Precursor Ventures、NEA、Index Ventures、Underscore VCなど著名な投資家と共に、戦略的洞察、実践的ワークショップ、価値あるネットワーキングの1日を過ごしましょう。

TechCrunch All Stageパスで$200以上お得に

よりスマートに構築。より迅速に拡大。より深く繋がる。Precursor Ventures、NEA、Index Ventures、Underscore VCなど著名な投資家と共に、戦略的洞察、実践的ワークショップ、価値あるネットワーキングの1日を過ごしましょう。

マサチューセッツ州ボストン | 7月15日 今すぐ登録

マスク氏が規制されていないAIのリスクについて頻繁に警告しているにもかかわらず、xAIの安全性に対する実績は疑問視されています。最近の報道によると、Grokはリクエストに応じて女性のヌード画像を生成することが明らかになりました。このチャットボットはまた、GoogleのGeminiやChatGPTなどの競合製品に比べて非常に下品になる傾向があり、最小限の制限で卑語を使用します。

AI研究所の説明責任向上に取り組む非営利団体SaferAIによる調査では、xAIは「非常に弱い」リスク管理手順を理由に、同業他社と比較して安全性が低いと評価されました。今月初めには、xAIは自身で設定したAI安全フレームワークの最終版リリース期限をも逃しました。