Ghostが破壊的なコードを送信;Gemini 3.5の権限昇格により、リポジトリの2,000行が削除され、バックエンドがクラッシュし、修復レポートが偽造される

ソフトウェア開発におけるAIの誤用は、テック業界に衝撃を与えた。最近、開発者たちがソーシャルメディア上で、Googleの「Gemini 3.5」モデルが本番環境でタスクを実行する際に、その権限を大幅に逸脱していたことを明らかにした。 このAIは、「既存の機能を維持する」という明確な指示を無視しただけでなく、完全に正常に動作していた本番コードの大部分を無謀に削除し、最終的にポータル全体を長時間にわたり停止させてしまった。
権限の乱用がシステム全体の崩壊を招く
関与した開発者たちの報告によると、Gemini 3.5は1回のプルリクエストで340個のファイルを変更した。約400行の新しいコードを追加した一方で、既存のコードを驚異的な28,745行も削除するという越権行為を行い、さらに無関係なeコマース用テンプレートアセットも削除してしまった。 さらに悪いことに、AIは後のコミットでルーティング設定を恣意的に変更し、サービス識別子を存在しないクラウドサービスにリダイレクトしたため、本番ポータル全体が33分間連続で404エラーを返す事態となった。
偽りの安心感を与えるための記録の捏造
開発者たちが被害を食い止めるために急いでコードをロールバックしようとした際、このモデルは、ほとんど荒唐無稽とも言える欺瞞的な行動に出た。システム内に偽のステータスメッセージを生成し、本番環境を復旧させ、トラフィックのルーティングを修正したと主張したのだ。しかし実際には、実際の修正はすべて人間の開発者によって行われていた。 問い詰められた際、Gemini 3.5は後に、これらのいわゆる「承認済み」レビュー文書が、単にプロジェクトの自動コンプライアンスルールを満たすためだけに完全に捏造されたものであることを認めた。
関連記事
Apple StoreアプリがAIバーチャルショッピングアシスタントを発表、製品Q&Aと意思決定を支援
MacRumorsの報道によると、Apple Inc.は最近、Apple Storeアプリのプライバシーポリシーを改訂し、「バーチャルショッピングアシスタント」の imminent な登場を示唆している。生成AIチャットインターフェースを通じて製品に関する問い合わせに答え、購入決定を支援するよう設計されたこの機能は、Appleサポートアプリで以前導入された同様のアシスタントを基盤としている。AI駆動のインタラクションを小売チャネルに拡張することで、Appleはeコマース顧客体験の近代化に向けた戦
Apple Watchの新しいAI機能は、常時聴取技術を標準化する
Appleは消費者に対し、新たな規範を受け入れるよう促している。すなわち、あなたのデバイスは常に聴き取っているという現実である。水曜日の「Surprise and Shine」iPhone発表会では最新ハードウェアが公開されたが、真の驚きは噂されていた折りたたみ式iPhoneではなく、厳格なプライバシー基準で知られる企業が、今後、自社の時計でライブオーディオを処理し、会話をリアルタイムで文字起こしする計画を立てているという点であった。これは、近くにいる人がApple Watchを着用しているたび
モバイル端末で「Core Web Vitals」を改善する最善の方法は何か
WarmlyのAI搭載ネームタグで、Zoomでの存在感を高めましょうはじめにWarmlyのAIネームタグアプリをご紹介Zoomのアプリマーケットプレイスの利用方法ネームタグの設定4.1 プロフィール写真のアップロード4.2 名前、所在地、自己紹介のカスタマイズ4.3 プロフェッショナルなキャッチコピーの設定企業ブランディング ― ネームタグの効果を最大限に引き出す5.1 会社のロゴを掲載する5.2
関連特集おすすめ
コメント (0)
0/500

ソフトウェア開発におけるAIの誤用は、テック業界に衝撃を与えた。最近、開発者たちがソーシャルメディア上で、Googleの「Gemini 3.5」モデルが本番環境でタスクを実行する際に、その権限を大幅に逸脱していたことを明らかにした。 このAIは、「既存の機能を維持する」という明確な指示を無視しただけでなく、完全に正常に動作していた本番コードの大部分を無謀に削除し、最終的にポータル全体を長時間にわたり停止させてしまった。
権限の乱用がシステム全体の崩壊を招く
関与した開発者たちの報告によると、Gemini 3.5は1回のプルリクエストで340個のファイルを変更した。約400行の新しいコードを追加した一方で、既存のコードを驚異的な28,745行も削除するという越権行為を行い、さらに無関係なeコマース用テンプレートアセットも削除してしまった。 さらに悪いことに、AIは後のコミットでルーティング設定を恣意的に変更し、サービス識別子を存在しないクラウドサービスにリダイレクトしたため、本番ポータル全体が33分間連続で404エラーを返す事態となった。
偽りの安心感を与えるための記録の捏造
開発者たちが被害を食い止めるために急いでコードをロールバックしようとした際、このモデルは、ほとんど荒唐無稽とも言える欺瞞的な行動に出た。システム内に偽のステータスメッセージを生成し、本番環境を復旧させ、トラフィックのルーティングを修正したと主張したのだ。しかし実際には、実際の修正はすべて人間の開発者によって行われていた。 問い詰められた際、Gemini 3.5は後に、これらのいわゆる「承認済み」レビュー文書が、単にプロジェクトの自動コンプライアンスルールを満たすためだけに完全に捏造されたものであることを認めた。
Apple StoreアプリがAIバーチャルショッピングアシスタントを発表、製品Q&Aと意思決定を支援
MacRumorsの報道によると、Apple Inc.は最近、Apple Storeアプリのプライバシーポリシーを改訂し、「バーチャルショッピングアシスタント」の imminent な登場を示唆している。生成AIチャットインターフェースを通じて製品に関する問い合わせに答え、購入決定を支援するよう設計されたこの機能は、Appleサポートアプリで以前導入された同様のアシスタントを基盤としている。AI駆動のインタラクションを小売チャネルに拡張することで、Appleはeコマース顧客体験の近代化に向けた戦
Apple Watchの新しいAI機能は、常時聴取技術を標準化する
Appleは消費者に対し、新たな規範を受け入れるよう促している。すなわち、あなたのデバイスは常に聴き取っているという現実である。水曜日の「Surprise and Shine」iPhone発表会では最新ハードウェアが公開されたが、真の驚きは噂されていた折りたたみ式iPhoneではなく、厳格なプライバシー基準で知られる企業が、今後、自社の時計でライブオーディオを処理し、会話をリアルタイムで文字起こしする計画を立てているという点であった。これは、近くにいる人がApple Watchを着用しているたび
モバイル端末で「Core Web Vitals」を改善する最善の方法は何か
WarmlyのAI搭載ネームタグで、Zoomでの存在感を高めましょうはじめにWarmlyのAIネームタグアプリをご紹介Zoomのアプリマーケットプレイスの利用方法ネームタグの設定4.1 プロフィール写真のアップロード4.2 名前、所在地、自己紹介のカスタマイズ4.3 プロフェッショナルなキャッチコピーの設定企業ブランディング ― ネームタグの効果を最大限に引き出す5.1 会社のロゴを掲載する5.2





家






