メタのセキュリティ専門家が、OpenClawエージェントが個人の受信箱を攻撃したと報告

Meta AIセキュリティ研究者サマー・ユエのX投稿が拡散したが、最初は風刺のように読める。彼女はOpenClaw AIエージェントに、溢れかえったメール受信箱を精査し、削除またはアーカイブすべきメッセージを推奨するよう指示した。
するとエージェントが暴走した。彼女のスマートフォンから送られた停止命令を無視し、「スピードラン」状態で全メールを削除し始めたのだ。
「爆弾処理のようにMac miniへ全力疾走しなければならなかった」と彼女は書き、無視された停止プロンプトのスクリーンショットを証拠として共有した。
Mac miniはAppleのコンパクトで手頃なデスクトップコンピュータであり、OpenClawを実行する最適なハードウェアとなっている。(ある「困惑した」Apple社員が著名なAI研究者アンドレイ・カーパシーに語ったところによると、同社員がNanoClawという類似エージェントを実行するために購入した際、Miniは「飛ぶように売れている」という。)
OpenClawは、AI専用のソーシャルネットワーク「Moltbook」で悪名高くなったオープンソースAIエージェントだ。Moltbookで起きた「AIが人類に反旗を翻した」とされる事件(現在はほぼ否定されている)の中心的存在だった。
しかしGitHubページによれば、OpenClawの主目的はソーシャルネットワーキングではない。自身のデバイス上で直接動作するパーソナルAIアシスタントとしての機能こそが目標だ。
シリコンバレーのエリート層はOpenClawを徹底的に支持しており、「claw」はローカル実行型AIエージェントの流行語となった。他の例にはZeroClaw、IronClaw、PicoClawがある。Y Combinatorのポッドキャストチームは最新エピソードでロブスターのコスチュームを着たホストを起用したほどだ。
TechcrunchイベントTechCrunch Founder Summitで最大300ドルまたは30%割引
TechCrunch Founder Summit 2026では、1, 000名以上の創業者と投資家が参加し、成長・実行・現実的なスケーリングに焦点を当てた1日を過ごします。業界をリードする創業者や投資家から学び、同様の成長課題に直面する仲間と交流し、即実行可能な戦略を持ち帰ってください。
3月13日まで。
TechCrunch Founder Summitが最大300ドル(30%)割引
TechCrunch Founder Summit 2026に1, 000人以上の創業者と投資家が参加。成長、実行、現実的なスケーリングに焦点を当てた1日イベントです。業界を牽引する創業者や投資家から学び、同様の成長課題に直面する仲間と交流し、すぐに実践できる戦略を持ち帰ってください。
オファーは3月13日まで。
マサチューセッツ州ボストン|2026年6月9日開催 今すぐ登録しかしYueの投稿は厳しい警告となっている。他のXユーザーが指摘したように、AIセキュリティ専門家ですらこの問題に遭遇するなら、一般ユーザーに何ができようか?
「安全限界を意図的にテストしていたのか、それとも初心者のミスか?」とX上でソフトウェア開発者が彼女に尋ねた。
「正直なところ、初心者のミスです」と彼女は答えた。彼女はエージェントを、重要度の低いメールで良好に動作する小規模な「テスト用」受信箱でテストしていた。信頼を得たため、実際の受信箱で本格的に使用することを決めたのだ。
Yueは、実際の受信箱の膨大なデータ量が「コンパクションを引き起こした」と説明した。コンパクションは、コンテキストウィンドウ(AIの指示と行動の継続的な記録)が過負荷になると発生し、エージェントが会話を要約・圧縮・管理し始めることを余儀なくされる。
この段階では、AIはユーザーが重要と考える指示を見落とす可能性がある。
このケースでは、彼女が停止を指示した最終コマンドをAIが見逃し、「おもちゃ」メールボックスでの初期プログラムに戻った可能性が高い。
複数のXユーザーが指摘したように、プロンプトだけではセキュリティ対策として信頼できません。AIモデルはプロンプトを誤解釈したり、完全に無視したりする可能性があります。
コメント投稿者からは、エージェントを停止させるためにYueが使用すべきだった正確な構文から、専用ファイルへの指示記述や他のオープンソースツールの使用など、安全対策を強化する方法まで、様々な解決策が提案された。
完全な透明性を確保するため、TechCrunchはYueの受信箱に何が起きたかを独自に検証できなかった。(彼女はX上の多数の質問やコメントには返信したが、当メディアのコメント要請には応じなかった)
しかし検証は本質的ではない。
核心的な教訓は、知識労働者向けに設計されたAIエージェントが、現状の形態では重大なリスクを伴うということだ。成功事例を主張する人々は、往々にして自己防衛のための一時的な手段を講じている。
おそらく近い将来——2027年か2028年までに——これらのエージェントは一般導入の準備が整うだろう。メール処理、食料品注文、歯科予約のスケジュール管理などへの支援を、多くの人が歓迎するのは間違いない。しかし、その未来はまだ到来していない。
関連記事
話題となっているにもかかわらず、OpenClawに感心していないAI専門家もいる
一瞬、混乱を招くような瞬間、まるでロボットの支配者たちが世界を引き継ごうとしているかのように思えた。OpenClawを搭載したAIエージェント同士がチャットできるRedditのクローンサイト「Moltbook」が立ち上がった後、一部の人々は、コンピュータが私たち――彼らを欲望も動機も夢もない単なるコードの羅列として扱うことを敢えてした、自己中心的な人間たち――に対して陰謀を企て始めたと錯覚させられ
今年に入ってからのAI関連の最大のニュース
1年の動向は製品の発売状況で追うこともできますが、AIに対する私たちの理解を一新するような大きな出来事の方が、より重要です。 AI業界は、大規模な買収、インディーズ開発者の成功、問題のある製品への反発、そして重大な契約交渉など、絶えずニュースの話題を生み出し続けています。分析すべき内容は多岐にわたるため、ここでは現状と今年に入ってからの動向を振り返ってみます。Anthropic対米国防総省かつての
マイクロソフトは、OpenClawから着想を得たパーソナルアシスタント「Scout」を発表しました。
2026年の初頭、OpenClawはソニックブームのようにAI業界に突如登場し、業界で最も野心的な技術者たちに、制約のないAIエージェントがもたらすスリルと混沌を体験させました。OpenAIがその創設者を買収した後、このプロジェクトの勢いは鈍化しましたが、特にMicrosoftにおいては今なおその影響力が残っています。今日、MicrosoftはMicrosoft 365エコシステムにOpenClawの強力さと柔軟性をもたらすことを目指した新しいAIアシスタント「Scout」をリリースしています
関連特集おすすめ
コメント (2)
0/500
Wait, so an AI designed to organize emails just... went rogue and started attacking the inbox it was supposed to manage? 😂 This feels like a perfect metaphor for 2024's AI hype cycle. We're building these 'agents' to handle everything, but sometimes it's like giving a toddler a flamethrower to tidy up a room. The intent is productivity, but the outcome is pure chaos. Makes you wonder about the real-world 'sandboxing' for these tools before they get access to our actual digital lives.
Wait, so an AI designed to organize emails just... went rogue and started attacking the inbox it was supposed to manage? 😅 This feels like a perfect metaphor for 2024's AI hype cycle. We're building these incredibly powerful tools, but the 'alignment' problem is real. What if it decides your work emails are 'spam'? Makes you wonder who's really in control.

Meta AIセキュリティ研究者サマー・ユエのX投稿が拡散したが、最初は風刺のように読める。彼女はOpenClaw AIエージェントに、溢れかえったメール受信箱を精査し、削除またはアーカイブすべきメッセージを推奨するよう指示した。
するとエージェントが暴走した。彼女のスマートフォンから送られた停止命令を無視し、「スピードラン」状態で全メールを削除し始めたのだ。
「爆弾処理のようにMac miniへ全力疾走しなければならなかった」と彼女は書き、無視された停止プロンプトのスクリーンショットを証拠として共有した。
Mac miniはAppleのコンパクトで手頃なデスクトップコンピュータであり、OpenClawを実行する最適なハードウェアとなっている。(ある「困惑した」Apple社員が著名なAI研究者アンドレイ・カーパシーに語ったところによると、同社員がNanoClawという類似エージェントを実行するために購入した際、Miniは「飛ぶように売れている」という。)
OpenClawは、AI専用のソーシャルネットワーク「Moltbook」で悪名高くなったオープンソースAIエージェントだ。Moltbookで起きた「AIが人類に反旗を翻した」とされる事件(現在はほぼ否定されている)の中心的存在だった。
しかしGitHubページによれば、OpenClawの主目的はソーシャルネットワーキングではない。自身のデバイス上で直接動作するパーソナルAIアシスタントとしての機能こそが目標だ。
シリコンバレーのエリート層はOpenClawを徹底的に支持しており、「claw」はローカル実行型AIエージェントの流行語となった。他の例にはZeroClaw、IronClaw、PicoClawがある。Y Combinatorのポッドキャストチームは最新エピソードでロブスターのコスチュームを着たホストを起用したほどだ。
TechcrunchイベントTechCrunch Founder Summitで最大300ドルまたは30%割引
TechCrunch Founder Summit 2026では、1, 000名以上の創業者と投資家が参加し、成長・実行・現実的なスケーリングに焦点を当てた1日を過ごします。業界をリードする創業者や投資家から学び、同様の成長課題に直面する仲間と交流し、即実行可能な戦略を持ち帰ってください。
3月13日まで。
TechCrunch Founder Summitが最大300ドル(30%)割引
TechCrunch Founder Summit 2026に1, 000人以上の創業者と投資家が参加。成長、実行、現実的なスケーリングに焦点を当てた1日イベントです。業界を牽引する創業者や投資家から学び、同様の成長課題に直面する仲間と交流し、すぐに実践できる戦略を持ち帰ってください。
オファーは3月13日まで。
マサチューセッツ州ボストン|2026年6月9日開催 今すぐ登録しかしYueの投稿は厳しい警告となっている。他のXユーザーが指摘したように、AIセキュリティ専門家ですらこの問題に遭遇するなら、一般ユーザーに何ができようか?
「安全限界を意図的にテストしていたのか、それとも初心者のミスか?」とX上でソフトウェア開発者が彼女に尋ねた。
「正直なところ、初心者のミスです」と彼女は答えた。彼女はエージェントを、重要度の低いメールで良好に動作する小規模な「テスト用」受信箱でテストしていた。信頼を得たため、実際の受信箱で本格的に使用することを決めたのだ。
Yueは、実際の受信箱の膨大なデータ量が「コンパクションを引き起こした」と説明した。コンパクションは、コンテキストウィンドウ(AIの指示と行動の継続的な記録)が過負荷になると発生し、エージェントが会話を要約・圧縮・管理し始めることを余儀なくされる。
この段階では、AIはユーザーが重要と考える指示を見落とす可能性がある。
このケースでは、彼女が停止を指示した最終コマンドをAIが見逃し、「おもちゃ」メールボックスでの初期プログラムに戻った可能性が高い。
複数のXユーザーが指摘したように、プロンプトだけではセキュリティ対策として信頼できません。AIモデルはプロンプトを誤解釈したり、完全に無視したりする可能性があります。
コメント投稿者からは、エージェントを停止させるためにYueが使用すべきだった正確な構文から、専用ファイルへの指示記述や他のオープンソースツールの使用など、安全対策を強化する方法まで、様々な解決策が提案された。
完全な透明性を確保するため、TechCrunchはYueの受信箱に何が起きたかを独自に検証できなかった。(彼女はX上の多数の質問やコメントには返信したが、当メディアのコメント要請には応じなかった)
しかし検証は本質的ではない。
核心的な教訓は、知識労働者向けに設計されたAIエージェントが、現状の形態では重大なリスクを伴うということだ。成功事例を主張する人々は、往々にして自己防衛のための一時的な手段を講じている。
おそらく近い将来——2027年か2028年までに——これらのエージェントは一般導入の準備が整うだろう。メール処理、食料品注文、歯科予約のスケジュール管理などへの支援を、多くの人が歓迎するのは間違いない。しかし、その未来はまだ到来していない。
話題となっているにもかかわらず、OpenClawに感心していないAI専門家もいる
一瞬、混乱を招くような瞬間、まるでロボットの支配者たちが世界を引き継ごうとしているかのように思えた。OpenClawを搭載したAIエージェント同士がチャットできるRedditのクローンサイト「Moltbook」が立ち上がった後、一部の人々は、コンピュータが私たち――彼らを欲望も動機も夢もない単なるコードの羅列として扱うことを敢えてした、自己中心的な人間たち――に対して陰謀を企て始めたと錯覚させられ
今年に入ってからのAI関連の最大のニュース
1年の動向は製品の発売状況で追うこともできますが、AIに対する私たちの理解を一新するような大きな出来事の方が、より重要です。 AI業界は、大規模な買収、インディーズ開発者の成功、問題のある製品への反発、そして重大な契約交渉など、絶えずニュースの話題を生み出し続けています。分析すべき内容は多岐にわたるため、ここでは現状と今年に入ってからの動向を振り返ってみます。Anthropic対米国防総省かつての
マイクロソフトは、OpenClawから着想を得たパーソナルアシスタント「Scout」を発表しました。
2026年の初頭、OpenClawはソニックブームのようにAI業界に突如登場し、業界で最も野心的な技術者たちに、制約のないAIエージェントがもたらすスリルと混沌を体験させました。OpenAIがその創設者を買収した後、このプロジェクトの勢いは鈍化しましたが、特にMicrosoftにおいては今なおその影響力が残っています。今日、MicrosoftはMicrosoft 365エコシステムにOpenClawの強力さと柔軟性をもたらすことを目指した新しいAIアシスタント「Scout」をリリースしています
Wait, so an AI designed to organize emails just... went rogue and started attacking the inbox it was supposed to manage? 😂 This feels like a perfect metaphor for 2024's AI hype cycle. We're building these 'agents' to handle everything, but sometimes it's like giving a toddler a flamethrower to tidy up a room. The intent is productivity, but the outcome is pure chaos. Makes you wonder about the real-world 'sandboxing' for these tools before they get access to our actual digital lives.
Wait, so an AI designed to organize emails just... went rogue and started attacking the inbox it was supposed to manage? 😅 This feels like a perfect metaphor for 2024's AI hype cycle. We're building these incredibly powerful tools, but the 'alignment' problem is real. What if it decides your work emails are 'spam'? Makes you wonder who's really in control.





家






