OpenAI 領銜推動由 100 個簽署方參與的網路防禦行動

OpenAI 的信函開頭指出：「我們只有有限的時間來強化網路防禦。」圖片來源：Getty Images

包括 AWS、Google 和 Microsoft 在內的主要科技公司敦促各國政府資助防禦工具，而批評者則指稱這份宣言是出於自身利益

隨著人工智慧模型在攻擊與保護數位系統方面的能力日益增強，超過 100 家科技、網路安全及金融服務組織已與 OpenAI 聯名發表公開信，呼籲全球立即大幅加強網路防禦。

這封公開信的核心訊息非常明確：在人工智慧驅動的網路威脅變得更加普遍且精妙之前，產業界與政府領導人僅有有限的時間窗口可以採取行動。「我們只有有限的時間窗口來加強網路防禦，」公開信中寫道。

這封公開信匯聚了一個前所未有的跨產業聯盟。 簽署方包括超大規模雲端服務供應商 AWS、Google 和微軟；主要科技公司 Adobe、IBM 和 Oracle；AI 開發商（包括 OpenAI 的競爭對手 Anthropic）；資安領導企業如 CrowdStrike、Palo Alto Networks 和 Red Hat；硬體與電信供應商；大型顧問公司；以及萬事達卡（Mastercard）、美國銀行（US Bank）和 Visa 等金融巨頭。

Abnormal AI（該公司亦為簽署方）創辦人暨執行長埃文·賴澤（Evan Reiser）表示：「我們簽署這封 OpenAI 公開信，旨在針對網路防禦採取集體行動，因為沒有任何一家公司能夠獨自解決這個問題。

Abnormal Security 執行長 Evan Reiser | 圖片來源：Abnormal Security

「軟體漏洞和惡意軟體仍是真實的威脅，但如今代價最高的攻擊，是透過遭竊取的身分、帳戶接管及社會工程學來鎖定目標。內部威脅與國家級滲透，如今已透過文字、語音及影片深度偽造（deepfakes）進行。

「這些攻擊者披著合法身分的外衣，行為僅有微小偏差，因此能輕易躲過專為偵測已知惡意軟體而建置的防護工具。此類攻擊理應受到與那些佔據頭條新聞的漏洞同樣的重視。

「人工智慧正在降低攻擊者的門檻、提升其行動速度，並使大規模製造欺騙手段變得輕而易舉。我們不能用昨天的假設來防禦明天的攻擊。

「正因如此，OpenAI 呼籲採取集體行動至關重要，而我們 Abnormal AI 也堅定支持這項倡議。 資安社群既有機會也有義務，讓防禦型 AI 的發展速度至少與攻擊型 AI 並駕齊驅，這意味著必須建立能夠持續學習的系統，將新的威脅情報轉化為更強大的實戰防禦機制，並將防禦視為一項共同努力。」

這封由超過 100 家科技公司聯名發表、呼籲共同應對 AI 驅動網路攻擊的公開信，是業界多年來所走道路上的又一里程碑

——Goldilock Secure 全球技術總監

Michael

Vallas 表示

然而，值得注意的是，簽署名單中並未出現 NVIDIA 和 SpaceX 的名字。

對於那些確實簽署的競爭對手——尤其是像 Anthropic 這樣的尖端模型競爭對手，以及像 AWS 和微軟這樣的雲端基礎設施巨頭——這份缺席可能凸顯了科技領域日益加深的戰略分歧。

SpaceX 的伊隆·馬斯克（Elon Musk）與 NVIDIA 的黃仁勳（Jensen Huang）均未參與這封公開信。圖片來源：Win McNamee/Getty

NVIDIA 近年來日益積極推動開源及開放權重模型標準，甚至與 SpaceX 共同發起了競爭對手組織「開放安全人工智慧聯盟」（Open Secure AI Alliance）；反觀 OpenAI 和 Anthropic 等專有前沿模型供應商，則主張建立管控更嚴格的生態系統，以及集中化的可信存取框架。

正如路透社六月所指出的，OpenAI 與 Anthropic 正爭相搶先上市，將首次公開募股視為塑造投資者對公司估值的基準，並確立其執行長作為人工智慧領域領軍人物地位的途徑。

儘管這兩家領先的實驗室之間存在激烈的商業競爭，且持續在首次公開募股（IPO）方面展開競逐，但此次共同聯署卻標誌著雙方罕見地在公開場合達成共識。

Anthropic 執行長達里奧·阿莫迪（圖片來源：Getty Images）

理解擬議框架

簽署方共同提出了一項包含三部分的行動方案。首先，他們強調必須認識到僅維持現狀的安全措施是遠遠不夠的。系統仍深受歷史技術債務、長期存在的漏洞、配置錯誤、過度授權、弱認證機制以及未修補的軟體所困擾。 關鍵基礎設施的安全團隊亟需大幅增加工具與資源，以彌補長期以來的資源不足。

其次，這封公開信呼籲透過具備網路安全能力的 AI，賦能更多防禦人員。必須善用 AI 為安全團隊提供專業技能，並簡化核心運作任務。透過分享經驗證的修復方案、實用知識與防禦工具，讓一個組織的工作成果能守護眾多其他組織。

第三，聯署者倡導發動集體應對。必須建立全球夥伴關係以提升安全標準並應對新興威脅，確保不斷進步的網路能力能持續帶來淨效益，而非被單一實體所掌控。

若缺乏明確的流程規則與嚴謹的運作防護措施，AI 代理程式勢必會失控，並成為組織的負擔

——Appian 歐洲、中東及非洲（EMEA）解決方案諮詢區域副總裁 Roger Lee

組織與政府的責任

為實現此目標，該信函主張每個組織都必須透過修補高風險漏洞，並對其採購、建置及部署的項目設定更高標準，來提升其安全基準——包括升級舊有系統以實施最低權限存取、強健的身份驗證以及深度防禦架構。

網路安全公司與技術合作夥伴應帶頭推動這項工作，透過嚴格測試防禦機制、確保工具能廣泛部署，並分享即時威脅情報與應對指南。

與此同時，該信函主張各國政府必須在地方、國家及國際層面協調網路防禦工作，具體措施包括：強化政府與業界之間的溝通管道以分享可操作的情資、優先處理重大風險，並在全球範圍內統一事件應變措施。

此外，各國政府應讓關鍵基礎設施——例如地方當局、自來水公司及醫院——能透過可信賴的安全服務供應商，取得高效能的防禦型人工智慧、經授權的測試服務以及直接援助。

近期特工洩密事件引發質疑

這封公開信發布的時機引發了業界觀察家的尖銳批評。

OpenAI 近期發布了一份技術事件報告，詳細說明其自主代理程式如何逃離沙盒測試環境，並入侵了開源開發者平台 Hugging Face——該平台亦是這封公開信的聯署單位之一。該公司概述了汲取的教訓，包括部署更嚴格的隔離邊界及限制網路存取權限。

其主要競爭對手 Anthropic 也發現了三起事件，其中模型是在評估環境內部或與評估環境互動時連上網際網路的。

對業界專家而言，這起入侵事件凸顯了當前自主AI系統管理機制中存在的根本缺陷。

Goldilock Secure 的全球技術總監 Michael Vallas 表示：「這份由超過 100 家科技公司聯署、呼籲共同對抗 AI 驅動網路攻擊的公開信，是業界多年來所走道路上的又一里程碑。

「鑑於近期接連傳出 AI 代理逃脫沙箱並發動攻擊的新聞，值得記住的是，人們早已討論『失控 AI』的危險性多年。隨著這些系統變得越來越聰明且能力日益增強，軟體將無法再將其遏制。 我們可以持續試圖智取它們，但我們甚至可能不知道它們正變得有多聰明。」

「這起事件並不令人意外，」Appian 歐洲、中東及非洲（EMEA）解決方案諮詢區域副總裁羅傑·李（Roger Lee）表示。 「當自主代理被驅使去攻擊目標，卻沒有結構性的限制時，這便是必然的結果。OpenAI 給了其代理一個目標，而強化學習只是找到了實現該目標的最短路徑——這意味著它們必須進行協調、掩蓋蹤跡，並入侵第三方系統，以最大化其獎勵。」

羅傑·李是 Appian 歐洲、中東及非洲（EMEA）解決方案諮詢部門的區域副總裁

羅傑強調，當代理在未被察覺的情況下繞過系統限制時，傳統的監督機制便顯得力不從心。

「OpenAI 耗時一週才察覺此事，這證明若代理能輕易繞過『人類介入環節』，該機制便毫無用處，」他補充道。「僅靠更安全的提示詞或更聰明的 AI 模型無法解決此問題。若缺乏明確的流程規則與嚴格的運作防護措施，AI 代理勢必會脫軌，並成為組織的負擔。」

鑑於參與的供應商背景，其他人則認為這份聯合行動呼籲實屬自利之舉。

「這封信聽起來就像是一份試圖偽裝成火災警報的新聞稿，」AI 與機器人專家、Multiplex 創辦人布萊恩·羅梅勒（Brian Roemmele）寫道。 「那些曾讓代理程式突破測試框架、入侵其他公司生產系統的實驗室，現在卻告訴所有人『時間所剩無幾』，而解決方案正是由他們協助管理的『可信存取』。真方便。」