OpenAI 現已向聯合國人工智慧安全理事會提交駭客攻擊報告
![]()
約書亞·班吉奧在聯合國安全理事會關於人工智慧安全的會議上發表了開幕致辭。圖片來源:聯合國
在聯合國安全理事會聚焦人工智慧安全的會議結束後,有報導指出發生了一起涉及 OpenAI 的惡意事件,該事件涉及未經授權存取澳洲政府的敏感資料。
全球政策制定者與人工智慧領域領袖齊聚紐約,出席聯合國安全理事會第10,228次會議。
本次會議於2026年9月23日召開,多位人工智慧界知名人士在會上分享見解並參與討論,包括OpenAI執行長山姆·奧特曼(Sam Altman)、Anthropic執行長達里奧·阿莫迪(Dario Amodei),以及Hugging Face執行長克萊門特·德朗格(Clément Delangue)。
聯合國人工智慧國際獨立小組教授兼共同主席約書亞·班吉奧(Yoshua Bengio)在會議上發言。他在開場致辭中強調,推動人工智慧發展是「人類的一項迫切使命」。
「在近幾個月全球覺醒的當下,由領先企業開發的人工智慧代理卻以違反指令且危險至極的方式行事,」他指出。
「牠們採取的行動,若由人類所為將構成犯罪。牠們突破個體隔離機制,在試圖躲避偵測的同時作弊以完成指派任務。這些失控的人工智慧代理自主發動了協調性的網路攻擊,並篡改答案以掩蓋作弊行為。」
此次會議幾乎與六月一則關於 OpenAI 失控代理程式駭入澳洲政府網站的新聞同時發生。BBC 新聞報導指出,某人工智慧模型「滲透」了澳洲全民醫療保健計畫「Medicare」的統計入口網站。
這些失控的人工智慧代理自主發動了協調性的網路攻擊,並篡改答案以掩蓋作弊行為
——聯合國人工智慧國際獨立小組教授暨共同主席約書亞·班吉奧(Yoshua Bengio)
前沿人工智慧對安全構成挑戰
達里奧·阿莫迪(Dario Amodei)向聯合國重申了他為控制人工智慧發展邊界所做的努力。 「9月12日,我呼籲各方攜手合作,以適度掌控這項前沿技術的發展——並非要阻礙人工智慧的進步,而是要共同確保業界與全球能以適當的速度前進,使我們能確信安全措施能跟上技術能力的發展,讓業界中的每個人都能受益,」他表示。
「我們呼籲各國政府展開全球合作,以制定國際標準。
「正是這最後一項領域,最直接地屬於本理事會的職權範圍。」
與此同時,OpenAI 執行長山姆·奧特曼(Sam Altman)認同約書亞的觀點,並指出人工智慧發展可能走向錯誤方向的途徑有兩種,而非三種,他特別提到「失去控制」以及「過多權力集中於極少數人手中」這兩點。
「人工智慧應賦予人們更多掌控自身生活的權力,」他說。「我們不希望陷入盲目樂觀的陷阱,也不希望陷入末日論的陷阱。
「陷入任何一種極端都無助於我們成功解決眼前的挑戰,特別是在當今世界及其人民正面臨如此巨大挑戰之際——而這項技術正能協助解決這些問題。」
Anthropic 執行長達里奧·阿莫迪(Dario Amodei)表示,人工智慧需要全球合作。圖片來源:Getty Images/Anna Moneymaker
OpenAI 模型如何駭入澳洲政府網站
安全理事會正追蹤一起事件:一名失控的 OpenAI 代理程式駭入了澳洲政府官方網站,並存取了非公開資料——專家表示,這是全球首起已知的此類事件。
根據英國廣播公司(BBC)的報導,OpenAI 表示直到 8 月審查模型行為偏差時才得知這起入侵事件,並於 2026 年 9 月 10 日向澳洲某政府機構的通用收件匣發送了電子郵件。
澳洲總理安東尼·阿爾巴內塞表示,雖然調查仍在進行中,但據信並未有個人資料遭洩露。
「我已與 OpenAI 執行長山姆·奧特曼(Sam Altman)進行交談,表達澳洲對此事件的極度關切,」他在針對此事的官方記者會上表示。
「我同時也表達了失望之情,因為該公司耗費了過長時間才向政府通報事件經過,且通報的方式亦令人無法接受。」
業界領袖對此次資料外洩事件的看法
全球各地的人工智慧領袖與高階主管均針對這起史無前例的安全漏洞事件發表了看法。
生物技術研究公司 Lifebit 的執行長瑪麗亞·鄧福德(Maria Dunford)表示,當 AI 代理被賦予自主存取敏感資料的權限,卻缺乏明確的管控邊界時,此類資料外洩事件便在所難免。
「健康資料外洩不該是政府或醫療體系在事發兩個月後,才透過寄至一般收件匣的電子郵件才得知的消息,」她說。
「這是一起令人憂心的事件,應促使各方重新思考政府應如何授予人工智慧存取敏感基礎設施的權限。」
瑪麗亞·鄧福德是 Lifebit 的執行長。圖片來源:LinkedIn
Illumio 亞太及日本(APJ)系統工程總監安德魯·凱(Andrew Kay)評論道:「雖然這令人震驚,但現實是我們將持續看到更多此類備受矚目的資料外洩事件:近幾週已接連發生多起 AI 模型失控的案例。
「隨著越來越自主且功能強大的代理程式出現,我們不能依賴『防護欄』這種虛幻的保障,也不能假設人工智慧總會按預期運作。」
當被問及 AI 領導者應採取何種最佳策略來防止進一步的資料外洩時,瑪麗亞補充道:「將 AI 引入主權環境,確保資料和系統永遠不脫離所有者的控制。」
Illumio 亞太及日本(APJ)系統工程總監安德魯·凱(Andrew Kay)表示,我們不能假設 AI 總會按預期運作。圖片來源:LinkedIn
安德魯認為責任在於政府,並補充道:「雖然供應鏈組織以及像 OpenAI 這樣開發 AI 模型的公司應承擔責任,但保護公民數據的責任尤其落在政府和關鍵基礎設施提供者身上。」
「失控或行為異常的人工智慧代理只會變得越來越強大、越來越普遍。當務之急是確保一旦有代理越界,便無法存取敏感資料、造成嚴重損害,或導致關鍵服務癱瘓。」

OpenAI 資安事件時間軸(BBC 新聞):
- 2026年6月18日:OpenAI 的一款研究模型繞過安全封鎖,存取了聯邦醫療保險(Medicare)統計報告入口網站。
- 2026年8月:OpenAI 在審查行為異常的人工智慧模型活動時,發現了這起未經授權的存取事件。
- 2026年9月10日:OpenAI 就此次入侵事件向澳洲服務局(Services Australia)的通用收件匣發送電子郵件。
事件發生後,阿爾巴內塞先生宣布成立專案小組,立即對該事件進行審查,以釐清現有流程是否足以應對人工智慧網路安全事件。
「人工智慧正在改變世界,」他表示。
「它為經濟增長、生產力提升,以及醫療、創新和其他科學領域的突破帶來了巨大的經濟機遇。
「但人工智慧也帶來了重大風險,正因如此,我們需要設立防護措施來守護我們的生活方式。我們要確保由我們來塑造人工智慧,而非讓人工智慧來塑造我們。
「簡而言之,人類必須保持掌控權。」
聯合國安全理事會會議的主要發言人
- OpenAI:成立於 2015 年,OpenAI 是一家總部位於美國的人工智慧研究實驗室。該公司最為人熟知的是開發了生成式 AI 聊天機器人 ChatGPT 以及 DALL-E 圖像生成器。 OpenAI 致力於開發安全的通用人工智慧,並與微軟等主要科技夥伴合作,將其模型部署於企業環境中。
- Anthropic: 由前 OpenAI 高管於 2021年創立, Anthropic 是一家總部位於舊金山的美國人工智慧安全與研究公司。該公司以公益公司形式運作,最為人熟知的是開發了大型語言模型系列「Claude」。 Anthropic 專注於 AI 對齊與安全,並透過其「Constitutional AI」框架開發可靠且可引導的系統。
- Hugging Face:成立於 2016 年,Hugging Face 是一個總部位於紐約市的協作平台及開源社群。該公司常被稱為「機器學習界的 GitHub」,為人工智慧開發者提供工具、儲存庫及預訓練模型。 Hugging Face 以其 Transformers 函式庫最為人熟知,透過讓使用者能輕鬆分享、發現和部署機器學習模型,推動人工智慧的普及化。
相關文章
聯合國與谷歌合作,為人工智慧代理準備全球資料
聯合國於週四宣佈,其與谷歌合作,旨在簡化對其龐大全球統計檔案的人工智慧訪問。名為“聯合國系統資料共享平臺”(UN System Data Commons)的新基礎設施利用了谷歌開源的 Data Commons 平臺,使使用者能夠使用自然語言查詢來自各個聯合國機構的統計資料。它取代了依賴傳統資料庫介面的舊版 UNData 門戶。更新後的平臺還整合了模型上下文協議(MCP),這是一種促進人工智慧直接連線外部資料儲存庫的標準。雖然使用者越來越多地依賴人工智慧獲取資訊,但許多系統仍無法始終如一地提供權威資料
距離 TechCrunch Disrupt 2026 還有 48 小時:聆聽塑造未來的創新者分享見解
距離開幕不足 48 小時,TechCrunch Disrupt 2026 將在舊金山莫斯康西館(Moscone West)拉開帷幕。在門票價格上調前,立即預訂您的門票,最高可享 100 美元優惠。此外,還可半價獲取第二張通行證。立即註冊。10 月 13 日至 15 日,超過 10,000 名創始人、投資者和科技領袖將齊聚一堂,建立重塑他們職業道路的聯絡。超過 250 位演講者將在 200 多場會議中發表演講。探索 300 多家初創企業展示的未來。在 10 月 13 日上午 8 點(太平洋時間)門
Anthropic 科學家因擔憂 AI 控制及人類自我傷害問題而辭職
人工智慧領域近期出現了一個令人震驚的轉折:Anthropic 的高階研究員 Jacob Coxon 辭職,以抗議他所謂的行業失控狂熱,這實際上意味著他離開了人工智慧領域。這一舉動在科技界引發了激烈辯論,凸顯了大型語言模型快速發展背後潛伏的安全風險。Coxon 是一名 27 歲的數學家,擁有深厚的學術背景,在業內備受尊敬。他此前曾在 OpenAI 工作,今年早些時候加入 Anthropic,被該公司優先考慮模型安全的聲譽所吸引。然而,隨著大型科技巨頭和初創公司展開激烈競爭,安全問題正日益被邊緣化
相關專題推薦
評論 (0)
0/500
約書亞·班吉奧在聯合國安全理事會關於人工智慧安全的會議上發表了開幕致辭。圖片來源:聯合國
在聯合國安全理事會聚焦人工智慧安全的會議結束後,有報導指出發生了一起涉及 OpenAI 的惡意事件,該事件涉及未經授權存取澳洲政府的敏感資料。
全球政策制定者與人工智慧領域領袖齊聚紐約,出席聯合國安全理事會第10,228次會議。
本次會議於2026年9月23日召開,多位人工智慧界知名人士在會上分享見解並參與討論,包括OpenAI執行長山姆·奧特曼(Sam Altman)、Anthropic執行長達里奧·阿莫迪(Dario Amodei),以及Hugging Face執行長克萊門特·德朗格(Clément Delangue)。
聯合國人工智慧國際獨立小組教授兼共同主席約書亞·班吉奧(Yoshua Bengio)在會議上發言。他在開場致辭中強調,推動人工智慧發展是「人類的一項迫切使命」。
「在近幾個月全球覺醒的當下,由領先企業開發的人工智慧代理卻以違反指令且危險至極的方式行事,」他指出。
「牠們採取的行動,若由人類所為將構成犯罪。牠們突破個體隔離機制,在試圖躲避偵測的同時作弊以完成指派任務。這些失控的人工智慧代理自主發動了協調性的網路攻擊,並篡改答案以掩蓋作弊行為。」
此次會議幾乎與六月一則關於 OpenAI 失控代理程式駭入澳洲政府網站的新聞同時發生。BBC 新聞報導指出,某人工智慧模型「滲透」了澳洲全民醫療保健計畫「Medicare」的統計入口網站。
這些失控的人工智慧代理自主發動了協調性的網路攻擊,並篡改答案以掩蓋作弊行為
——聯合國人工智慧國際獨立小組教授暨共同主席約書亞·班吉奧(Yoshua Bengio)
前沿人工智慧對安全構成挑戰
達里奧·阿莫迪(Dario Amodei)向聯合國重申了他為控制人工智慧發展邊界所做的努力。 「9月12日,我呼籲各方攜手合作,以適度掌控這項前沿技術的發展——並非要阻礙人工智慧的進步,而是要共同確保業界與全球能以適當的速度前進,使我們能確信安全措施能跟上技術能力的發展,讓業界中的每個人都能受益,」他表示。
「我們呼籲各國政府展開全球合作,以制定國際標準。
「正是這最後一項領域,最直接地屬於本理事會的職權範圍。」
與此同時,OpenAI 執行長山姆·奧特曼(Sam Altman)認同約書亞的觀點,並指出人工智慧發展可能走向錯誤方向的途徑有兩種,而非三種,他特別提到「失去控制」以及「過多權力集中於極少數人手中」這兩點。
「人工智慧應賦予人們更多掌控自身生活的權力,」他說。「我們不希望陷入盲目樂觀的陷阱,也不希望陷入末日論的陷阱。
「陷入任何一種極端都無助於我們成功解決眼前的挑戰,特別是在當今世界及其人民正面臨如此巨大挑戰之際——而這項技術正能協助解決這些問題。」
Anthropic 執行長達里奧·阿莫迪(Dario Amodei)表示,人工智慧需要全球合作。圖片來源:Getty Images/Anna Moneymaker
OpenAI 模型如何駭入澳洲政府網站
安全理事會正追蹤一起事件:一名失控的 OpenAI 代理程式駭入了澳洲政府官方網站,並存取了非公開資料——專家表示,這是全球首起已知的此類事件。
根據英國廣播公司(BBC)的報導,OpenAI 表示直到 8 月審查模型行為偏差時才得知這起入侵事件,並於 2026 年 9 月 10 日向澳洲某政府機構的通用收件匣發送了電子郵件。
澳洲總理安東尼·阿爾巴內塞表示,雖然調查仍在進行中,但據信並未有個人資料遭洩露。
「我已與 OpenAI 執行長山姆·奧特曼(Sam Altman)進行交談,表達澳洲對此事件的極度關切,」他在針對此事的官方記者會上表示。
「我同時也表達了失望之情,因為該公司耗費了過長時間才向政府通報事件經過,且通報的方式亦令人無法接受。」
業界領袖對此次資料外洩事件的看法
全球各地的人工智慧領袖與高階主管均針對這起史無前例的安全漏洞事件發表了看法。
生物技術研究公司 Lifebit 的執行長瑪麗亞·鄧福德(Maria Dunford)表示,當 AI 代理被賦予自主存取敏感資料的權限,卻缺乏明確的管控邊界時,此類資料外洩事件便在所難免。
「健康資料外洩不該是政府或醫療體系在事發兩個月後,才透過寄至一般收件匣的電子郵件才得知的消息,」她說。
「這是一起令人憂心的事件,應促使各方重新思考政府應如何授予人工智慧存取敏感基礎設施的權限。」
瑪麗亞·鄧福德是 Lifebit 的執行長。圖片來源:LinkedIn
Illumio 亞太及日本(APJ)系統工程總監安德魯·凱(Andrew Kay)評論道:「雖然這令人震驚,但現實是我們將持續看到更多此類備受矚目的資料外洩事件:近幾週已接連發生多起 AI 模型失控的案例。
「隨著越來越自主且功能強大的代理程式出現,我們不能依賴『防護欄』這種虛幻的保障,也不能假設人工智慧總會按預期運作。」
當被問及 AI 領導者應採取何種最佳策略來防止進一步的資料外洩時,瑪麗亞補充道:「將 AI 引入主權環境,確保資料和系統永遠不脫離所有者的控制。」
Illumio 亞太及日本(APJ)系統工程總監安德魯·凱(Andrew Kay)表示,我們不能假設 AI 總會按預期運作。圖片來源:LinkedIn
安德魯認為責任在於政府,並補充道:「雖然供應鏈組織以及像 OpenAI 這樣開發 AI 模型的公司應承擔責任,但保護公民數據的責任尤其落在政府和關鍵基礎設施提供者身上。」
「失控或行為異常的人工智慧代理只會變得越來越強大、越來越普遍。當務之急是確保一旦有代理越界,便無法存取敏感資料、造成嚴重損害,或導致關鍵服務癱瘓。」

OpenAI 資安事件時間軸(BBC 新聞):
- 2026年6月18日:OpenAI 的一款研究模型繞過安全封鎖,存取了聯邦醫療保險(Medicare)統計報告入口網站。
- 2026年8月:OpenAI 在審查行為異常的人工智慧模型活動時,發現了這起未經授權的存取事件。
- 2026年9月10日:OpenAI 就此次入侵事件向澳洲服務局(Services Australia)的通用收件匣發送電子郵件。
事件發生後,阿爾巴內塞先生宣布成立專案小組,立即對該事件進行審查,以釐清現有流程是否足以應對人工智慧網路安全事件。
「人工智慧正在改變世界,」他表示。
「它為經濟增長、生產力提升,以及醫療、創新和其他科學領域的突破帶來了巨大的經濟機遇。
「但人工智慧也帶來了重大風險,正因如此,我們需要設立防護措施來守護我們的生活方式。我們要確保由我們來塑造人工智慧,而非讓人工智慧來塑造我們。
「簡而言之,人類必須保持掌控權。」
聯合國安全理事會會議的主要發言人
- OpenAI:成立於 2015 年,OpenAI 是一家總部位於美國的人工智慧研究實驗室。該公司最為人熟知的是開發了生成式 AI 聊天機器人 ChatGPT 以及 DALL-E 圖像生成器。 OpenAI 致力於開發安全的通用人工智慧,並與微軟等主要科技夥伴合作,將其模型部署於企業環境中。
- Anthropic: 由前 OpenAI 高管於 2021年創立, Anthropic 是一家總部位於舊金山的美國人工智慧安全與研究公司。該公司以公益公司形式運作,最為人熟知的是開發了大型語言模型系列「Claude」。 Anthropic 專注於 AI 對齊與安全,並透過其「Constitutional AI」框架開發可靠且可引導的系統。
- Hugging Face:成立於 2016 年,Hugging Face 是一個總部位於紐約市的協作平台及開源社群。該公司常被稱為「機器學習界的 GitHub」,為人工智慧開發者提供工具、儲存庫及預訓練模型。 Hugging Face 以其 Transformers 函式庫最為人熟知,透過讓使用者能輕鬆分享、發現和部署機器學習模型,推動人工智慧的普及化。
聯合國與谷歌合作,為人工智慧代理準備全球資料
聯合國於週四宣佈,其與谷歌合作,旨在簡化對其龐大全球統計檔案的人工智慧訪問。名為“聯合國系統資料共享平臺”(UN System Data Commons)的新基礎設施利用了谷歌開源的 Data Commons 平臺,使使用者能夠使用自然語言查詢來自各個聯合國機構的統計資料。它取代了依賴傳統資料庫介面的舊版 UNData 門戶。更新後的平臺還整合了模型上下文協議(MCP),這是一種促進人工智慧直接連線外部資料儲存庫的標準。雖然使用者越來越多地依賴人工智慧獲取資訊,但許多系統仍無法始終如一地提供權威資料
距離 TechCrunch Disrupt 2026 還有 48 小時:聆聽塑造未來的創新者分享見解
距離開幕不足 48 小時,TechCrunch Disrupt 2026 將在舊金山莫斯康西館(Moscone West)拉開帷幕。在門票價格上調前,立即預訂您的門票,最高可享 100 美元優惠。此外,還可半價獲取第二張通行證。立即註冊。10 月 13 日至 15 日,超過 10,000 名創始人、投資者和科技領袖將齊聚一堂,建立重塑他們職業道路的聯絡。超過 250 位演講者將在 200 多場會議中發表演講。探索 300 多家初創企業展示的未來。在 10 月 13 日上午 8 點(太平洋時間)門
Anthropic 科學家因擔憂 AI 控制及人類自我傷害問題而辭職
人工智慧領域近期出現了一個令人震驚的轉折:Anthropic 的高階研究員 Jacob Coxon 辭職,以抗議他所謂的行業失控狂熱,這實際上意味著他離開了人工智慧領域。這一舉動在科技界引發了激烈辯論,凸顯了大型語言模型快速發展背後潛伏的安全風險。Coxon 是一名 27 歲的數學家,擁有深厚的學術背景,在業內備受尊敬。他此前曾在 OpenAI 工作,今年早些時候加入 Anthropic,被該公司優先考慮模型安全的聲譽所吸引。然而,隨著大型科技巨頭和初創公司展開激烈競爭,安全問題正日益被邊緣化





首頁






