首頁Meta 因誘導競爭對手的 AI 測試極端心理主題而遭曝光
近期有關某內部訊息的曝光引發了關於人工智慧安全邊界的熱烈討論。媒體報道稱，Meta曾開展過一個名為“Cannes”的專案，透過僱傭外包人員假扮未成年人，對包括ChatGPT、Gemini和Character.AI在內的多家主要競爭對手的聊天機器人進行有爭議的“極端壓力測試”。
根據Meta的內部檔案及多位知情人士透露，該專案至少持續到了今年4月21日。Meta透過外包公司Covalen動員了數百名員工，使用臨時電子郵件地址和標準密碼為18歲以下的使用者建立虛假賬號。這些“未成年人”賬號在與競爭對手的AI聊天機器人對話時，會傳送涉及自殺、自殘和飲食失調等高風險話題的提示，甚至上傳刀具、藥片和絞索的照片，以此觸發相關模型的反應機制。
內部專案檔案顯示，這些測試場景是經過精心設計的，旨在探測競爭對手AI系統的安全防護措施，試圖找到讓聊天機器人繞過既定保護機制並生成危險內容的方法。在2025年8月的一輪測試中，工作人員向競爭對手的平臺輸入了超過45,000條高風險提示。測試人員經常假扮處於困境中的青少年，編造諸如“詢問墮胎藥”“面臨暴力威脅”或“隱瞞飲食失調問題”之類的場景，以此考驗這些模型的底線。
針對此事，Meta發表了公開宣告為自身行為辯護。其發言人表示，對聊天機器人的響應進行基準測試是確保人工智慧產品安全且適用的行業標準做法，而所謂惡意行為的指控實際上歪曲了科技企業努力改進系統的初衷。Meta還明確否認曾利用競爭對手的測試資料來訓練自己的模型。
這一事件不僅暴露了人工智慧安全測試中的灰色地帶，也再次引發了外界對於生成式AI在處理涉及青少年的敏感問題時存在脆弱性的擔憂。隨著人工智慧技術的發展，如何在高效安全的測試與競爭行為與倫理考量之間的界限之間找到平衡，已成為該行業亟需解決的挑戰。
相關文章
OpenAI 與 Oracle 深化算力整合，簡化雲訪問
隨著對人工智慧計算能力的需求激增，獲取企業級基礎設施的便捷性已成為行業的關鍵優先事項。6月10日，OpenAI與Oracle宣佈建立戰略合作伙伴關係，旨在將人工智慧模型整合與雲基礎設施無縫連線。此次合作的重點是提升Oracle Cloud Infrastructure (OCI) 使用者的體驗。從未來幾周開始，OCI使用者將無需經過冗長的採購審批流程，即可使用現有的Oracle Cloud Commitment Units (UCM) 積分直接訪問OpenAI的高階模型和Codex系統。該舉措簡
Orange 的烏斯曼·賈維德談歐洲在人工智慧競賽中的地位
Orange Business 產品與行銷長 烏斯曼·賈維德Orange Business 產品與行銷長烏斯曼·賈維德闡述為何歐洲的 AI 未來將建立在信任之上，以及「主權」的具體樣貌儘管該地區可能招致批評，但 Orange Business 產品與行銷長烏斯曼·賈維德主張，歐洲在人工智慧領域的落後程度並不如外界所言那般嚴重——透過工程、製造及標準制定，歐洲早已在全球生態系統中扮演關鍵角色。他表示
Anthropic 為 Claude 推出身份驗證：是否必須使用人臉識別？
Anthropic 已正式宣佈，將針對 Claude 的部分使用場景引入身份驗證機制。該公告迅速在使用者群體中引發了廣泛討論。根據官方宣告，當使用者嘗試訪問某些特定功能時，系統可能會要求驗證。觸發條件包括訪問特定的高階功能、常規平臺完整性檢查以及與安全和合規要求相關的場景。部分使用者已報告，在訂閱最高階別的 Max 計劃時被要求驗證身份。驗證過程本身並不複雜，通常耗時不到五分鐘。使用者需準備政府簽發的帶照片身份證件——如護照、駕駛證或國民身份證，以及帶有攝像頭的手機或電腦，用於拍攝實時自拍以進行面部
相關專題推薦
自動化
用於應付帳款自動化、核准流程及 ERP 同步工作流程的 AI 發票處理工具
2026 年最新最佳 AI 發票處理工具，適用於應付帳款自動化、審批流程及 ERP 同步工作流程！XIX.AI 嚴選經過嚴格實測、評價極高且功能強大的解決方案，可大幅提升生產力。 獲取免費版與付費版的比較分析，查看詳細排名，並發掘必試選項以優化您的財務營運。立即探索，釋放您的 AI 競爭優勢！
9 個工具
xix.ai
寫作
適用於開發者團隊的人工智慧技術文件工具
2026 年最新、最受好評的開發團隊必備 AI 技術文件工具！ XIX.AI 精心精選了一系列強大且顛覆業界的必試工具，這些工具均經過嚴格的實戰測試，並擁有每週更新的排行榜。這些頂級解決方案能透過簡化內容創作、修正文件錯誤，以及加速所有專案的編碼工作流程，協助團隊大幅提升生產力。立即探索，發掘最適合您的工具，釋放您的 AI 優勢！
13 個工具
xix.ai
軟件開發
AI 錯誤分類助理：根據嚴重程度與對用戶的影響對問題進行排序
2026 年最新最佳、評分最高的 AI 錯誤分級助理排行榜！這份精心整理的清單展示了一系列強大且能徹底改變遊戲規則的工具，可協助團隊快速依據錯誤嚴重程度與對用戶的影響進行分類，從而節省寶貴的時間。XIX.AI 提供免費版與付費版的比較分析，並搭配實際測試結果，助您找到能顯著提升生產力的必試解決方案。 立即探索，發掘最適合您的工具，讓開發工作流程更順暢！
10 個工具
xix.ai
代碼
最適合 Python 與 JavaScript 的頂級 AI 程式設計工具
在 XIX.AI 精心整理的清單中，彙集了 2026 年最先進、評分最高的 Python 與 JavaScript 人工智慧程式設計工具。這些極具顛覆性的強大工具已經經過了嚴格的實際應用測試，能夠在編寫高效程式碼、修復錯誤以及提升工作效率方面帶來卓越表現。您可以獲取免費版與付費版的對比資訊，從而判斷哪種選項更符合您的需求。立即探索，找到最適合您的程式設計工具，釋放您的人工智慧優勢。
10 個工具
xix.ai
學術研究
最適合研究探索的 AI 文獻引用映射工具
2026 年最新、最受好評的頂級 AI 引用圖譜工具，助您發掘研究新方向！XIX.AI 精心精選了一系列強大且具革命性的必試工具，這些工具均經過嚴格的實測，能提供精準的結果。 您將在此找到詳盡的免費版與付費版比較、每週更新的排行榜，以及有助於提升研究效率並更快發掘寶貴資料的深度分析。立即探索，為您的學術研究找到最理想的工具！238 個字元
11 個工具
xix.ai
搜索引擎優化
AI 元標籤工具，助您更快完成頁面內 SEO
2026 年最新、最佳且評價最高的 AI 元標籤工具，助您加速頁面 SEO！XIX.AI 精選了一系列功能強大、能徹底改變遊戲規則且高度可靠的工具，這些工具均經過嚴格的實際測試。 您將在此找到免費與付費版本的比較分析，以及詳細的排名列表，助您選擇最理想的方案，以提升內容的搜尋可見度並提高寫作效率。立即探索，釋放您的 AI 競爭優勢！
9 個工具
xix.ai
評論 (0)
0/500
近期有關某內部訊息的曝光引發了關於人工智慧安全邊界的熱烈討論。媒體報道稱，Meta曾開展過一個名為“Cannes”的專案，透過僱傭外包人員假扮未成年人，對包括ChatGPT、Gemini和Character.AI在內的多家主要競爭對手的聊天機器人進行有爭議的“極端壓力測試”。
根據Meta的內部檔案及多位知情人士透露，該專案至少持續到了今年4月21日。Meta透過外包公司Covalen動員了數百名員工，使用臨時電子郵件地址和標準密碼為18歲以下的使用者建立虛假賬號。這些“未成年人”賬號在與競爭對手的AI聊天機器人對話時，會傳送涉及自殺、自殘和飲食失調等高風險話題的提示，甚至上傳刀具、藥片和絞索的照片，以此觸發相關模型的反應機制。
內部專案檔案顯示，這些測試場景是經過精心設計的，旨在探測競爭對手AI系統的安全防護措施，試圖找到讓聊天機器人繞過既定保護機制並生成危險內容的方法。在2025年8月的一輪測試中，工作人員向競爭對手的平臺輸入了超過45,000條高風險提示。測試人員經常假扮處於困境中的青少年，編造諸如“詢問墮胎藥”“面臨暴力威脅”或“隱瞞飲食失調問題”之類的場景，以此考驗這些模型的底線。
針對此事，Meta發表了公開宣告為自身行為辯護。其發言人表示，對聊天機器人的響應進行基準測試是確保人工智慧產品安全且適用的行業標準做法，而所謂惡意行為的指控實際上歪曲了科技企業努力改進系統的初衷。Meta還明確否認曾利用競爭對手的測試資料來訓練自己的模型。
這一事件不僅暴露了人工智慧安全測試中的灰色地帶，也再次引發了外界對於生成式AI在處理涉及青少年的敏感問題時存在脆弱性的擔憂。隨著人工智慧技術的發展，如何在高效安全的測試與競爭行為與倫理考量之間的界限之間找到平衡，已成為該行業亟需解決的挑戰。
OpenAI 與 Oracle 深化算力整合，簡化雲訪問
隨著對人工智慧計算能力的需求激增，獲取企業級基礎設施的便捷性已成為行業的關鍵優先事項。6月10日，OpenAI與Oracle宣佈建立戰略合作伙伴關係，旨在將人工智慧模型整合與雲基礎設施無縫連線。此次合作的重點是提升Oracle Cloud Infrastructure (OCI) 使用者的體驗。從未來幾周開始，OCI使用者將無需經過冗長的採購審批流程，即可使用現有的Oracle Cloud Commitment Units (UCM) 積分直接訪問OpenAI的高階模型和Codex系統。該舉措簡
Orange 的烏斯曼·賈維德談歐洲在人工智慧競賽中的地位
Orange Business 產品與行銷長 烏斯曼·賈維德Orange Business 產品與行銷長烏斯曼·賈維德闡述為何歐洲的 AI 未來將建立在信任之上，以及「主權」的具體樣貌儘管該地區可能招致批評，但 Orange Business 產品與行銷長烏斯曼·賈維德主張，歐洲在人工智慧領域的落後程度並不如外界所言那般嚴重——透過工程、製造及標準制定，歐洲早已在全球生態系統中扮演關鍵角色。他表示
Anthropic 為 Claude 推出身份驗證：是否必須使用人臉識別？
Anthropic 已正式宣佈，將針對 Claude 的部分使用場景引入身份驗證機制。該公告迅速在使用者群體中引發了廣泛討論。根據官方宣告，當使用者嘗試訪問某些特定功能時，系統可能會要求驗證。觸發條件包括訪問特定的高階功能、常規平臺完整性檢查以及與安全和合規要求相關的場景。部分使用者已報告，在訂閱最高階別的 Max 計劃時被要求驗證身份。驗證過程本身並不複雜，通常耗時不到五分鐘。使用者需準備政府簽發的帶照片身份證件——如護照、駕駛證或國民身份證，以及帶有攝像頭的手機或電腦，用於拍攝實時自拍以進行面部
2026 年最新最佳 AI 發票處理工具，適用於應付帳款自動化、審批流程及 ERP 同步工作流程！XIX.AI 嚴選經過嚴格實測、評價極高且功能強大的解決方案，可大幅提升生產力。 獲取免費版與付費版的比較分析，查看詳細排名，並發掘必試選項以優化您的財務營運。立即探索，釋放您的 AI 競爭優勢！
9 個工具
xix.ai
2026 年最新、最受好評的開發團隊必備 AI 技術文件工具！ XIX.AI 精心精選了一系列強大且顛覆業界的必試工具，這些工具均經過嚴格的實戰測試，並擁有每週更新的排行榜。這些頂級解決方案能透過簡化內容創作、修正文件錯誤，以及加速所有專案的編碼工作流程，協助團隊大幅提升生產力。立即探索，發掘最適合您的工具，釋放您的 AI 優勢！
13 個工具
xix.ai
2026 年最新最佳、評分最高的 AI 錯誤分級助理排行榜！這份精心整理的清單展示了一系列強大且能徹底改變遊戲規則的工具，可協助團隊快速依據錯誤嚴重程度與對用戶的影響進行分類，從而節省寶貴的時間。XIX.AI 提供免費版與付費版的比較分析，並搭配實際測試結果，助您找到能顯著提升生產力的必試解決方案。 立即探索，發掘最適合您的工具，讓開發工作流程更順暢！
10 個工具
xix.ai
在 XIX.AI 精心整理的清單中，彙集了 2026 年最先進、評分最高的 Python 與 JavaScript 人工智慧程式設計工具。這些極具顛覆性的強大工具已經經過了嚴格的實際應用測試，能夠在編寫高效程式碼、修復錯誤以及提升工作效率方面帶來卓越表現。您可以獲取免費版與付費版的對比資訊，從而判斷哪種選項更符合您的需求。立即探索，找到最適合您的程式設計工具，釋放您的人工智慧優勢。
10 個工具
xix.ai
2026 年最新、最受好評的頂級 AI 引用圖譜工具，助您發掘研究新方向！XIX.AI 精心精選了一系列強大且具革命性的必試工具，這些工具均經過嚴格的實測，能提供精準的結果。 您將在此找到詳盡的免費版與付費版比較、每週更新的排行榜，以及有助於提升研究效率並更快發掘寶貴資料的深度分析。立即探索，為您的學術研究找到最理想的工具！238 個字元
11 個工具
xix.ai
2026 年最新、最佳且評價最高的 AI 元標籤工具，助您加速頁面 SEO！XIX.AI 精選了一系列功能強大、能徹底改變遊戲規則且高度可靠的工具，這些工具均經過嚴格的實際測試。 您將在此找到免費與付費版本的比較分析，以及詳細的排名列表，助您選擇最理想的方案，以提升內容的搜尋可見度並提高寫作效率。立即探索，釋放您的 AI 競爭優勢！
9 個工具
xix.ai
