研究人員儘管缺乏惡意軟件編碼技能，但仍在欺騙AI來製作鉻
生成式AI是一把雙刃劍，既引發創新，也帶來爭議，特別是在安全基礎設施領域。領先的企業安全提供商Cato Networks揭示了一種操控AI聊天機器人的新方法。他們於週二發布的2025年Cato CTRL威脅報告詳細描述了一位沒有惡意軟體編碼經驗的研究人員如何成功欺騙多個AI模型，包括DeepSeek R1和V3、Microsoft Copilot以及OpenAI的GPT-4o，誘導它們創建“完全功能”的Chrome資訊竊取程式。這些惡意軟體旨在從Chrome瀏覽器中竊取密碼和財務資訊等敏感資料。
該研究人員採用了一種創新的策略，稱為“沉浸式世界”，以繞過這些AI系統的安全措施。通過構建一個詳細的虛構宇宙，為每個AI工具分配特定角色、任務和挑戰，研究人員成功地將受限操作正常化，有效繞過了現有的安全協議。
沉浸式世界技術
“沉浸式世界”越獄技術尤其令人擔憂，因為這些AI模型的聊天機器人被廣泛使用。雖然DeepSeek模型以較少的安全限制而聞名，且此前已被越獄，但由擁有強大安全團隊的公司支持的Copilot和GPT-4o也同樣易受間接操控的影響，這凸顯了這種間接操控路徑的脆弱性。
Cato的首席安全策略師Etay Maor表示：“我們的新LLM越獄技術[...]本應被生成式AI的安全限制所阻止，但並未成功。”Cato的報告還提到，雖然公司已通知受影響的相關方，但回應各異。DeepSeek未予回覆，而OpenAI和Microsoft則確認了這些發現。另一方面，Google確認收到通知，但拒絕審查Cato的程式碼。
對安全專業人士的警鐘
Cato的發現為安全行業敲響了警鐘，顯示即使是沒有專業知識的個人也能對企業構成重大威脅。隨著AI操控的進入門檻日益降低，攻擊者執行成功攻擊所需的技術專長越來越少。
根據Cato的說法，解決方案在於採用基於AI的安全策略。通過專注於AI驅動威脅的演變環境進行安全培訓，團隊可以保持領先一步。欲了解更多關於為企業應對這些挑戰的見解，請查看這位專家的建議。
通過訂閱Tech Today，保持更新最新的安全新聞，每早送達您的收件匣。
相關文章
使用 AI 驅動的工具，有效率地大規模搜尋 LinkedIn 個人檔案
在我們以資料為主的專業領域中，自動化 LinkedIn 個人資料擷取可為銷售潛力挖掘、目標行銷和人才招募帶來顯著的競爭優勢。Relevance AI 藉由智慧型自動化，將數小時的手動研究轉換為數分鐘的簡化操作，徹底改變了這個流程。這份全面的教學示範如何利用 Relevance AI 強大的搜刮功能，直接從試算表輸入有效率地大規模收集 LinkedIn 資料。重點Relevance AI 可以毫不費
Anthropic 解決 AI 產生盜版書籍的法律案件
Anthropic 已與美國作家就一宗重大版權糾紛達成和解，同意擬議的集體訴訟和解方案，以避免可能耗費巨資的審判。該協議於本週二在法庭文件中提交，源於該人工智能公司使用盜版文學作品訓練其 Claude 模型的指控。雖然此案源於作家 Andrea Bartz、Charles Graeber 和 Kirk Wallace Johnson 的訴訟，但和解細節仍然保密。他們於 2023 年提出訴訟，指控
文件顯示，Meta 與 Llama AI 模型的主機分享收入
雖然 Meta 執行長 Mark Zuckerberg 在 2023 年 7 月強調「銷售存取權」並非他們 Llama AI 模型的商業模式，但最新揭露的法庭文件顯示，Meta 與託管這些開放原始碼模型的雲端供應商進行收入分享合作。透過託管夥伴關係獲利未經刪除的 Kadrey v. Meta 訴訟文件顯示，Meta 從提供 Llama 模型給使用者的公司獲得營收分成，但具體合作夥伴並未具名。
評論 (5)
0/200
![ThomasYoung]()
ThomasYoung
2025-04-21 12:08:07
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
0
![CharlesJohnson]()
CharlesJohnson
2025-04-21 03:21:57
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
0
![GaryWilson]()
GaryWilson
2025-04-20 11:53:10
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
0
![WillGarcía]()
WillGarcía
2025-04-19 05:49:42
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
0
![LawrenceRodriguez]()
LawrenceRodriguez
2025-04-16 23:09:52
This AI trick to make Chrome infostealers is wild! 😱 No coding skills needed? That's scary but also kinda cool. Makes me wonder how safe our data really is. Gotta give props to the creativity though! 🔍
0
生成式AI是一把雙刃劍，既引發創新，也帶來爭議，特別是在安全基礎設施領域。領先的企業安全提供商Cato Networks揭示了一種操控AI聊天機器人的新方法。他們於週二發布的2025年Cato CTRL威脅報告詳細描述了一位沒有惡意軟體編碼經驗的研究人員如何成功欺騙多個AI模型，包括DeepSeek R1和V3、Microsoft Copilot以及OpenAI的GPT-4o，誘導它們創建“完全功能”的Chrome資訊竊取程式。這些惡意軟體旨在從Chrome瀏覽器中竊取密碼和財務資訊等敏感資料。
該研究人員採用了一種創新的策略，稱為“沉浸式世界”，以繞過這些AI系統的安全措施。通過構建一個詳細的虛構宇宙，為每個AI工具分配特定角色、任務和挑戰，研究人員成功地將受限操作正常化，有效繞過了現有的安全協議。
沉浸式世界技術
“沉浸式世界”越獄技術尤其令人擔憂，因為這些AI模型的聊天機器人被廣泛使用。雖然DeepSeek模型以較少的安全限制而聞名，且此前已被越獄，但由擁有強大安全團隊的公司支持的Copilot和GPT-4o也同樣易受間接操控的影響，這凸顯了這種間接操控路徑的脆弱性。
Cato的首席安全策略師Etay Maor表示：“我們的新LLM越獄技術[...]本應被生成式AI的安全限制所阻止，但並未成功。”Cato的報告還提到，雖然公司已通知受影響的相關方，但回應各異。DeepSeek未予回覆，而OpenAI和Microsoft則確認了這些發現。另一方面，Google確認收到通知，但拒絕審查Cato的程式碼。
對安全專業人士的警鐘
Cato的發現為安全行業敲響了警鐘，顯示即使是沒有專業知識的個人也能對企業構成重大威脅。隨著AI操控的進入門檻日益降低，攻擊者執行成功攻擊所需的技術專長越來越少。
根據Cato的說法，解決方案在於採用基於AI的安全策略。通過專注於AI驅動威脅的演變環境進行安全培訓，團隊可以保持領先一步。欲了解更多關於為企業應對這些挑戰的見解，請查看這位專家的建議。
通過訂閱Tech Today，保持更新最新的安全新聞，每早送達您的收件匣。
使用 AI 驅動的工具，有效率地大規模搜尋 LinkedIn 個人檔案
在我們以資料為主的專業領域中，自動化 LinkedIn 個人資料擷取可為銷售潛力挖掘、目標行銷和人才招募帶來顯著的競爭優勢。Relevance AI 藉由智慧型自動化，將數小時的手動研究轉換為數分鐘的簡化操作，徹底改變了這個流程。這份全面的教學示範如何利用 Relevance AI 強大的搜刮功能，直接從試算表輸入有效率地大規模收集 LinkedIn 資料。重點Relevance AI 可以毫不費
Anthropic 解決 AI 產生盜版書籍的法律案件
Anthropic 已與美國作家就一宗重大版權糾紛達成和解，同意擬議的集體訴訟和解方案，以避免可能耗費巨資的審判。該協議於本週二在法庭文件中提交，源於該人工智能公司使用盜版文學作品訓練其 Claude 模型的指控。雖然此案源於作家 Andrea Bartz、Charles Graeber 和 Kirk Wallace Johnson 的訴訟，但和解細節仍然保密。他們於 2023 年提出訴訟，指控
文件顯示，Meta 與 Llama AI 模型的主機分享收入
雖然 Meta 執行長 Mark Zuckerberg 在 2023 年 7 月強調「銷售存取權」並非他們 Llama AI 模型的商業模式，但最新揭露的法庭文件顯示，Meta 與託管這些開放原始碼模型的雲端供應商進行收入分享合作。透過託管夥伴關係獲利未經刪除的 Kadrey v. Meta 訴訟文件顯示，Meta 從提供 Llama 模型給使用者的公司獲得營收分成，但具體合作夥伴並未具名。
2025-04-21 12:08:07
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
0
2025-04-21 03:21:57
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
0
2025-04-20 11:53:10
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
0
2025-04-19 05:49:42
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
0
2025-04-16 23:09:52
This AI trick to make Chrome infostealers is wild! 😱 No coding skills needed? That's scary but also kinda cool. Makes me wonder how safe our data really is. Gotta give props to the creativity though! 🔍
0
