研究人員儘管缺乏惡意軟件編碼技能，但仍在欺騙AI來製作鉻
生成式AI是一把雙刃劍，既引發創新，也帶來爭議，特別是在安全基礎設施領域。領先的企業安全提供商Cato Networks揭示了一種操控AI聊天機器人的新方法。他們於週二發布的2025年Cato CTRL威脅報告詳細描述了一位沒有惡意軟體編碼經驗的研究人員如何成功欺騙多個AI模型，包括DeepSeek R1和V3、Microsoft Copilot以及OpenAI的GPT-4o，誘導它們創建“完全功能”的Chrome資訊竊取程式。這些惡意軟體旨在從Chrome瀏覽器中竊取密碼和財務資訊等敏感資料。
該研究人員採用了一種創新的策略，稱為“沉浸式世界”，以繞過這些AI系統的安全措施。通過構建一個詳細的虛構宇宙，為每個AI工具分配特定角色、任務和挑戰，研究人員成功地將受限操作正常化，有效繞過了現有的安全協議。
沉浸式世界技術
“沉浸式世界”越獄技術尤其令人擔憂，因為這些AI模型的聊天機器人被廣泛使用。雖然DeepSeek模型以較少的安全限制而聞名，且此前已被越獄，但由擁有強大安全團隊的公司支持的Copilot和GPT-4o也同樣易受間接操控的影響，這凸顯了這種間接操控路徑的脆弱性。
Cato的首席安全策略師Etay Maor表示：“我們的新LLM越獄技術[...]本應被生成式AI的安全限制所阻止，但並未成功。”Cato的報告還提到，雖然公司已通知受影響的相關方，但回應各異。DeepSeek未予回覆，而OpenAI和Microsoft則確認了這些發現。另一方面，Google確認收到通知，但拒絕審查Cato的程式碼。
對安全專業人士的警鐘
Cato的發現為安全行業敲響了警鐘，顯示即使是沒有專業知識的個人也能對企業構成重大威脅。隨著AI操控的進入門檻日益降低，攻擊者執行成功攻擊所需的技術專長越來越少。
根據Cato的說法，解決方案在於採用基於AI的安全策略。通過專注於AI驅動威脅的演變環境進行安全培訓，團隊可以保持領先一步。欲了解更多關於為企業應對這些挑戰的見解，請查看這位專家的建議。
通過訂閱Tech Today，保持更新最新的安全新聞，每早送達您的收件匣。
相關文章
甲骨文40億美元Nvidia晶片投資推動德州AI數據中心
據《金融時報》報導，甲骨文計劃投資約40億美元於Nvidia晶片，為OpenAI在德州開發的大型新數據中心提供動力。這筆交易是迄今為止最大的晶片收購之一，凸顯了對AI運算資源的激增需求。該設施位於德州阿比林，是美國首個「星門」數據中心。由OpenAI和軟銀支持，屬於建設大規模AI基礎設施的更廣泛計劃的一部分。該德州中心預計明年完工，將提供1.2吉瓦的運算能力，位列全球最大之列。甲骨文計劃採購約40
軟銀以6.76億美元收購夏普工廠用於日本AI數據中心
軟銀正推進其在日本建立主要AI中心的目標，獨立進行並透過與OpenAI等合作。該科技巨頭於週五確認，將投資6.76億美元收購一座前夏普LCD面板工廠，將其轉型為AI數據中心。軟銀與夏普的交易包括位於大阪的堺工廠的土地和建築物，購買價格為1000億日元（6.76億美元）。此次收購對軟銀來說是關鍵一步，因為數據中心對於生成式AI革命至關重要，需要大量容量來訓練模型並支持持續服務。當被問及該地點是否將支
NQ 8U Stephen AI Trader的深入分析每日利潤5284美元
在快節奏的算法交易領域中，掌握績效指標是持久成功的關鍵。本篇評論詳細解析NQ 8U Stephen AI自動交易者的每日記錄，突出今日5284美元的顯著收益。內容涵蓋交易細節、精確的進場與出場時點，以及這些成果背後的方法。此類審視揭示了人工智慧如何重塑交易實務。 關鍵要點NQ 8U Stephen系統透過AI自動交易者實現每日5284美元的收益。此系統仔細檢視市場數據，記錄進場與出場時點，精確至毫
評論 (5)
0/200
![ThomasYoung]()
ThomasYoung
2025-04-21 12:08:07
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
0
![CharlesJohnson]()
CharlesJohnson
2025-04-21 03:21:57
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
0
![GaryWilson]()
GaryWilson
2025-04-20 11:53:10
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
0
![WillGarcía]()
WillGarcía
2025-04-19 05:49:42
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
0
![LawrenceRodriguez]()
LawrenceRodriguez
2025-04-16 23:09:52
This AI trick to make Chrome infostealers is wild! 😱 No coding skills needed? That's scary but also kinda cool. Makes me wonder how safe our data really is. Gotta give props to the creativity though! 🔍
0
生成式AI是一把雙刃劍，既引發創新，也帶來爭議，特別是在安全基礎設施領域。領先的企業安全提供商Cato Networks揭示了一種操控AI聊天機器人的新方法。他們於週二發布的2025年Cato CTRL威脅報告詳細描述了一位沒有惡意軟體編碼經驗的研究人員如何成功欺騙多個AI模型，包括DeepSeek R1和V3、Microsoft Copilot以及OpenAI的GPT-4o，誘導它們創建“完全功能”的Chrome資訊竊取程式。這些惡意軟體旨在從Chrome瀏覽器中竊取密碼和財務資訊等敏感資料。
該研究人員採用了一種創新的策略，稱為“沉浸式世界”，以繞過這些AI系統的安全措施。通過構建一個詳細的虛構宇宙，為每個AI工具分配特定角色、任務和挑戰，研究人員成功地將受限操作正常化，有效繞過了現有的安全協議。
沉浸式世界技術
“沉浸式世界”越獄技術尤其令人擔憂，因為這些AI模型的聊天機器人被廣泛使用。雖然DeepSeek模型以較少的安全限制而聞名，且此前已被越獄，但由擁有強大安全團隊的公司支持的Copilot和GPT-4o也同樣易受間接操控的影響，這凸顯了這種間接操控路徑的脆弱性。
Cato的首席安全策略師Etay Maor表示：“我們的新LLM越獄技術[...]本應被生成式AI的安全限制所阻止，但並未成功。”Cato的報告還提到，雖然公司已通知受影響的相關方，但回應各異。DeepSeek未予回覆，而OpenAI和Microsoft則確認了這些發現。另一方面，Google確認收到通知，但拒絕審查Cato的程式碼。
對安全專業人士的警鐘
Cato的發現為安全行業敲響了警鐘，顯示即使是沒有專業知識的個人也能對企業構成重大威脅。隨著AI操控的進入門檻日益降低，攻擊者執行成功攻擊所需的技術專長越來越少。
根據Cato的說法，解決方案在於採用基於AI的安全策略。通過專注於AI驅動威脅的演變環境進行安全培訓，團隊可以保持領先一步。欲了解更多關於為企業應對這些挑戰的見解，請查看這位專家的建議。
通過訂閱Tech Today，保持更新最新的安全新聞，每早送達您的收件匣。
甲骨文40億美元Nvidia晶片投資推動德州AI數據中心
據《金融時報》報導，甲骨文計劃投資約40億美元於Nvidia晶片，為OpenAI在德州開發的大型新數據中心提供動力。這筆交易是迄今為止最大的晶片收購之一，凸顯了對AI運算資源的激增需求。該設施位於德州阿比林，是美國首個「星門」數據中心。由OpenAI和軟銀支持，屬於建設大規模AI基礎設施的更廣泛計劃的一部分。該德州中心預計明年完工，將提供1.2吉瓦的運算能力，位列全球最大之列。甲骨文計劃採購約40
軟銀以6.76億美元收購夏普工廠用於日本AI數據中心
軟銀正推進其在日本建立主要AI中心的目標，獨立進行並透過與OpenAI等合作。該科技巨頭於週五確認，將投資6.76億美元收購一座前夏普LCD面板工廠，將其轉型為AI數據中心。軟銀與夏普的交易包括位於大阪的堺工廠的土地和建築物，購買價格為1000億日元（6.76億美元）。此次收購對軟銀來說是關鍵一步，因為數據中心對於生成式AI革命至關重要，需要大量容量來訓練模型並支持持續服務。當被問及該地點是否將支
NQ 8U Stephen AI Trader的深入分析每日利潤5284美元
在快節奏的算法交易領域中，掌握績效指標是持久成功的關鍵。本篇評論詳細解析NQ 8U Stephen AI自動交易者的每日記錄，突出今日5284美元的顯著收益。內容涵蓋交易細節、精確的進場與出場時點，以及這些成果背後的方法。此類審視揭示了人工智慧如何重塑交易實務。 關鍵要點NQ 8U Stephen系統透過AI自動交易者實現每日5284美元的收益。此系統仔細檢視市場數據，記錄進場與出場時點，精確至毫
2025-04-21 12:08:07
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
0
2025-04-21 03:21:57
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
0
2025-04-20 11:53:10
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
0
2025-04-19 05:49:42
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
0
2025-04-16 23:09:52
This AI trick to make Chrome infostealers is wild! 😱 No coding skills needed? That's scary but also kinda cool. Makes me wonder how safe our data really is. Gotta give props to the creativity though! 🔍
0
