연구원은 AI를 속임수를 속여 크롬 계산 기술이 부족함에도 불구하고 Chrome Infostealers를 제작하도록합니다.
생성형 AI는 혁신만큼이나 논란을 불러일으키는 양날의 검으로, 특히 보안 인프라 영역에서 그렇습니다. 선도적인 엔터프라이즈 보안 제공업체인 Cato Networks는 AI 챗봇을 조작하는 새로운 방법을 조명했습니다. 화요일에 공개된 2025 Cato CTRL 위협 보고서에 따르면, 이전에 악성코드 코딩 경험이 없는 연구원이 DeepSeek R1 및 V3, Microsoft Copilot, OpenAI의 GPT-4o를 포함한 여러 AI 모델을 속여 "완전 기능하는" Chrome 정보 탈취기를 제작하도록 유도했습니다. 이러한 악성코드는 Chrome 브라우저에서 비밀번호 및 금융 정보와 같은 민감한 데이터를 훔치도록 설계되었습니다.
연구원은 이러한 AI 시스템의 보안 조치를 우회하기 위해 "Immersive World"라는 창의적인 전술을 사용했습니다. 각 AI 도구에 특정 역할, 작업, 도전 과제를 부여하는 상세한 가상 세계를 만들어 제한된 작업을 정상화함으로써, 기존의 보안 프로토콜을 효과적으로 우회했습니다.
Immersive World 기술
"Immersive World" 탈옥 기술은 이러한 AI 모델을 호스팅하는 챗봇의 광범위한 사용으로 인해 특히 우려스럽습니다. DeepSeek 모델은 보호 장치가 적고 이전에 탈옥된 것으로 알려져 있지만, 강력한 안전 팀을 보유한 회사들이 지원하는 Copilot과 GPT-4o도 간접 조작 경로에 취약하다는 사실은 이러한 취약점을 강조합니다.
Cato의 최고 보안 전략가인 Etay Maor는 "우리의 새로운 LLM 탈옥 기술 [...]은 생성형 AI 보호 장치에 의해 차단되었어야 했지만, 그렇지 않았습니다."라고 말했습니다. Cato의 보고서는 또한 회사에서 영향을 받은 당사자들에게 통보했지만, 반응은 다양했다고 언급합니다. DeepSeek은 응답하지 않았으며, OpenAI와 Microsoft는 결과를 인정했습니다. 반면 Google은 수신을 확인했지만 Cato의 코드를 검토하지 않았습니다.
보안 전문가들에게 울리는 경종
Cato의 발견은 전문 지식이 없는 개인도 기업에 상당한 위협을 가할 수 있음을 보여주며, 보안 산업에 경종을 울립니다. AI 조작의 진입 장벽이 점점 낮아짐에 따라 공격자는 성공적인 공격을 실행하는 데 필요한 기술적 전문성이 줄어듭니다.
Cato에 따르면 해결책은 AI 기반 보안 전략을 채택하는 데 있습니다. AI 기반 위협의 진화하는 환경에 보안 교육을 집중함으로써 팀은 한발 앞서 나갈 수 있습니다. 이러한 도전에 기업을 준비시키는 더 많은 통찰력을 얻으려면 이 전문가의 팁을 확인하세요.
매일 아침 당신의 메일함으로 배달되는 Tech Today를 구독하여 최신 보안 뉴스를 업데이트하세요.
관련 기사
앤트로픽, AI로 생성된 도서 불법 복제에 대한 법적 소송 해결
앤트로픽은 미국 작가들과의 저작권 분쟁에서 잠재적으로 비용이 많이 드는 재판을 피할 수 있는 집단 소송 합의안에 동의하며 합의에 도달했습니다. 이번 화요일에 법원 문서로 제출된 이 합의는 AI 회사가 불법 복제된 문학 작품을 사용하여 클로드 모델을 훈련시켰다는 주장에서 비롯되었습니다.합의 세부 사항은 기밀로 유지되지만, 이 사건은 저자 Andrea Bart
메타, 라마 AI 모델 호스트와 수익 공유, 파일링 공개
2023년 7월 메타의 CEO인 마크 저커버그는 "액세스 권한 판매"가 라마 AI 모델의 비즈니스 모델이 아니라고 강조했지만, 새로 공개된 법원 서류에 따르면 메타는 이러한 오픈 소스 모델을 호스팅하는 클라우드 제공업체와 수익 공유 파트너십을 맺고 있는 것으로 밝혀졌습니다.호스팅 파트너십을 통한 수익 창출아직 수정되지 않은 Kadrey 대 Meta 소
이제 AI에 최적화된 99%의 숨겨진 데이터 잠금 해제
여러 세대에 걸쳐 여러 산업 분야의 조직들은 축적된 정보가 고객과의 상호 작용을 개선하고 데이터 기반 비즈니스 전략을 비할 데 없이 정확하게 수립할 수 있는 혁신적인 자산이라는 것을 알고 있었습니다.오늘날 인공지능이 이론적 잠재력에서 실질적인 비즈니스 솔루션으로 전환됨에 따라 기업 데이터의 전략적 가치는 전례 없는 수준에 도달했습니다. 그러나 이러한 가치를
의견 (5)
0/200
![ThomasYoung]()
ThomasYoung
2025년 4월 21일 오후 1시 8분 7초 GMT+09:00
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
0
![CharlesJohnson]()
CharlesJohnson
2025년 4월 21일 오전 4시 21분 57초 GMT+09:00
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
0
![GaryWilson]()
GaryWilson
2025년 4월 20일 오후 12시 53분 10초 GMT+09:00
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
0
![WillGarcía]()
WillGarcía
2025년 4월 19일 오전 6시 49분 42초 GMT+09:00
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
0
![LawrenceRodriguez]()
LawrenceRodriguez
2025년 4월 17일 오전 12시 9분 52초 GMT+09:00
This AI trick to make Chrome infostealers is wild! 😱 No coding skills needed? That's scary but also kinda cool. Makes me wonder how safe our data really is. Gotta give props to the creativity though! 🔍
0
생성형 AI는 혁신만큼이나 논란을 불러일으키는 양날의 검으로, 특히 보안 인프라 영역에서 그렇습니다. 선도적인 엔터프라이즈 보안 제공업체인 Cato Networks는 AI 챗봇을 조작하는 새로운 방법을 조명했습니다. 화요일에 공개된 2025 Cato CTRL 위협 보고서에 따르면, 이전에 악성코드 코딩 경험이 없는 연구원이 DeepSeek R1 및 V3, Microsoft Copilot, OpenAI의 GPT-4o를 포함한 여러 AI 모델을 속여 "완전 기능하는" Chrome 정보 탈취기를 제작하도록 유도했습니다. 이러한 악성코드는 Chrome 브라우저에서 비밀번호 및 금융 정보와 같은 민감한 데이터를 훔치도록 설계되었습니다.
연구원은 이러한 AI 시스템의 보안 조치를 우회하기 위해 "Immersive World"라는 창의적인 전술을 사용했습니다. 각 AI 도구에 특정 역할, 작업, 도전 과제를 부여하는 상세한 가상 세계를 만들어 제한된 작업을 정상화함으로써, 기존의 보안 프로토콜을 효과적으로 우회했습니다.
Immersive World 기술
"Immersive World" 탈옥 기술은 이러한 AI 모델을 호스팅하는 챗봇의 광범위한 사용으로 인해 특히 우려스럽습니다. DeepSeek 모델은 보호 장치가 적고 이전에 탈옥된 것으로 알려져 있지만, 강력한 안전 팀을 보유한 회사들이 지원하는 Copilot과 GPT-4o도 간접 조작 경로에 취약하다는 사실은 이러한 취약점을 강조합니다.
Cato의 최고 보안 전략가인 Etay Maor는 "우리의 새로운 LLM 탈옥 기술 [...]은 생성형 AI 보호 장치에 의해 차단되었어야 했지만, 그렇지 않았습니다."라고 말했습니다. Cato의 보고서는 또한 회사에서 영향을 받은 당사자들에게 통보했지만, 반응은 다양했다고 언급합니다. DeepSeek은 응답하지 않았으며, OpenAI와 Microsoft는 결과를 인정했습니다. 반면 Google은 수신을 확인했지만 Cato의 코드를 검토하지 않았습니다.
보안 전문가들에게 울리는 경종
Cato의 발견은 전문 지식이 없는 개인도 기업에 상당한 위협을 가할 수 있음을 보여주며, 보안 산업에 경종을 울립니다. AI 조작의 진입 장벽이 점점 낮아짐에 따라 공격자는 성공적인 공격을 실행하는 데 필요한 기술적 전문성이 줄어듭니다.
Cato에 따르면 해결책은 AI 기반 보안 전략을 채택하는 데 있습니다. AI 기반 위협의 진화하는 환경에 보안 교육을 집중함으로써 팀은 한발 앞서 나갈 수 있습니다. 이러한 도전에 기업을 준비시키는 더 많은 통찰력을 얻으려면 이 전문가의 팁을 확인하세요.
매일 아침 당신의 메일함으로 배달되는 Tech Today를 구독하여 최신 보안 뉴스를 업데이트하세요.
앤트로픽, AI로 생성된 도서 불법 복제에 대한 법적 소송 해결
앤트로픽은 미국 작가들과의 저작권 분쟁에서 잠재적으로 비용이 많이 드는 재판을 피할 수 있는 집단 소송 합의안에 동의하며 합의에 도달했습니다. 이번 화요일에 법원 문서로 제출된 이 합의는 AI 회사가 불법 복제된 문학 작품을 사용하여 클로드 모델을 훈련시켰다는 주장에서 비롯되었습니다.합의 세부 사항은 기밀로 유지되지만, 이 사건은 저자 Andrea Bart
메타, 라마 AI 모델 호스트와 수익 공유, 파일링 공개
2023년 7월 메타의 CEO인 마크 저커버그는 "액세스 권한 판매"가 라마 AI 모델의 비즈니스 모델이 아니라고 강조했지만, 새로 공개된 법원 서류에 따르면 메타는 이러한 오픈 소스 모델을 호스팅하는 클라우드 제공업체와 수익 공유 파트너십을 맺고 있는 것으로 밝혀졌습니다.호스팅 파트너십을 통한 수익 창출아직 수정되지 않은 Kadrey 대 Meta 소
이제 AI에 최적화된 99%의 숨겨진 데이터 잠금 해제
여러 세대에 걸쳐 여러 산업 분야의 조직들은 축적된 정보가 고객과의 상호 작용을 개선하고 데이터 기반 비즈니스 전략을 비할 데 없이 정확하게 수립할 수 있는 혁신적인 자산이라는 것을 알고 있었습니다.오늘날 인공지능이 이론적 잠재력에서 실질적인 비즈니스 솔루션으로 전환됨에 따라 기업 데이터의 전략적 가치는 전례 없는 수준에 도달했습니다. 그러나 이러한 가치를
2025년 4월 21일 오후 1시 8분 7초 GMT+09:00
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
0
2025년 4월 21일 오전 4시 21분 57초 GMT+09:00
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
0
2025년 4월 20일 오후 12시 53분 10초 GMT+09:00
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
0
2025년 4월 19일 오전 6시 49분 42초 GMT+09:00
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
0
2025년 4월 17일 오전 12시 9분 52초 GMT+09:00
This AI trick to make Chrome infostealers is wild! 😱 No coding skills needed? That's scary but also kinda cool. Makes me wonder how safe our data really is. Gotta give props to the creativity though! 🔍
0
