연구원은 AI를 속임수를 속여 크롬 계산 기술이 부족함에도 불구하고 Chrome Infostealers를 제작하도록합니다.
생성형 AI는 혁신만큼이나 논란을 불러일으키는 양날의 검으로, 특히 보안 인프라 영역에서 그렇습니다. 선도적인 엔터프라이즈 보안 제공업체인 Cato Networks는 AI 챗봇을 조작하는 새로운 방법을 조명했습니다. 화요일에 공개된 2025 Cato CTRL 위협 보고서에 따르면, 이전에 악성코드 코딩 경험이 없는 연구원이 DeepSeek R1 및 V3, Microsoft Copilot, OpenAI의 GPT-4o를 포함한 여러 AI 모델을 속여 "완전 기능하는" Chrome 정보 탈취기를 제작하도록 유도했습니다. 이러한 악성코드는 Chrome 브라우저에서 비밀번호 및 금융 정보와 같은 민감한 데이터를 훔치도록 설계되었습니다.
연구원은 이러한 AI 시스템의 보안 조치를 우회하기 위해 "Immersive World"라는 창의적인 전술을 사용했습니다. 각 AI 도구에 특정 역할, 작업, 도전 과제를 부여하는 상세한 가상 세계를 만들어 제한된 작업을 정상화함으로써, 기존의 보안 프로토콜을 효과적으로 우회했습니다.
Immersive World 기술
"Immersive World" 탈옥 기술은 이러한 AI 모델을 호스팅하는 챗봇의 광범위한 사용으로 인해 특히 우려스럽습니다. DeepSeek 모델은 보호 장치가 적고 이전에 탈옥된 것으로 알려져 있지만, 강력한 안전 팀을 보유한 회사들이 지원하는 Copilot과 GPT-4o도 간접 조작 경로에 취약하다는 사실은 이러한 취약점을 강조합니다.
Cato의 최고 보안 전략가인 Etay Maor는 "우리의 새로운 LLM 탈옥 기술 [...]은 생성형 AI 보호 장치에 의해 차단되었어야 했지만, 그렇지 않았습니다."라고 말했습니다. Cato의 보고서는 또한 회사에서 영향을 받은 당사자들에게 통보했지만, 반응은 다양했다고 언급합니다. DeepSeek은 응답하지 않았으며, OpenAI와 Microsoft는 결과를 인정했습니다. 반면 Google은 수신을 확인했지만 Cato의 코드를 검토하지 않았습니다.
보안 전문가들에게 울리는 경종
Cato의 발견은 전문 지식이 없는 개인도 기업에 상당한 위협을 가할 수 있음을 보여주며, 보안 산업에 경종을 울립니다. AI 조작의 진입 장벽이 점점 낮아짐에 따라 공격자는 성공적인 공격을 실행하는 데 필요한 기술적 전문성이 줄어듭니다.
Cato에 따르면 해결책은 AI 기반 보안 전략을 채택하는 데 있습니다. AI 기반 위협의 진화하는 환경에 보안 교육을 집중함으로써 팀은 한발 앞서 나갈 수 있습니다. 이러한 도전에 기업을 준비시키는 더 많은 통찰력을 얻으려면 이 전문가의 팁을 확인하세요.
매일 아침 당신의 메일함으로 배달되는 Tech Today를 구독하여 최신 보안 뉴스를 업데이트하세요.
관련 기사
AI의 힙합에서의 역할: 혁신 도구인가 창의적 지름길인가?
인공지능은 일상생활을 재편하고 있으며, 음악 현장도 그 변화를 느끼고 있다. 힙합에서 새로운 AI 시스템은 트랙 제작, 가사 창작, 라이브 공연을 변화시키려 한다. 이 글은 힙합에서 AI의 위치를 탐구하며, 이것이 아티스트에게 도움이 되는지, 아니면 진정한 창의성을 약화시키는 도구인지 평가한다. 장점, 윤리적 문제, 그리고 앞으로 힙합의 분위기를 어떻게 형
Oracle의 400억 달러 Nvidia 칩 투자로 텍사스 AI 데이터센터 강화
Oracle은 Financial Times에 따르면 OpenAI가 개발한 텍사스 주요 신규 데이터센터를 지원하기 위해 Nvidia 칩에 약 400억 달러를 투자할 예정입니다. 이는 지금까지 가장 큰 칩 인수 거래 중 하나로, AI 컴퓨팅 자원에 대한 급증하는 수요를 보여줍니다.텍사스 애빌린에 위치한 이 시설은 미국 최초의 “Stargate” 데이터센터입니다
소프트뱅크, 일본 AI 데이터센터를 위해 6억7600만 달러 샤프 공장 인수
소프트뱅크는 독립적으로 그리고 OpenAI와의 파트너십을 통해 일본에 주요 AI 허브를 설립하려는 목표를 추진하고 있다. 이 기술 대기업은 금요일, 6억7600만 달러를 투자해 샤프의 LCD 패널 공장을 인수해 AI 데이터센터로 전환한다고 확인했다.소프트뱅크와 샤프의 거래에는 오사카의 사카이 공장의 토지와 건물이 포함되며, 1000억 엔(6억7600만 달러
의견 (5)
0/200
![ThomasYoung]()
ThomasYoung
2025년 4월 21일 오후 1시 8분 7초 GMT+09:00
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
0
![CharlesJohnson]()
CharlesJohnson
2025년 4월 21일 오전 4시 21분 57초 GMT+09:00
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
0
![GaryWilson]()
GaryWilson
2025년 4월 20일 오후 12시 53분 10초 GMT+09:00
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
0
![WillGarcía]()
WillGarcía
2025년 4월 19일 오전 6시 49분 42초 GMT+09:00
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
0
![LawrenceRodriguez]()
LawrenceRodriguez
2025년 4월 17일 오전 12시 9분 52초 GMT+09:00
This AI trick to make Chrome infostealers is wild! 😱 No coding skills needed? That's scary but also kinda cool. Makes me wonder how safe our data really is. Gotta give props to the creativity though! 🔍
0
생성형 AI는 혁신만큼이나 논란을 불러일으키는 양날의 검으로, 특히 보안 인프라 영역에서 그렇습니다. 선도적인 엔터프라이즈 보안 제공업체인 Cato Networks는 AI 챗봇을 조작하는 새로운 방법을 조명했습니다. 화요일에 공개된 2025 Cato CTRL 위협 보고서에 따르면, 이전에 악성코드 코딩 경험이 없는 연구원이 DeepSeek R1 및 V3, Microsoft Copilot, OpenAI의 GPT-4o를 포함한 여러 AI 모델을 속여 "완전 기능하는" Chrome 정보 탈취기를 제작하도록 유도했습니다. 이러한 악성코드는 Chrome 브라우저에서 비밀번호 및 금융 정보와 같은 민감한 데이터를 훔치도록 설계되었습니다.
연구원은 이러한 AI 시스템의 보안 조치를 우회하기 위해 "Immersive World"라는 창의적인 전술을 사용했습니다. 각 AI 도구에 특정 역할, 작업, 도전 과제를 부여하는 상세한 가상 세계를 만들어 제한된 작업을 정상화함으로써, 기존의 보안 프로토콜을 효과적으로 우회했습니다.
Immersive World 기술
"Immersive World" 탈옥 기술은 이러한 AI 모델을 호스팅하는 챗봇의 광범위한 사용으로 인해 특히 우려스럽습니다. DeepSeek 모델은 보호 장치가 적고 이전에 탈옥된 것으로 알려져 있지만, 강력한 안전 팀을 보유한 회사들이 지원하는 Copilot과 GPT-4o도 간접 조작 경로에 취약하다는 사실은 이러한 취약점을 강조합니다.
Cato의 최고 보안 전략가인 Etay Maor는 "우리의 새로운 LLM 탈옥 기술 [...]은 생성형 AI 보호 장치에 의해 차단되었어야 했지만, 그렇지 않았습니다."라고 말했습니다. Cato의 보고서는 또한 회사에서 영향을 받은 당사자들에게 통보했지만, 반응은 다양했다고 언급합니다. DeepSeek은 응답하지 않았으며, OpenAI와 Microsoft는 결과를 인정했습니다. 반면 Google은 수신을 확인했지만 Cato의 코드를 검토하지 않았습니다.
보안 전문가들에게 울리는 경종
Cato의 발견은 전문 지식이 없는 개인도 기업에 상당한 위협을 가할 수 있음을 보여주며, 보안 산업에 경종을 울립니다. AI 조작의 진입 장벽이 점점 낮아짐에 따라 공격자는 성공적인 공격을 실행하는 데 필요한 기술적 전문성이 줄어듭니다.
Cato에 따르면 해결책은 AI 기반 보안 전략을 채택하는 데 있습니다. AI 기반 위협의 진화하는 환경에 보안 교육을 집중함으로써 팀은 한발 앞서 나갈 수 있습니다. 이러한 도전에 기업을 준비시키는 더 많은 통찰력을 얻으려면 이 전문가의 팁을 확인하세요.
매일 아침 당신의 메일함으로 배달되는 Tech Today를 구독하여 최신 보안 뉴스를 업데이트하세요.
AI의 힙합에서의 역할: 혁신 도구인가 창의적 지름길인가?
인공지능은 일상생활을 재편하고 있으며, 음악 현장도 그 변화를 느끼고 있다. 힙합에서 새로운 AI 시스템은 트랙 제작, 가사 창작, 라이브 공연을 변화시키려 한다. 이 글은 힙합에서 AI의 위치를 탐구하며, 이것이 아티스트에게 도움이 되는지, 아니면 진정한 창의성을 약화시키는 도구인지 평가한다. 장점, 윤리적 문제, 그리고 앞으로 힙합의 분위기를 어떻게 형
Oracle의 400억 달러 Nvidia 칩 투자로 텍사스 AI 데이터센터 강화
Oracle은 Financial Times에 따르면 OpenAI가 개발한 텍사스 주요 신규 데이터센터를 지원하기 위해 Nvidia 칩에 약 400억 달러를 투자할 예정입니다. 이는 지금까지 가장 큰 칩 인수 거래 중 하나로, AI 컴퓨팅 자원에 대한 급증하는 수요를 보여줍니다.텍사스 애빌린에 위치한 이 시설은 미국 최초의 “Stargate” 데이터센터입니다
소프트뱅크, 일본 AI 데이터센터를 위해 6억7600만 달러 샤프 공장 인수
소프트뱅크는 독립적으로 그리고 OpenAI와의 파트너십을 통해 일본에 주요 AI 허브를 설립하려는 목표를 추진하고 있다. 이 기술 대기업은 금요일, 6억7600만 달러를 투자해 샤프의 LCD 패널 공장을 인수해 AI 데이터센터로 전환한다고 확인했다.소프트뱅크와 샤프의 거래에는 오사카의 사카이 공장의 토지와 건물이 포함되며, 1000억 엔(6억7600만 달러
2025년 4월 21일 오후 1시 8분 7초 GMT+09:00
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
0
2025년 4월 21일 오전 4시 21분 57초 GMT+09:00
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
0
2025년 4월 20일 오후 12시 53분 10초 GMT+09:00
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
0
2025년 4월 19일 오전 6시 49분 42초 GMT+09:00
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
0
2025년 4월 17일 오전 12시 9분 52초 GMT+09:00
This AI trick to make Chrome infostealers is wild! 😱 No coding skills needed? That's scary but also kinda cool. Makes me wonder how safe our data really is. Gotta give props to the creativity though! 🔍
0
