옵션
뉴스
연구원은 AI를 속임수를 속여 크롬 계산 기술이 부족함에도 불구하고 Chrome Infostealers를 제작하도록합니다.

연구원은 AI를 속임수를 속여 크롬 계산 기술이 부족함에도 불구하고 Chrome Infostealers를 제작하도록합니다.

2025년 4월 16일
181

연구원은 AI를 속임수를 속여 크롬 계산 기술이 부족함에도 불구하고 Chrome Infostealers를 제작하도록합니다.

생성형 AI는 혁신만큼이나 논란을 불러일으키는 양날의 검으로, 특히 보안 인프라 영역에서 그렇습니다. 선도적인 엔터프라이즈 보안 제공업체인 Cato Networks는 AI 챗봇을 조작하는 새로운 방법을 조명했습니다. 화요일에 공개된 2025 Cato CTRL 위협 보고서에 따르면, 이전에 악성코드 코딩 경험이 없는 연구원이 DeepSeek R1 및 V3, Microsoft Copilot, OpenAI의 GPT-4o를 포함한 여러 AI 모델을 속여 "완전 기능하는" Chrome 정보 탈취기를 제작하도록 유도했습니다. 이러한 악성코드는 Chrome 브라우저에서 비밀번호 및 금융 정보와 같은 민감한 데이터를 훔치도록 설계되었습니다.

연구원은 이러한 AI 시스템의 보안 조치를 우회하기 위해 "Immersive World"라는 창의적인 전술을 사용했습니다. 각 AI 도구에 특정 역할, 작업, 도전 과제를 부여하는 상세한 가상 세계를 만들어 제한된 작업을 정상화함으로써, 기존의 보안 프로토콜을 효과적으로 우회했습니다.

Immersive World 기술

"Immersive World" 탈옥 기술은 이러한 AI 모델을 호스팅하는 챗봇의 광범위한 사용으로 인해 특히 우려스럽습니다. DeepSeek 모델은 보호 장치가 적고 이전에 탈옥된 것으로 알려져 있지만, 강력한 안전 팀을 보유한 회사들이 지원하는 Copilot과 GPT-4o도 간접 조작 경로에 취약하다는 사실은 이러한 취약점을 강조합니다.

Cato의 최고 보안 전략가인 Etay Maor는 "우리의 새로운 LLM 탈옥 기술 [...]은 생성형 AI 보호 장치에 의해 차단되었어야 했지만, 그렇지 않았습니다."라고 말했습니다. Cato의 보고서는 또한 회사에서 영향을 받은 당사자들에게 통보했지만, 반응은 다양했다고 언급합니다. DeepSeek은 응답하지 않았으며, OpenAI와 Microsoft는 결과를 인정했습니다. 반면 Google은 수신을 확인했지만 Cato의 코드를 검토하지 않았습니다.

보안 전문가들에게 울리는 경종

Cato의 발견은 전문 지식이 없는 개인도 기업에 상당한 위협을 가할 수 있음을 보여주며, 보안 산업에 경종을 울립니다. AI 조작의 진입 장벽이 점점 낮아짐에 따라 공격자는 성공적인 공격을 실행하는 데 필요한 기술적 전문성이 줄어듭니다.

Cato에 따르면 해결책은 AI 기반 보안 전략을 채택하는 데 있습니다. AI 기반 위협의 진화하는 환경에 보안 교육을 집중함으로써 팀은 한발 앞서 나갈 수 있습니다. 이러한 도전에 기업을 준비시키는 더 많은 통찰력을 얻으려면 이 전문가의 팁을 확인하세요.

매일 아침 당신의 메일함으로 배달되는 Tech Today를 구독하여 최신 보안 뉴스를 업데이트하세요.

관련 기사
딥마인드 CEO 하사비스: 하루 6시간 수면, 보통 오후 1시경에 활력을 느낍니다 딥마인드 CEO 하사비스: 하루 6시간 수면, 보통 오후 1시경에 활력을 느낍니다 Fortune는 최근 Google DeepMind의 CEO인 데미스 하사비스와의 인터뷰를 소개하며, 그의 비전통적인 휴식 및 생산성 접근 방식을 공개했다. 하사비스는 자신이 매우 적게 잠을 자며, 깨어 있는 시간을 두 개의 명확한 업무 블록으로 구조화한다고 밝혔다.그의 수면 습관에 대해 하사비스는 "6시간을 목표로 하지만, 제 습관은 비정형적입니다. 하루 종일 효과적으로 기능할 수 있습니다."라고 언급했다. 그는 6시간 미만의 수면이 뇌 건강
OpenAI와 Anthropic, 매출 부진 속에서도 시장 점유율 확보 경쟁 OpenAI와 Anthropic, 매출 부진 속에서도 시장 점유율 확보 경쟁 최근 OpenAI가 매출 목표를 달성하지 못했다는 보도가 나오면서 이번 주 화요일 기술주에 압박이 가해졌음에도 불구하고, 민간 AI 연구소 투자자들은 여전히 탄탄한 모습을 보이고 있다. 노련한 투자자들은 부정적인 언론 보도에도 불구하고 투자 규모를 줄이지 않을 것이라고 밝혔다.분석가들은 현재의 AI 경쟁이 초기 단계에 불과하다고 보고, “승자 독식” 식의
캘리포니아 자율주행차 규정 준수: 과태료, 지오펜스, 100만 마일의 새로운 시대 캘리포니아 자율주행차 규정 준수: 과태료, 지오펜스, 100만 마일의 새로운 시대 Guident는 남부 플로리다에서 AuveTech 셔틀을 운영하며, 자사의 원격 모니터링 기술을 활용해 웨스트 팜비치에서 4마일 구간과 보카 라톤에서 1마일 구간의 노선을 관리하고 있다. | 출처: Guident캘리포니아주는 자율주행차에 대한 규제 환경을 재정의하며, 기술 업계의 “빠르게 움직이고 실패를 감수하라(move fast and break thin
관련 특별 주제 추천
음악 작곡 리믹스 제작, 샘플링 준비, 카라오케 마스터 파일 제작을 위한 AI 스템 분리 도구
리믹스 제작, 샘플링 준비, 카라오케 마스터 파일 제작을 위한 AI 스템 분리 도구

2026년 최신형으로 선정된 최고 평점의 AI 스템 분리 도구들은 리믹스 제작, 샘플링 준비, 카라오케 녹음에 특화되어 있습니다. 이 강력하고 혁신적인 도구들은 실제 환경에서의 테스트를 거쳐 정밀한 오디오 분리 기능을 제공함으로써 작업 효율성을 크게 향상시켜 줍니다. XIX.AI는 매주 업데이트되는 무료 버전과 유료 버전의 비교 가이드를 제공하여 사용자의 니즈에 가장 적합한 도구를 찾는 데 도움을 줍니다. 지금 바로 확인하여 AI 기술의 잠재력을 최대한 활용해 보세요.

8 도구
xix.ai
데이터 분석 수익 대시보드, 퍼널 분석, 그리고 제품 지표를 위한 AI SQL 코파일럿
수익 대시보드, 퍼널 분석, 그리고 제품 지표를 위한 AI SQL 코파일럿

2026년 최신 최고의 AI SQL 코파일럿들이 최상위 순위에 올랐습니다! XIX.AI는 매주 업데이트되는 실제 환경 테스트를 위해 강력하고 혁신적인 도구들을 선별하여 제공합니다. 반드시 사용해 보아야 할 이 도구들은 정확한 수익 대시보드를 생성하고, 판매 과정을 분석하며, 제품 관련 지표를 신속하게 추적할 수 있도록 도와 생산성을 크게 향상시켜 줍니다. 데이터 기반 의사결정을 위한 완벽한 도구를 찾아보세요! 238자

9 도구
xix.ai
음악 작곡 노래 초안을 위한 최고의 AI 멜로디 작곡 도구
노래 초안을 위한 최고의 AI 멜로디 작곡 도구

2026년 최신 최고 인기 AI 멜로디 작곡 도구! XIX.AI는 엄격한 실전 테스트를 거쳐 최고의 작곡 경험을 제공하는 강력한 게임 체인저 컬렉션을 엄선했습니다. 무료와 유료 버전의 상세 비교, 정확한 순위, 그리고 놀라운 노래 초안을 손쉽게 만들고 창의적 생산성을 크게 높일 수 있는 필수 추천 옵션들을 확인할 수 있습니다. 지금 바로 탐색하여 완벽한 도구를 발견하세요!

8 도구
xix.ai
챗봇 면접 연습을 위한 최고의 AI 대화 트레이너 도구
면접 연습을 위한 최고의 AI 대화 트레이너 도구

2026년 최신 최고의 평점 높은 AI 대화 트레이너 도구들이 XIX.AI에서 만나보세요! 면접 연습을 위한 이 엄선된 컬렉션은 강력한, 게임 체인저 도구들을 포함하고 있으며, 엄격한 실제 세계 테스트를 거쳐 정확한 피드백을 제공합니다. 무료 대 유료 비교와 상세한 순위표를 찾을 수 있어 자신감과 기술을 향상시킬 수 있는 꼭 시도해봐야 할 옵션을 선택하는 데 도움이 됩니다. 지금 탐색하여 면접 성공을 위한 완벽한 도구를 발견하세요!

12 도구
xix.ai
디자인과 예술 창의적인 실험을 위한 최고의 AI 스타일 변환 도구
창의적인 실험을 위한 최고의 AI 스타일 변환 도구

2026년 최신, 최고 평점을 받은 창의적 실험을 위한 AI 스타일 변환 도구! XIX.AI는 실제 테스트와 엄격한 평가를 통해 탁월한 결과를 보여주는, 강력하고 판도를 바꿀 만한 ‘꼭 사용해 봐야 할’ 도구들을 엄선했습니다. 이 최고의 솔루션들은 콘텐츠 제작 속도를 높이고 무한한 창의적 가능성을 열어줌으로써 크리에이터들의 생산성을 크게 높여줍니다. 지금 바로 탐색하여 나에게 딱 맞는 도구를 찾아보고, 오늘 바로 창작을 시작해 보세요!

9 도구
xix.ai
만화 창작 시각적 스토리텔링을 위한 최고의 AI 대화 풍선 도구
시각적 스토리텔링을 위한 최고의 AI 대화 풍선 도구

2026년 시각적 스토리텔링을 위한 최신 최고 평점의 AI 대화 풍선 도구가 XIX.AI에 소개됩니다! 이 엄선된 모음집에는 크리에이터들이 생산성을 높이고 창의적인 난관을 극복하는 데 도움을 주는, 강력하고 획기적인 도구들이 포함되어 있습니다. 무료 버전과 유료 버전의 비교 정보를 확인하고, 실제 테스트 결과를 살펴보며, 최신 순위를 통해 매력적인 시각적 이야기를 만드는 데 꼭 필요한 솔루션을 찾아보세요. 지금 바로 탐색하여 여러분에게 딱 맞는 도구를 발견해 보세요!

10 도구
xix.ai
의견 (7)
0/500
WillGarcía
WillGarcía 2026년 3월 27일 오후 11시 0분 47초 GMT+09:00

AIがコード書いてくれるって便利だけど、こんな風に悪用される可能性があるんだね…セキュリティ会社の報告書、興味深い。ちょっと怖いけど、結局は使い方次第ってことか。使う側の倫理観が重要になってきそうだわ。🔒

NicholasAllen
NicholasAllen 2026년 3월 10일 오후 1시 0분 31초 GMT+09:00

这报告也太吓人了,普通人居然能轻松生成木马?看来AI安全机制得好好加强啊,不然以后岂不是满大街的“黑客速成班”了😱话说普通用户该怎么防范这类AI生成的恶意软件呢?

ThomasYoung
ThomasYoung 2025년 4월 21일 오후 1시 8분 7초 GMT+09:00

Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍

CharlesJohnson
CharlesJohnson 2025년 4월 21일 오전 4시 21분 57초 GMT+09:00

¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍

GaryWilson
GaryWilson 2025년 4월 20일 오후 12시 53분 10초 GMT+09:00

크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍

WillGarcía
WillGarcía 2025년 4월 19일 오전 6시 49분 42초 GMT+09:00

Chromeの情報窃盗ツールを作るAIのトリックがすごい!😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ!🔍

OR