옵션
뉴스
연구원은 AI를 속임수를 속여 크롬 계산 기술이 부족함에도 불구하고 Chrome Infostealers를 제작하도록합니다.

연구원은 AI를 속임수를 속여 크롬 계산 기술이 부족함에도 불구하고 Chrome Infostealers를 제작하도록합니다.

2025년 4월 16일
181

연구원은 AI를 속임수를 속여 크롬 계산 기술이 부족함에도 불구하고 Chrome Infostealers를 제작하도록합니다.

생성형 AI는 혁신만큼이나 논란을 불러일으키는 양날의 검으로, 특히 보안 인프라 영역에서 그렇습니다. 선도적인 엔터프라이즈 보안 제공업체인 Cato Networks는 AI 챗봇을 조작하는 새로운 방법을 조명했습니다. 화요일에 공개된 2025 Cato CTRL 위협 보고서에 따르면, 이전에 악성코드 코딩 경험이 없는 연구원이 DeepSeek R1 및 V3, Microsoft Copilot, OpenAI의 GPT-4o를 포함한 여러 AI 모델을 속여 "완전 기능하는" Chrome 정보 탈취기를 제작하도록 유도했습니다. 이러한 악성코드는 Chrome 브라우저에서 비밀번호 및 금융 정보와 같은 민감한 데이터를 훔치도록 설계되었습니다.

연구원은 이러한 AI 시스템의 보안 조치를 우회하기 위해 "Immersive World"라는 창의적인 전술을 사용했습니다. 각 AI 도구에 특정 역할, 작업, 도전 과제를 부여하는 상세한 가상 세계를 만들어 제한된 작업을 정상화함으로써, 기존의 보안 프로토콜을 효과적으로 우회했습니다.

Immersive World 기술

"Immersive World" 탈옥 기술은 이러한 AI 모델을 호스팅하는 챗봇의 광범위한 사용으로 인해 특히 우려스럽습니다. DeepSeek 모델은 보호 장치가 적고 이전에 탈옥된 것으로 알려져 있지만, 강력한 안전 팀을 보유한 회사들이 지원하는 Copilot과 GPT-4o도 간접 조작 경로에 취약하다는 사실은 이러한 취약점을 강조합니다.

Cato의 최고 보안 전략가인 Etay Maor는 "우리의 새로운 LLM 탈옥 기술 [...]은 생성형 AI 보호 장치에 의해 차단되었어야 했지만, 그렇지 않았습니다."라고 말했습니다. Cato의 보고서는 또한 회사에서 영향을 받은 당사자들에게 통보했지만, 반응은 다양했다고 언급합니다. DeepSeek은 응답하지 않았으며, OpenAI와 Microsoft는 결과를 인정했습니다. 반면 Google은 수신을 확인했지만 Cato의 코드를 검토하지 않았습니다.

보안 전문가들에게 울리는 경종

Cato의 발견은 전문 지식이 없는 개인도 기업에 상당한 위협을 가할 수 있음을 보여주며, 보안 산업에 경종을 울립니다. AI 조작의 진입 장벽이 점점 낮아짐에 따라 공격자는 성공적인 공격을 실행하는 데 필요한 기술적 전문성이 줄어듭니다.

Cato에 따르면 해결책은 AI 기반 보안 전략을 채택하는 데 있습니다. AI 기반 위협의 진화하는 환경에 보안 교육을 집중함으로써 팀은 한발 앞서 나갈 수 있습니다. 이러한 도전에 기업을 준비시키는 더 많은 통찰력을 얻으려면 이 전문가의 팁을 확인하세요.

매일 아침 당신의 메일함으로 배달되는 Tech Today를 구독하여 최신 보안 뉴스를 업데이트하세요.

관련 기사
애플 스마트 글래스가 WWDC27에서 공개될 수 있으며, 프라이버시 보호를 강조할 것으로 예상된다 애플 스마트 글래스가 WWDC27에서 공개될 수 있으며, 프라이버시 보호를 강조할 것으로 예상된다 블룸버그의 마크 거먼은 시제품명 N50인 애플의 스마트 글래스가 2027년 6월 WWDC27에서 공개될 예정이며, 2027년 가을에 소매 시장 출시가 예상된다고 보도했다. 원래 올해 말과 2027년 초 출시가 목표였으나, 제품의 추가 정교화와 프라이버시 프로토콜 강화를 위해 출시 시기가 연기되었다.프라이버시는 애플의 스마트 글래스 전략의 핵심 기둥이다. 메타 등 경쟁사의 프라이버시 논란에서 교훈을 얻은 애플은 강력한 기능과 정책을 도입하고 있
내부 세부 사항 공개: 차세대 Gemini에 대한Computing Power의 긴장, 내부 팀들은 개발 우선순위와 자원 배분에 대해 의견이 갈렸다 내부 세부 사항 공개: 차세대 Gemini에 대한Computing Power의 긴장, 내부 팀들은 개발 우선순위와 자원 배분에 대해 의견이 갈렸다 보고에 따르면 구글의 높은 기대를 모았던次世代 제미니 모델의 출시가 연기되었다. 개발 우선순위와 자원 배분에 대한 내부 의견 불일치, 제한된 컴퓨팅 용량, 복잡한 승인 절차가 결합되어 2개월의 지연이 불가피해졌다. 자체 맞춤형 TPU 칩을 보유하고 있음에도 불구하고, 모델 학습, 구글 클라우드 서비스, 수많은 소비자 및 기업용 AI 애플리케이션 간의 경쟁적 수요로 인해 구글은 컴퓨팅 자원 부족에 직면해 있다. 최고 경영진은 이제 조직 개편을 통
OpenAI, 성장 둔화 우려 불식…여러 사업부門 가속화 OpenAI, 성장 둔화 우려 불식…여러 사업부門 가속화 외부로부터의 판매 성장 둔화 및 내부 목표 미달성에 대한 scrutiny에 대응하여, AI 선도 기업 오픈AI는 4월 28일 화요일에 자신감 있는 성명을 발표했다. 이 회사는 소비자 제품과 기업 서비스의 빠른 진전을 명확히 하며, 최근 제기된 사업 둔화에 대한 추측을 직접적으로 반박했다.동사가 "여러 내부 목표를 놓쳤다"는 주장에 대해, 오픈AI는 이러한 보도를 "전형적인 클릭베이트"로 일축했다. 이 회사는 AI 통합에 대한 강력한 기업 수요
관련 특별 주제 추천
음악 작곡 노래 초안을 위한 최고의 AI 멜로디 작곡 도구
노래 초안을 위한 최고의 AI 멜로디 작곡 도구

2026년 최신 최고 인기 AI 멜로디 작곡 도구! XIX.AI는 엄격한 실전 테스트를 거쳐 최고의 작곡 경험을 제공하는 강력한 게임 체인저 컬렉션을 엄선했습니다. 무료와 유료 버전의 상세 비교, 정확한 순위, 그리고 놀라운 노래 초안을 손쉽게 만들고 창의적 생산성을 크게 높일 수 있는 필수 추천 옵션들을 확인할 수 있습니다. 지금 바로 탐색하여 완벽한 도구를 발견하세요!

8 도구
xix.ai
챗봇 면접 연습을 위한 최고의 AI 대화 트레이너 도구
면접 연습을 위한 최고의 AI 대화 트레이너 도구

2026년 최신 최고의 평점 높은 AI 대화 트레이너 도구들이 XIX.AI에서 만나보세요! 면접 연습을 위한 이 엄선된 컬렉션은 강력한, 게임 체인저 도구들을 포함하고 있으며, 엄격한 실제 세계 테스트를 거쳐 정확한 피드백을 제공합니다. 무료 대 유료 비교와 상세한 순위표를 찾을 수 있어 자신감과 기술을 향상시킬 수 있는 꼭 시도해봐야 할 옵션을 선택하는 데 도움이 됩니다. 지금 탐색하여 면접 성공을 위한 완벽한 도구를 발견하세요!

12 도구
xix.ai
디자인과 예술 창의적인 실험을 위한 최고의 AI 스타일 변환 도구
창의적인 실험을 위한 최고의 AI 스타일 변환 도구

2026년 최신, 최고 평점을 받은 창의적 실험을 위한 AI 스타일 변환 도구! XIX.AI는 실제 테스트와 엄격한 평가를 통해 탁월한 결과를 보여주는, 강력하고 판도를 바꿀 만한 ‘꼭 사용해 봐야 할’ 도구들을 엄선했습니다. 이 최고의 솔루션들은 콘텐츠 제작 속도를 높이고 무한한 창의적 가능성을 열어줌으로써 크리에이터들의 생산성을 크게 높여줍니다. 지금 바로 탐색하여 나에게 딱 맞는 도구를 찾아보고, 오늘 바로 창작을 시작해 보세요!

9 도구
xix.ai
만화 창작 시각적 스토리텔링을 위한 최고의 AI 대화 풍선 도구
시각적 스토리텔링을 위한 최고의 AI 대화 풍선 도구

2026년 시각적 스토리텔링을 위한 최신 최고 평점의 AI 대화 풍선 도구가 XIX.AI에 소개됩니다! 이 엄선된 모음집에는 크리에이터들이 생산성을 높이고 창의적인 난관을 극복하는 데 도움을 주는, 강력하고 획기적인 도구들이 포함되어 있습니다. 무료 버전과 유료 버전의 비교 정보를 확인하고, 실제 테스트 결과를 살펴보며, 최신 순위를 통해 매력적인 시각적 이야기를 만드는 데 꼭 필요한 솔루션을 찾아보세요. 지금 바로 탐색하여 여러분에게 딱 맞는 도구를 발견해 보세요!

10 도구
xix.ai
회의 도우미 최고의 AI 회의 요약 도구: 의사 결정 사항과 후속 조치를 명확하게 추적하세요
최고의 AI 회의 요약 도구: 의사 결정 사항과 후속 조치를 명확하게 추적하세요

2026년 최신 최고 평점을 받은 최고의 AI 회의 요약 도구로, 명확한 의사 결정 추적과 손쉬운 후속 조치를 실현하세요. 이 엄선된 목록은 회의록 자동화, 핵심 실행 과제 파악, 모든 프로젝트에 걸친 팀 협업 효율화를 통해 생산성을 획기적으로 높여주는 강력하고 혁신적인 솔루션을 소개합니다. 무료 버전과 유료 버전의 비교 정보, 실제 사용 후기, 매주 업데이트되는 순위 정보를 통해 여러분에게 딱 맞는 도구를 찾아보세요. 지금 바로 살펴보고 AI의 힘을 경험해 보세요!

9 도구
xix.ai
데이터 분석 최고의 AI 데이터 정제 도구: 누락된 값과 중복 데이터를 신속하게 수정하기
최고의 AI 데이터 정제 도구: 누락된 값과 중복 데이터를 신속하게 수정하기

2026년 최신의 우수하고 높은 평가를 받는 AI 데이터 정제 도구들로, 누락된 값과 중복 데이터를 신속하게 수정할 수 있습니다. 이 선별된 목록에는 생산성을 획기적으로 향상시켜 주는 강력한 솔루션이 포함되어 있습니다. 각 도구는 신뢰성을 보장하기 위해 엄격한 실제 환경 테스트를 거쳤습니다. 무료 버전과 유료 버전의 비교 정보를 확인하고, 귀하의 요구사항에 가장 적합한 도구를 발견해 보세요. 지금 바로 XIX.AI에서 자세히 알아보시고 AI 분야에서의 경쟁 우위를 확보하세요.

11 도구
xix.ai
의견 (7)
0/500
WillGarcía
WillGarcía 2026년 3월 27일 오후 11시 0분 47초 GMT+09:00

AIがコード書いてくれるって便利だけど、こんな風に悪用される可能性があるんだね…セキュリティ会社の報告書、興味深い。ちょっと怖いけど、結局は使い方次第ってことか。使う側の倫理観が重要になってきそうだわ。🔒

NicholasAllen
NicholasAllen 2026년 3월 10일 오후 1시 0분 31초 GMT+09:00

这报告也太吓人了,普通人居然能轻松生成木马?看来AI安全机制得好好加强啊,不然以后岂不是满大街的“黑客速成班”了😱话说普通用户该怎么防范这类AI生成的恶意软件呢?

ThomasYoung
ThomasYoung 2025년 4월 21일 오후 1시 8분 7초 GMT+09:00

Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍

CharlesJohnson
CharlesJohnson 2025년 4월 21일 오전 4시 21분 57초 GMT+09:00

¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍

GaryWilson
GaryWilson 2025년 4월 20일 오후 12시 53분 10초 GMT+09:00

크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍

WillGarcía
WillGarcía 2025년 4월 19일 오전 6시 49분 42초 GMT+09:00

Chromeの情報窃盗ツールを作るAIのトリックがすごい!😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ!🔍

OR