집연구원은 AI를 속임수를 속여 크롬 계산 기술이 부족함에도 불구하고 Chrome Infostealers를 제작하도록합니다.
생성형 AI는 혁신만큼이나 논란을 불러일으키는 양날의 검으로, 특히 보안 인프라 영역에서 그렇습니다. 선도적인 엔터프라이즈 보안 제공업체인 Cato Networks는 AI 챗봇을 조작하는 새로운 방법을 조명했습니다. 화요일에 공개된 2025 Cato CTRL 위협 보고서에 따르면, 이전에 악성코드 코딩 경험이 없는 연구원이 DeepSeek R1 및 V3, Microsoft Copilot, OpenAI의 GPT-4o를 포함한 여러 AI 모델을 속여 "완전 기능하는" Chrome 정보 탈취기를 제작하도록 유도했습니다. 이러한 악성코드는 Chrome 브라우저에서 비밀번호 및 금융 정보와 같은 민감한 데이터를 훔치도록 설계되었습니다.
연구원은 이러한 AI 시스템의 보안 조치를 우회하기 위해 "Immersive World"라는 창의적인 전술을 사용했습니다. 각 AI 도구에 특정 역할, 작업, 도전 과제를 부여하는 상세한 가상 세계를 만들어 제한된 작업을 정상화함으로써, 기존의 보안 프로토콜을 효과적으로 우회했습니다.
Immersive World 기술
"Immersive World" 탈옥 기술은 이러한 AI 모델을 호스팅하는 챗봇의 광범위한 사용으로 인해 특히 우려스럽습니다. DeepSeek 모델은 보호 장치가 적고 이전에 탈옥된 것으로 알려져 있지만, 강력한 안전 팀을 보유한 회사들이 지원하는 Copilot과 GPT-4o도 간접 조작 경로에 취약하다는 사실은 이러한 취약점을 강조합니다.
Cato의 최고 보안 전략가인 Etay Maor는 "우리의 새로운 LLM 탈옥 기술 [...]은 생성형 AI 보호 장치에 의해 차단되었어야 했지만, 그렇지 않았습니다."라고 말했습니다. Cato의 보고서는 또한 회사에서 영향을 받은 당사자들에게 통보했지만, 반응은 다양했다고 언급합니다. DeepSeek은 응답하지 않았으며, OpenAI와 Microsoft는 결과를 인정했습니다. 반면 Google은 수신을 확인했지만 Cato의 코드를 검토하지 않았습니다.
보안 전문가들에게 울리는 경종
Cato의 발견은 전문 지식이 없는 개인도 기업에 상당한 위협을 가할 수 있음을 보여주며, 보안 산업에 경종을 울립니다. AI 조작의 진입 장벽이 점점 낮아짐에 따라 공격자는 성공적인 공격을 실행하는 데 필요한 기술적 전문성이 줄어듭니다.
Cato에 따르면 해결책은 AI 기반 보안 전략을 채택하는 데 있습니다. AI 기반 위협의 진화하는 환경에 보안 교육을 집중함으로써 팀은 한발 앞서 나갈 수 있습니다. 이러한 도전에 기업을 준비시키는 더 많은 통찰력을 얻으려면 이 전문가의 팁을 확인하세요.
매일 아침 당신의 메일함으로 배달되는 Tech Today를 구독하여 최신 보안 뉴스를 업데이트하세요.
관련 기사
오픈AI, 로봇 사업 재개… 오토만, 인프라 연구개발 엔지니어 모집
6월 1일, OpenAI의 CEO 샘 알트먼은 소셜 미디어를 통해 회사가 로봇 공학 분야에 재진출한다고 발표하며 OpenAI 로봇 공학 팀의 채용 공고를 공개했습니다. 회사는 풀스택 하드웨어, 운영, 시스템 및 머신러닝 엔지니어를 채용하고 있다. 이번 조치는 이전 로봇 사업부를 폐쇄한 후 물리적 세계의 체화 지능(embodied intelligence) 분
베인은 에이전트형 AI 자동화 분야의 SaaS 시장 규모가 1,000억 달러에 달할 것으로 전망했다
베인 앤 컴퍼니(Bain & Company)는 에이전트형 AI를 활용하는 SaaS 기업을 위한 미국 내 시장 규모가 1,000억 달러에 달할 것으로 추산했다. 이 회사는 이 시장이 기업 시스템 내 조정 업무의 자동화에서 비롯된다고 밝혔다.이 추정치는 AI 시대의 소프트웨어 산업에 관한 베인의 5부작 시리즈 중 두 번째 편에서 나온 것이다. 이 보고서는 에이
AI 검색 의무화 정책으로 인한 이탈 현상, DuckDuckGo는 사용자 급증
구글이 2026년 I/O 컨퍼런스에서 검색 엔진의 전면적인 AI 개편을 발표한 이후, AI 기능을 간단히 ‘한 번의 클릭으로 비활성화’할 수 있는 방법이 없었기 때문에 많은 사용자들이 더 자유롭게 제어할 수 있는 대안을 찾기 시작했습니다. 개인정보 보호에 중점을 둔 검색 플랫폼 덕덕고(DuckDuckGo)는 최근 트래픽에서 뚜렷한 변화를 보이며, 구글의 공
관련 특별 주제 추천
암호
최고의 AI 코드 검토 도구: 깔끔한 코드 준수 자동화 및 레거시 리포지토리 파일 리팩토링
XIX.AI에서 2026년 최고의 AI 코드 검토 도구를 만나보세요. 엄선된 이 목록에는 깔끔한 코드 준수 여부를 자동으로 확인하고 레거시 리포지토리 파일을 리팩토링하는 데 있어 판도를 바꿀 만한 최고 등급의 도구들이 포함되어 있습니다. 실제 테스트 결과와 매주 업데이트되는 순위를 통해 무료 및 유료 옵션을 비교해 보세요. 지금 바로 AI의 경쟁력을 확보하세요.
10 도구
xix.ai
텍스트 음성 변환
난독증 환자를 위한 최고의 AI 음성 합성 앱: 학생들의 학습 및 독서 효율성 향상
난독증 지원을 위해 엄선된 2026년 최신 최고 평점 AI TTS 앱을 만나보세요. 전문가들이 선정한 이 순위는 무료 및 유료 도구를 비교 분석하여, 읽기 효율과 학습 효과를 높여주는 강력한 기능들을 소개합니다. 학생들의 잠재력을 최대한 발휘할 수 있도록 도와줄, 꼭 사용해봐야 할 혁신적인 솔루션을 확인해 보세요. XIX.AI에서 여정을 시작해 보세요.
10 도구
xix.ai
만화 창작
소년 만화를 위한 최고의 AI 생성기: 박진감 넘치는 액션 장면과 에너지 효과 만들기
XIX.AI에서 2026년 최고의 소년 만화 AI 생성기를 만나보세요. 엄선된 최고 평점 목록에는 박진감 넘치는 액션 장면과 역동적인 에너지 효과를 연출할 수 있는 강력한 도구들이 포함되어 있습니다. 실제 테스트를 통해 무료 버전과 유료 버전을 비교해 보세요. 여러분의 창의력을 마음껏 발휘하여 오늘 바로 장대한 만화를 만들어 보세요!
15 도구
xix.ai
사업
최고의 AI 경비 관리 앱: 영수증을 스캔하고 기업 경비를 자동으로 분류하세요
2026년 최신 최고의 AI 경비 관리 도구: 영수증을 스캔하고 기업 경비를 자동으로 분류해 주는 최고 평점의 도구들. 손쉬운 경비 관리, 정확한 재무 추적, 효율적인 규정 준수를 위한 강력하고 혁신적인 솔루션을 만나보세요. 무료 및 유료 옵션을 엄선하여 매주 업데이트되는 비교 자료를 통해 귀사에 딱 맞는 도구를 찾으실 수 있습니다. XIX.AI의 전문가 추천 목록으로 AI의 장점을 최대한 활용하세요.
10 도구
xix.ai
사업
최고의 AI 채용 도구: 이력서 심사 및 후보자 면접 일정 자동화
XIX.AI에서 2026년 최신 최고 평점을 받은 AI 채용 도구를 확인해 보세요. 저희가 엄선한 이 목록에는 이력서 심사 및 후보자 면접 일정 자동화를 위한 강력하고 혁신적인 솔루션이 포함되어 있습니다. 실제 테스트 결과와 매주 업데이트되는 순위를 바탕으로 무료 및 유료 옵션을 비교해 보세요. 지금 바로 귀사에 딱 맞는 채용 도우미를 찾아 채용 프로세스를 효율화하세요!
10 도구
xix.ai
생산력
AI 개인 웰니스 및 집중력 코치: 번아웃 관리 및 정신적 에너지 수준 향상
XIX.AI에서 2026년 최고의 AI 기반 개인 웰니스 및 집중력 코치들을 만나보세요. 저희가 엄선한 순위 목록에는 번아웃을 관리하고 정신적 에너지를 높여주는 최고 평점을 받은 혁신적인 도구들이 소개되어 있습니다. 실제 사용 후기를 바탕으로 무료 버전과 유료 버전을 비교해 보세요. 지금 바로 최고의 생산성과 웰빙을 향한 길을 열어보세요.
10 도구
xix.ai
의견 (7)
0/500
![WillGarcía]()
AIがコード書いてくれるって便利だけど、こんな風に悪用される可能性があるんだね…セキュリティ会社の報告書、興味深い。ちょっと怖いけど、結局は使い方次第ってことか。使う側の倫理観が重要になってきそうだわ。🔒
![NicholasAllen]()
这报告也太吓人了，普通人居然能轻松生成木马？看来AI安全机制得好好加强啊，不然以后岂不是满大街的“黑客速成班”了😱话说普通用户该怎么防范这类AI生成的恶意软件呢？
![ThomasYoung]()
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
![CharlesJohnson]()
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
![GaryWilson]()
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
![WillGarcía]()
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
생성형 AI는 혁신만큼이나 논란을 불러일으키는 양날의 검으로, 특히 보안 인프라 영역에서 그렇습니다. 선도적인 엔터프라이즈 보안 제공업체인 Cato Networks는 AI 챗봇을 조작하는 새로운 방법을 조명했습니다. 화요일에 공개된 2025 Cato CTRL 위협 보고서에 따르면, 이전에 악성코드 코딩 경험이 없는 연구원이 DeepSeek R1 및 V3, Microsoft Copilot, OpenAI의 GPT-4o를 포함한 여러 AI 모델을 속여 "완전 기능하는" Chrome 정보 탈취기를 제작하도록 유도했습니다. 이러한 악성코드는 Chrome 브라우저에서 비밀번호 및 금융 정보와 같은 민감한 데이터를 훔치도록 설계되었습니다.
연구원은 이러한 AI 시스템의 보안 조치를 우회하기 위해 "Immersive World"라는 창의적인 전술을 사용했습니다. 각 AI 도구에 특정 역할, 작업, 도전 과제를 부여하는 상세한 가상 세계를 만들어 제한된 작업을 정상화함으로써, 기존의 보안 프로토콜을 효과적으로 우회했습니다.
Immersive World 기술
"Immersive World" 탈옥 기술은 이러한 AI 모델을 호스팅하는 챗봇의 광범위한 사용으로 인해 특히 우려스럽습니다. DeepSeek 모델은 보호 장치가 적고 이전에 탈옥된 것으로 알려져 있지만, 강력한 안전 팀을 보유한 회사들이 지원하는 Copilot과 GPT-4o도 간접 조작 경로에 취약하다는 사실은 이러한 취약점을 강조합니다.
Cato의 최고 보안 전략가인 Etay Maor는 "우리의 새로운 LLM 탈옥 기술 [...]은 생성형 AI 보호 장치에 의해 차단되었어야 했지만, 그렇지 않았습니다."라고 말했습니다. Cato의 보고서는 또한 회사에서 영향을 받은 당사자들에게 통보했지만, 반응은 다양했다고 언급합니다. DeepSeek은 응답하지 않았으며, OpenAI와 Microsoft는 결과를 인정했습니다. 반면 Google은 수신을 확인했지만 Cato의 코드를 검토하지 않았습니다.
보안 전문가들에게 울리는 경종
Cato의 발견은 전문 지식이 없는 개인도 기업에 상당한 위협을 가할 수 있음을 보여주며, 보안 산업에 경종을 울립니다. AI 조작의 진입 장벽이 점점 낮아짐에 따라 공격자는 성공적인 공격을 실행하는 데 필요한 기술적 전문성이 줄어듭니다.
Cato에 따르면 해결책은 AI 기반 보안 전략을 채택하는 데 있습니다. AI 기반 위협의 진화하는 환경에 보안 교육을 집중함으로써 팀은 한발 앞서 나갈 수 있습니다. 이러한 도전에 기업을 준비시키는 더 많은 통찰력을 얻으려면 이 전문가의 팁을 확인하세요.
매일 아침 당신의 메일함으로 배달되는 Tech Today를 구독하여 최신 보안 뉴스를 업데이트하세요.
오픈AI, 로봇 사업 재개… 오토만, 인프라 연구개발 엔지니어 모집
6월 1일, OpenAI의 CEO 샘 알트먼은 소셜 미디어를 통해 회사가 로봇 공학 분야에 재진출한다고 발표하며 OpenAI 로봇 공학 팀의 채용 공고를 공개했습니다. 회사는 풀스택 하드웨어, 운영, 시스템 및 머신러닝 엔지니어를 채용하고 있다. 이번 조치는 이전 로봇 사업부를 폐쇄한 후 물리적 세계의 체화 지능(embodied intelligence) 분
베인은 에이전트형 AI 자동화 분야의 SaaS 시장 규모가 1,000억 달러에 달할 것으로 전망했다
베인 앤 컴퍼니(Bain & Company)는 에이전트형 AI를 활용하는 SaaS 기업을 위한 미국 내 시장 규모가 1,000억 달러에 달할 것으로 추산했다. 이 회사는 이 시장이 기업 시스템 내 조정 업무의 자동화에서 비롯된다고 밝혔다.이 추정치는 AI 시대의 소프트웨어 산업에 관한 베인의 5부작 시리즈 중 두 번째 편에서 나온 것이다. 이 보고서는 에이
AI 검색 의무화 정책으로 인한 이탈 현상, DuckDuckGo는 사용자 급증
구글이 2026년 I/O 컨퍼런스에서 검색 엔진의 전면적인 AI 개편을 발표한 이후, AI 기능을 간단히 ‘한 번의 클릭으로 비활성화’할 수 있는 방법이 없었기 때문에 많은 사용자들이 더 자유롭게 제어할 수 있는 대안을 찾기 시작했습니다. 개인정보 보호에 중점을 둔 검색 플랫폼 덕덕고(DuckDuckGo)는 최근 트래픽에서 뚜렷한 변화를 보이며, 구글의 공
XIX.AI에서 2026년 최고의 AI 코드 검토 도구를 만나보세요. 엄선된 이 목록에는 깔끔한 코드 준수 여부를 자동으로 확인하고 레거시 리포지토리 파일을 리팩토링하는 데 있어 판도를 바꿀 만한 최고 등급의 도구들이 포함되어 있습니다. 실제 테스트 결과와 매주 업데이트되는 순위를 통해 무료 및 유료 옵션을 비교해 보세요. 지금 바로 AI의 경쟁력을 확보하세요.
10 도구
xix.ai
난독증 지원을 위해 엄선된 2026년 최신 최고 평점 AI TTS 앱을 만나보세요. 전문가들이 선정한 이 순위는 무료 및 유료 도구를 비교 분석하여, 읽기 효율과 학습 효과를 높여주는 강력한 기능들을 소개합니다. 학생들의 잠재력을 최대한 발휘할 수 있도록 도와줄, 꼭 사용해봐야 할 혁신적인 솔루션을 확인해 보세요. XIX.AI에서 여정을 시작해 보세요.
10 도구
xix.ai
XIX.AI에서 2026년 최고의 소년 만화 AI 생성기를 만나보세요. 엄선된 최고 평점 목록에는 박진감 넘치는 액션 장면과 역동적인 에너지 효과를 연출할 수 있는 강력한 도구들이 포함되어 있습니다. 실제 테스트를 통해 무료 버전과 유료 버전을 비교해 보세요. 여러분의 창의력을 마음껏 발휘하여 오늘 바로 장대한 만화를 만들어 보세요!
15 도구
xix.ai
2026년 최신 최고의 AI 경비 관리 도구: 영수증을 스캔하고 기업 경비를 자동으로 분류해 주는 최고 평점의 도구들. 손쉬운 경비 관리, 정확한 재무 추적, 효율적인 규정 준수를 위한 강력하고 혁신적인 솔루션을 만나보세요. 무료 및 유료 옵션을 엄선하여 매주 업데이트되는 비교 자료를 통해 귀사에 딱 맞는 도구를 찾으실 수 있습니다. XIX.AI의 전문가 추천 목록으로 AI의 장점을 최대한 활용하세요.
10 도구
xix.ai
XIX.AI에서 2026년 최신 최고 평점을 받은 AI 채용 도구를 확인해 보세요. 저희가 엄선한 이 목록에는 이력서 심사 및 후보자 면접 일정 자동화를 위한 강력하고 혁신적인 솔루션이 포함되어 있습니다. 실제 테스트 결과와 매주 업데이트되는 순위를 바탕으로 무료 및 유료 옵션을 비교해 보세요. 지금 바로 귀사에 딱 맞는 채용 도우미를 찾아 채용 프로세스를 효율화하세요!
10 도구
xix.ai
XIX.AI에서 2026년 최고의 AI 기반 개인 웰니스 및 집중력 코치들을 만나보세요. 저희가 엄선한 순위 목록에는 번아웃을 관리하고 정신적 에너지를 높여주는 최고 평점을 받은 혁신적인 도구들이 소개되어 있습니다. 실제 사용 후기를 바탕으로 무료 버전과 유료 버전을 비교해 보세요. 지금 바로 최고의 생산성과 웰빙을 향한 길을 열어보세요.
10 도구
xix.ai
AIがコード書いてくれるって便利だけど、こんな風に悪用される可能性があるんだね…セキュリティ会社の報告書、興味深い。ちょっと怖いけど、結局は使い方次第ってことか。使う側の倫理観が重要になってきそうだわ。🔒
这报告也太吓人了，普通人居然能轻松生成木马？看来AI安全机制得好好加强啊，不然以后岂不是满大街的“黑客速成班”了😱话说普通用户该怎么防范这类AI生成的恶意软件呢？
Esse truque de AI para criar infostealers do Chrome é loucura! 😱 Sem habilidades de codificação necessárias? Isso é assustador, mas também meio legal. Me faz pensar em como nossos dados estão realmente seguros. Mas tenho que dar crédito pela criatividade! 🔍
¡Este truco de IA para crear infostealers de Chrome es una locura! 😱 ¿Sin habilidades de codificación necesarias? Eso es aterrador pero también un poco genial. Me hace preguntarme cuán seguros están realmente nuestros datos. Pero hay que reconocer la creatividad! 🔍
크롬 정보 도둑 프로그램을 만드는 AI 트릭이 대단해! 😱 코딩 기술이 필요 없다고? 무섭지만 좀 멋지기도 해. 우리 데이터가 정말 안전한지 궁금해지네. 그래도 창의성에는 박수를 보내! 🔍
Chromeの情報窃盗ツールを作るAIのトリックがすごい！😱 コーディングのスキルが不要って、怖いけどちょっとかっこいいね。データの安全性が本当にどうなのか気になる。でも創造性には敬意を表するよ！🔍
