AI 기반 사기의 놀라운 상승 : Microsoft

AI 기반 사기의 급속한 진화

AI 기반 사기가 증가하고 있으며, 사이버 범죄자들은 최첨단 기술을 활용하여 피해자들을 그 어느 때보다 효과적으로 속이고 있습니다. 마이크로소프트의 최신 사이버 시그널 보고서에 따르면, 이 기술 대기업은 지난 1년 동안 40억 달러 규모의 사기 시도를 차단했으며, 매시간 약 160만 건의 봇 가입 시도를 막아냈습니다. 이 엄청난 숫자는 우리가 직면한 위협의 규모를 보여줍니다.

보고서의 제9판, "AI 기반의 기만: 새로운 사기 위협과 대응책"이라는 제목의 이 보고서는 인공지능이 사기꾼들의 기술적 장벽을 낮추는 방식을 조명합니다. 이전에는 며칠 또는 몇 주가 걸리던 작업이 이제 몇 분 만에 완료될 수 있으며, 최소한의 기술만 가진 사람들도 정교한 사기를 시작할 수 있게 되었습니다. 이러한 사기 능력의 민주화는 전 세계 소비자와 기업에 영향을 미치며 범죄 환경을 재편하고 있습니다.

AI가 사이버 사기를 강화하는 방식

마이크로소프트의 보고서는 AI 도구가 웹을 스캔하고 스크래핑하여 회사 정보를 수집할 수 있으며, 이를 통해 사이버 범죄자들이 타겟팅된 소셜 엔지니어링 공격을 위한 상세한 프로필을 만들 수 있다고 자세히 설명합니다. 이 악의적인 행위자들은 AI를 사용해 가짜 제품 리뷰를 작성하고, 가상의 사업 이력과 고객 후기를 포함한 전체 상점을 생성하여 피해자들을 복잡한 사기 계획으로 유인합니다.

마이크로소프트 시큐리티의 안티-프라우드 및 제품 남용 담당 부사장인 켈리 비셀은 사이버 범죄가 지난 30년 동안 매년 성장해 온 조 단위 달러 규모의 문제라고 언급했습니다. "오늘날 우리는 AI를 더 빨리 채택하여 노출의 간극을 신속히 탐지하고 줄일 기회가 있습니다,"라고 비셀은 말합니다. "이제 우리는 규모에서 차이를 만들 수 있는 AI를 보유하고 있으며, 이를 통해 우리 제품에 보안 및 사기 방지 기능을 훨씬 빠르게 구축할 수 있습니다."

보고서는 또한 AI 기반 사기 공격이 중국과 유럽, 특히 대규모 전자상거래 시장을 가진 독일에서 시작되는 등 전 세계적인 문제임을 강조합니다. 디지털 시장이 클수록 사기 시도가 비례하여 증가할 가능성이 높습니다.

전자상거래와 고용 사기가 최전선에

AI로 강화된 사기가 특히 만연한 두 분야는 전자상거래와 구직 모집입니다. 전자상거래 분야에서 AI 도구는 사기꾼들이 몇 분 만에 가짜 웹사이트를 만들 수 있게 하며, AI로 생성된 제품 설명, 이미지, 고객 리뷰로 합법적인 비즈니스를 모방합니다. 이러한 사이트는 심지어 AI 기반의 고객 서비스 챗봇을 배포하여 고객과 설득력 있게 상호작용하고, 환불 요청을 지연시키며, 전문적인 외관을 유지하기 위해 불만을 조작합니다.

구직자들도 위험에 처해 있으며, 생성 AI는 사기꾼들이 다양한 플랫폼에서 가짜 구인 공고를 쉽게 만들 수 있게 합니다. 이러한 공고는 종종 자동 생성된 설명과 AI 기반의 이메일 캠페인을 통해 구직자를 피싱하도록 설계되었습니다. AI 기반 인터뷰와 자동화된 이메일은 이러한 사기의 신뢰성을 높여 탐지하기 어렵게 만듭니다. 사기꾼들은 종종 이력서나 은행 계좌 정보와 같은 개인 정보를 요청하며 지원자를 확인하는 척합니다.

주의해야 할 경고 신호로는 원치 않은 구직 제안, 결제 요청, 문자 메시지나 WhatsApp과 같은 비공식 플랫폼을 통한 커뮤니케이션이 포함됩니다.

마이크로소프트의 AI 기반 사기에 대한 대응

이러한 새로운 위협에 대처하기 위해 마이크로소프트는 제품과 서비스 전반에 걸쳐 다각적인 접근 방식을 채택했습니다. Microsoft Defender for Cloud는 Azure 자원에 대한 위협 보호를 제공하며, Microsoft Edge는 웹사이트 오타 보호와 도메인 사칭 보호 기능을 제공하여 딥러닝 기술을 활용해 사용자가 사기성 웹사이트를 피할 수 있도록 돕습니다.

Windows Quick Assist는 IT 지원팀을 사칭하는 자에게 접근을 허용하기 전에 잠재적인 기술 지원 사기에 대해 경고 메시지를 통해 사용자에게 알리는 기능을 강화했습니다. 마이크로소프트는 현재 평균적으로 하루에 4,415건의 의심스러운 Quick Assist 연결 시도를 차단합니다.

마이크로소프트는 Secure Future Initiative(SFI)의 일환으로 새로운 사기 방지 정책을 도입했습니다. 2025년 1월부터 마이크로소프트 제품 팀은 설계 과정에서 사기 방지 평가를 수행하고 사기 방지 제어를 구현하여 제품이 "설계 단계부터 사기에 강하도록" 보장해야 합니다.

AI 기반 사기가 계속 진화함에 따라 소비자 인식이 중요합니다. 마이크로소프트는 사용자들에게 긴급 전술에 주의하고, 구매 전에 웹사이트의 합법성을 확인하며, 검증되지 않은 출처에 개인 정보나 금융 정보를 절대 제공하지 말 것을 권고합니다. 기업의 경우, 다중 인증을 구현하고 딥페이크 탐지 알고리즘을 배포하여 위험을 완화할 수 있습니다.