AI 에이전트는 기밀 데이터를 활용 : 해커 사용 방법 및 보호 조치

우리와 마찬가지로 사이버 범죄자들은 인공지능을 활용해 작업을 간소화하며 공격을 더 빠르고 쉽게, 그리고 교묘하게 만들고 있습니다. AI를 자동화된 봇, 계정 탈취, 소셜 엔지니어링과 같은 기존의 수법에 통합함으로써 이 영리한 사기꾼들은 게임을 한 단계 업그레이드하고 있습니다. Gartner의 최근 보고서는 이 추세가 어떻게 진화하고 있으며 가까운 미래에 더욱 심화될 수 있다고 경고합니다.

Gartner 부사장 애널리스트 Jeremy D'Hoinne은 약한 인증이 계정 탈취를 부추기는 아킬레스건이라고 지적합니다. 사이버 공격자들은 데이터 유출부터 소셜 엔지니어링에 이르기까지 다양한 방법을 사용해 계정 비밀번호를 훔칩니다.

계정 탈취에서 AI의 역할

비밀번호가 유출되면 AI가 무대에 등장합니다. 사이버 범죄자들은 자동화된 AI 봇을 배치해 여러 서비스에 로그인 시도를 폭격하며, 해당 자격 증명이 여러 플랫폼에서 재사용되었는지 알아내려 합니다. 궁극적인 목표는? 수익성이 높은 사이트를 찾아 완전한 계정 탈취를 실행하는 것입니다. 해커가 직접 공격을 수행하는 데 관심이 없다면, 다크 웹에서 열성적인 구매자를 기다리는 도난 정보를 쉽게 판매할 수 있습니다.

"계정 탈취(ATO)는 데이터 유출, 피싱, 소셜 엔지니어링, 악성코드 등 다양한 수단으로 수집된 약한 인증 자격 증명(예: 비밀번호) 때문에 지속적인 공격 벡터로 남아 있습니다,"라고 D'Hoinne은 Gartner 보고서에서 설명합니다. "공격자들은 봇을 활용해 다양한 서비스에 걸쳐 로그인 시도를 자동화하며, 자격 증명이 여러 플랫폼에서 재사용되었기를 바랍니다."

이제 AI가 도구 상자에 포함된 공격자들은 계정 탈취 과정을 더욱 효율적으로 자동화할 수 있습니다. Gartner는 향후 2년 내에 계정 탈취에 필요한 시간이 50% 감소할 것이라고 예측합니다.

AI와 딥페이크 소셜 엔지니어링

AI의 영향은 계정 탈취를 넘어섭니다. 딥페이크 캠페인을 혁신적으로 변화시키고 있습니다. 사이버 범죄자들은 소셜 엔지니어링과 딥페이크 오디오 및 비디오를 결합해 대상을 속입니다. 상사나 신뢰하는 동료와 똑같이 들리는 누군가로부터 자금 이체를 요청하거나 민감한 정보를 유출하라는 전화를 받는다고 상상해보세요. 이런 일이 실제로 일어나고 있으며, 기업에 막대한 비용을 초래하고 있습니다.

높은 프로필의 사례는 소수에 불과하지만, 재정적 피해는 상당했습니다. 개인 통화 중 딥페이크 음성을 감지하는 것은 여전히 까다롭습니다. Gartner는 2028년까지 소셜 엔지니어링 공격의 40%가 경영진과 일반 직원을 모두 표적으로 삼을 것이라고 예측합니다.

"조직은 시장 동향을 파악하고 위조 현실 기술을 활용한 공격에 더 잘 저항하기 위해 절차와 워크플로를 조정해야 합니다,"라고 Gartner의 선임 디렉터 애널리스트 Manuel Acosta는 조언합니다. "딥페이크를 활용한 소셜 엔지니어링에 특화된 교육을 통해 직원들에게 진화하는 위협 환경에 대해 교육하는 것이 중요한 단계입니다."

AI 기반 공격 방어

그렇다면 개인과 조직은 AI 기반의 이러한 공격을 어떻게 방어할 수 있을까요?

"AI 기반 공격으로부터의 새로운 도전에 대처하기 위해 조직은 세밀한 실시간 환경 가시성과 경고를 제공하는 AI 기반 도구를 활용해 보안 팀을 강화해야 합니다,"라고 Darktrace의 보안 및 AI 전략 선임 부사장 Nicole Carignan은 제안합니다.

Carignan은 또한 자율적이거나 인간 감독과 함께 기계 기반 응답을 통합해 보안 팀의 반응 속도를 높임으로써 새로운 위협에 앞서갈 것을 권장합니다. "이러한 접근을 통해, 이전에 보지 못한 위협을 탐지하고 대응할 수 있는 이상 탐지 기반 솔루션과 같은 AI 기술의 채택은 조직의 보안을 유지하는 데 결정적인 역할을 할 수 있습니다."

다중 요소 인증과 얼굴 또는 지문 스캔과 같은 생체 인증도 계정 손상을 방지하는 데 중요합니다. "사이버 범죄자들은 도난당한 자격 증명뿐만 아니라 소셜 조작에 의존해 신원 보호를 뚫습니다,"라고 Keeper Security의 최고 정보 보안 책임자 James Scobey는 말합니다. "딥페이크는 이 영역에서 특히 우려되며, AI 모델은 이러한 공격 방법을 더 빠르고 저렴하며 설득력 있게 만듭니다. 공격자들이 더욱 정교해짐에 따라 다중 요소 인증(MFA)과 생체 인식과 같은 더 강력하고 동적인 신원 확인 방법이 이러한 점점 더 미묘한 위협을 방어하는 데 필수적입니다. MFA는 계정 탈취를 방지하는 데 필수적입니다."

Gartner의 소셜 엔지니어링 및 딥페이크 대처 팁

• 직원 교육. 소셜 엔지니어링과 딥페이크에 대해 교육하되, 이 위협을 식별하는 능력에만 의존하지 마세요.
• 다른 검증 수단 설정. 예를 들어, 전화로 기밀 정보를 요청하는 시도를 다른 플랫폼에서 확인하세요.
• 콜백 정책 사용. 직원들이 민감하거나 기밀 요청을 확인할 수 있는 지정된 번호를 제공하세요.
• 콜백 정책을 넘어. 단일 전화나 요청이 고위 경영진의 추가 검증 없이 고위험 행동을 유발하지 않도록 하세요.
• 실시간 딥페이크 탐지 최신 정보 유지. 오디오 및 비디오 통화에서 딥페이크를 탐지할 수 있는 신흥 기술을 따라가고, 고유 ID와 같은 다른 식별 방법으로 이를 보완하세요.

AI에 관한 더 많은 이야기를 원하시나요? 매주 발행되는 뉴스레터 Innovation에 가입하세요.