비즈니스가 2025 년 AI 기반 사이버 위협을 탐색하기위한 4 가지 전문 보안 팁

사이버 범죄자들은 ​​이제 인공 지능 (AI)을 사용하여 공격의 모든 단계를 향상시키고 있습니다. 그들은 대형 언어 모델 (LLM)을 사용하여 고도로 개인화 된 피싱 이메일을 만들어 소셜 미디어 및 전문 네트워크에서 개인 정보를 수집합니다. 한편, GANS (Generative Adversarial Networks)는 DeepFake 오디오 및 비디오를 생성하는 데 사용되며, 이는 다중 인증 인증 시스템을 속일 수 있습니다. 스크립트 어린이조차도 WormGPT와 같은 자동화 된 도구를 사용하여 전통적인 탐지 방법을 변경하고 피할 수있는 다형성 맬웨어를 배포합니다.

이것들은 단순한 가상의 위협이 아닙니다. 그들은 지금 일어나고 있습니다. 보안 전략을 조정하지 않는 회사는 2025 년뿐만 아니라 그 밖의 정교한 사이버 위협에 직면하게됩니다.

AI 시대에 앞서 나가고 싶습니까? 두 가지 선택이 있습니다. AI를 운영에 구축하거나 AI를 사용하여 비즈니스를 향상시킵니다.

AI가 엔터프라이즈 보안을 어떻게 변화시키고 있는지 더 깊이 뛰어 들기 위해, 나는 Island의 최고 커스텀 책임자 인 Bradon Rogers와 노련한 사이버 보안 전문가와 대화를 나 was습니다. 우리는 디지털 보안의 진화하는 환경, 조기 위협 탐지 및 AI 중심의 공격을위한 팀을 준비하기위한 전략에 대해 논의했습니다. 그러나 먼저, 어떤 맥락으로 무대를 설정합시다.

AI 사이버 보안 위협이 다른 이유

AI는 사이버 공격을보다 목표로하고 설득력 있고 발견하기 어렵게 만드는 고급 도구를 사용하여 악의적 인 배우를 고정시킵니다. 예를 들어, 오늘날의 생성 된 AI 시스템은 개인 정보, 기업 커뮤니케이션 및 소셜 미디어의 대규모 데이터 세트를 통해 신뢰할 수있는 출처에서 보이는 피싱 캠페인을 조정하기 위해 체계 할 수 있습니다. 보안 조치에 자동으로 적응하는 맬웨어와 쌍을 이루면 이러한 공격의 규모와 효과가 급증합니다.

Deepfake Technology는 현실적인 비디오 및 오디오 컨텐츠를 만들어 경영진 사기에서 대규모 잘못된 정보 캠페인에 이르기까지 모든 것을 가능하게하여 한 단계 더 발전합니다. 우리는 홍콩 회사의 Deepfake 화상 회의를 통해 2,500 만 달러의 도난과 같은 실제 사례와 AI에서 생성 된 음성 클립이 사람들을 사기꾼에게 양도하도록 속이는 수많은 사례를 보았습니다.

AI 구동 자동화 된 사이버 공격은 또한 취약점을 지속적으로 검색하고, 대응에 맞게 조정하고, 사람의 입력없이 약점을 악용하는 "세트 앤 포 게트"시스템도 도입했습니다. 주목할만한 사례는 2024 AWS 위반으로, AI 기반 맬웨어가 네트워크를 매핑하고 취약점을 정확히 지적하고 수천 개의 고객 계정을 손상시키는 복잡한 공격을 실행했습니다.

이러한 사건은 AI가 기존의 사이버 위협을 향상시키는 것이 아니라는 것을 보여줍니다. 완전히 새로운 유형의 보안 위험이 산란합니다. Bradon Rogers가 이러한 도전을 해결하는 방법은 다음과 같습니다.

1. 제로 트러스트 아키텍처를 구현하십시오

이전 보안 경계 모델은 AI-Enhanced 위협에 대해 더 이상 삭감되지 않습니다. 제로 트러스트 아키텍처는 "신뢰할 수없고 항상 확인"접근 방식을 따릅니다. 모든 사용자, 장치 및 애플리케이션은 리소스에 액세스하기 전에 인증 및 승인을 받아야합니다. 이 방법은 공격자가 네트워크에 들어가더라도 무단 액세스의 위험을 최소화합니다.

Rogers는“회사는 AI를 포함하여 모든 사용자, 장치 및 응용 프로그램 (AI)이 중요한 데이터 나 기능을 터치하기 전에 모든 사용자, 장치 및 응용 프로그램을 확인해야합니다. 신분을 지속적으로 검증하고 긴밀한 액세스 제어를 시행함으로써 비즈니스는 공격 표면을 축소하고 손상된 계정으로 인한 손상을 제한 할 수 있습니다.

AI는 새로운 도전을 제기하지만 강력한 방어 도구를 테이블에 가져옵니다. AI 구동 보안 솔루션은 실시간으로 막대한 양의 데이터를 분석하여 기존의 방법이 놓칠 수있는 이상 및 잠재적 위협을 발견 할 수 있습니다. 이 시스템은 새로운 공격 패턴에 적응하여 AI 기반 사이버 공격에 대한 역동적 인 방어를 제공 할 수 있습니다.

Rogers는 사이버 방어의 AI가 다른 기능으로 취급되어서는 안된다고 경고합니다. "CISOS와 보안 리더는 AI를 처음부터 시스템에 구축해야합니다."라고 그는 말합니다. AI를 보안 인프라에 통합함으로써 조직은 사고를 신속하게 감지하고 응답하는 능력을 향상시켜 공격자의 기회를 좁힐 수 있습니다.

2. AI 중심의 위협에 대해 직원을 교육하고 훈련시킵니다

보안 인식 문화를 조성하고 AI 도구를 사용하기위한 명확한 지침을 설정함으로써 회사는 내부 취약성의 위험을 줄일 수 있습니다. 결국, 사람들은 복잡하고 종종 간단한 솔루션이 가장 효과적입니다.

Rogers는 "외부 공격을 막는 것이 아니라 AI를 '생산성 치트 코드'로 사용하는 직원의 경계를 설정하는 것입니다.

인적 오류는 여전히 사이버 보안에서 주요 약점입니다. AI 생성 피싱 및 사회 공학 공격이 더욱 설득력이 있기 때문에 이러한 진화하는 위협에 대해 직원들에게 교육하는 것이 중요합니다. 정기 교육은 예기치 않은 이메일이나 정상적인 절차에서 벗어나는 비정상적인 요청과 같은 의심스러운 활동을 발견 할 수 있습니다.

3. 직원 AI 사용을 모니터링하고 규제합니다

AI 기술은 비즈니스 전체에 걸쳐 널리 채택되지만 "Shadow AI"라고 알려진 금액 또는 모니터링되지 않은 사용은 심각한 보안 위험을 초래할 수 있습니다. 직원은 실수로 적절한 보안없이 AI 앱을 사용할 수있어 데이터 유출 또는 규정 준수 문제가 발생할 수 있습니다.

Rogers는“우리는 기업 데이터가 제재되지 않은 AI 환경으로 자유롭게 흐르도록 할 수 없으므로 균형을 찾아야합니다. AI 도구, 정기 감사 및 모든 AI 응용 프로그램이 회사의 보안 표준을 충족시키는 정책은 이러한 위험을 관리하는 데 중요합니다.

4. AI 및 사이버 보안 전문가와 협력하십시오

AI 중심의 위협의 복잡성은 회사가 AI 및 사이버 보안 전문가와 협력해야한다는 것을 의미합니다. 외부 회사와 파트너십을 맺으면 조직이 최신 위협 인텔리전스, 최첨단 방어 기술 및 사내가없는 전문 기술에 액세스 할 수 있습니다.

AI 기반의 공격은 전통적인 보안 도구가 종종 제공 할 수없는 정교한 방어가 필요합니다. AI 강화 위협 감지 플랫폼, 보안 브라우저 및 제로 트러스트 액세스 컨트롤은 사용자 동작을 분석하고 변칙을 감지하며 악의적 인 액세스가 무단 액세스를 얻지 못하게 할 수 있습니다.

Rogers는 기업을위한 혁신적인 솔루션은 "제로 트러스트 보안 퍼즐에서 누락 된 부분이라고 지적합니다.이 도구는 공개 및 개인 네트워크에서 앱이나 리소스를 보호하는 깊고 세분화 된 보안 제어를 제공합니다."

이 도구는 머신 러닝을 사용하여 네트워크 활동을 주시하고 의심스러운 패턴을 플래그하며 사고 응답을 자동화하여 AI 생성 공격이 회사 시스템으로 미끄러 져 들어가는 위험을 줄입니다.