AI 기반 보안 도구 : 향후 사이버 공격에 대한 비밀 무기

사이버 보안의 세계에서는 공격자가 혼란을 야기하기 위해 하나의 취약점 만 찾아야한다는 것이 잘 알려진 사실입니다. 반면, 수비수는 가능한 모든 위협으로부터 보호해야합니다. 이 역학은 AI를 사이버 보안에 통합하여 더욱 복잡해져 공격자와 수비수 모두 강력한 AI 도구에 액세스 할 수있는 무기 경쟁으로 전환됩니다.

네트워킹 업계의 거인 인 Cisco는이 전투의 최전선에 있으며 AI 구동 사이버 공격에서 고객을 보호하기 위해 끊임없이 노력하고 있습니다. Cisco의 AI Products 부사장 인 Anand Raghavan은 ZDNet과의 독점 인터뷰에서 AI가 사이버 보안을 재구성하고 조직의 잠재적 공격 표면을 확장하는 방법을 밝히고 있습니다.

ZDNET : Cisco에서 자신을 간단히 소개하고 자신의 역할을 설명 할 수 있습니까?

Anand Raghavan : 저는 Cisco의 AI 소프트웨어 및 플랫폼 그룹 내 AI 용 제품 부사장 인 Anand Raghavan입니다. 우리 팀은 Cisco의 다양한 제품 팀과 협력하여 고객에게 안전하고 안전한 생성 AI 기반 제품을 개발하고 제공합니다. 최근 우리는 Cisco AI Assistant를 출시하여 자연어를 통해 제품과의 고객 상호 작용을 단순화하고 Cisco AI Defense는 고객을 위해 개발 된 직원 및 클라우드 애플리케이션 모두에 대한 안전하고 안전한 AI 사용을 보장합니다.

ZDNET : AI는 기업과 정부가 네트워크 수준에서 직면 한 위협의 특성을 어떻게 변화시키고 있습니까?

AR : AI는 네트워크 보안에 혁명을 일으켜 해커가보다 정교하고 효율적인 공격을 실행할 수있게했습니다. 그들은 피싱 캠페인을 자동화하고 개인화하기 위해 AI를 사용하여 직원들에게 더 설득력 있고 직원들을위한 가능성을 높이고 있습니다. 우리는 또한 전통적인 보안 조치를 피할 수있는 AI 기반 맬웨어를보고 있습니다. AI 도구가 더 널리 퍼져 있기 때문에 공격 표면을 확장 할뿐만 아니라 Shadow IT 문제를 증폭시킵니다.

기업은 AI를 활용하여 혁신적이지만 악의적 인 행위자는 동일한 기술을 사용하여 새로운 위협을 제기합니다. 최신 AI 발전을 사용하여 이러한 새로운 위협을 신속하게 감지하고 완화하는 것이 중요합니다.

예를 들어, 암호화 된 가시성 엔진 기술은 방화벽 내에서 실시간으로 악의적 인 연결을 중단 할 수 있으며 이메일 위협 방어 제품은 언어 기반 감지기를 사용하여 사기 이메일을 식별합니다. 고객이 직면 한 AI 애플리케이션이 증가함에 따라 AI 모델의 취약점은 새로운 중요한 공격 표면이되었습니다. 이 모델은 신속한 주입 또는 서비스 거부 공격으로 대상으로 될 수 있으며, 잠재적으로 민감한 데이터가 누출 될 수 있습니다. 보안 산업은 AI를 솔루션에 통합하여 비정상적인 패턴과 의심스러운 네트워크 활동을 감지하기 위해 경쟁하고 있습니다.

ZDNET : AI 중심 도구는 기업이 점점 더 정교한 사이버 대적보다 앞서 나가도록 도와줍니다.

AR : 오늘날의 역동적 인 위협 환경에서 AI 기반 보안 도구는 수동 노력이 일치 할 수없는 규모로 지속적이고 자체 최적화 모니터링을 제공합니다. AI를 통해 보안 팀은 조직의 생태계 전체에서 데이터를 분석하여 비정상적인 패턴이나 위반을 나타내는 의심스러운 트래픽을 신속하게 감지 할 수 있습니다. 이 빠른 분석을 통해 잠재적 인 위협에 대한 실시간 대응이 가능합니다.

AI는 가시성 및 응답 시간을 향상시켜 "더 나은"시나리오를 만들어 인간 보안 전문가를 보완합니다. 최상위 보안 분석가가 부족한 세상에서 AI는 Tier 1 및 Tier 2 분석가를 지원할 수있어 새로운 사건과 위협을 해결하는 데 필요한 시간을 크게 줄일 수 있습니다. AI를 사용한 확장 된 감지 및 응답 (XDR)을위한 워크 플로 자동화는 사이버 대적보다 앞서있는 핵심입니다.

ZDNET : AI 방어를 설명하고 해결하려는 주요 문제는 무엇입니까?

AR : AI 응용 프로그램의 빠른 채택은 부인할 수 없지만 조직 내에서는 안전 및 보안에 대한 우려로 인해 AI 개발 및 채택의 속도가 느려집니다. Cisco의 2024 AI Readiness Index에 따르면, 조직의 29%만이 AI로 무단 변조를 감지하고 방지 할 수있는 완비를 갖추고 있다고 생각합니다. 회사는 딜레마에 직면합니다. 너무 빨리 움직이고 보안을 위험에 빠뜨리거나 너무 느리게 움직이고 경쟁 업체 뒤에 위험을 감수합니다.

AI Defense는 기업 내에서 AI 변환을 활성화하고 보호함으로써이를 해결합니다. 그것은 제 3 자 AI 도구의 오용을 통한 민감한 데이터의 노출과 비즈니스가 개발하고 배포 한 AI 모델의 보안 인 두 가지 주요 위험을 해결합니다. 당사의 AI 액세스 솔루션은 타사 AI 사용에 대한 가시성을 제공하고 데이터 공유를 제한하거나 제한되지 않은 도구에 대한 액세스를 제한하는 정책을 설정할 수 있습니다. AI 애플리케이션을 개발하는 비즈니스의 경우 AI Defense는 알고리즘 레드 팀 기술을 사용하여 취약성 평가를 자동화하고 신속한 주입 및 데이터 추출과 같은 위협에 대한 실시간 보호를 제공합니다.

ZDNET : AI 방어는 기존 보안 프레임 워크와 어떻게 구별됩니까?

AR : AI는 전통적인 프레임 워크가 처리하도록 설계되지 않은 고유 한 보안 문제를 제시합니다. AI Defense는 AI 응용 프로그램 사용 및 개발과 관련된 위험으로부터 기업을 보호하기 위해 구체적으로 구축되었습니다. Cisco의 Custom AI 모델을 기반으로하며 연속 AI 검증 및 규모의 보호에 중점을 둡니다.

전통적인 응용 프로그램은 인간의 빨간 팀에 의해 확보되지만이 접근법은 비 결정적 AI 모델에 대한 확장되지 않습니다. AI Defense는 알고리즘 레드 팀을 사용하여 취약점을 지속적으로 모니터링하고 Guardrails를 추천합니다. 우리의 플랫폼 접근 방식은 이러한 Guardrails가 네트워크에 분산되어 AI 발자국에 대한 전체 가시성을 제공합니다.

ZDNET : AI 방어를 광범위한 엔터프라이즈 보안 전략과 통합하려는 Cisco의 비전은 무엇입니까?

AR : Cisco의 2024 AI Readiness Index는 압력 조직이 AI를 채택하기 위해 직면 한 압력을 강조하지만 많은 사람들이 준비되지 않았으며 AI 보안 위험을 알지 못합니다. AI Defense는 조직이 멀티 클라우드의 멀티 모델 환경에서 AI의 혜택을 안전하게 잠금 해제 할 수 있도록 설계되었습니다. AI 애플리케이션에 대한 가시성과 제어를 제공하므로 개발자가 보안을 손상시키지 않으면 서 혁신을보다 쉽게 ​​혁신 할 수 있습니다.

AI의 채택 수명주기에는 가시성, 검증 및 런타임 보호가 포함됩니다. AI Defense는 이러한 단계를 지원하며, 직원 보호를위한 안전한 액세스 또는 SASE 제품을 통해 시행되고 클라우드 애플리케이션을위한 Cisco Multicloud Defense와 같은 클라우드 보호 제품군 응용 프로그램을 통해 시행됩니다.

ZDNET : 기업은 AI 시스템에 대한 적대적 공격의 위험을 완화하기 위해 어떤 전략을 채택해야합니까?

AR : AI 애플리케이션은 예측할 수없고 비 결정적 특성으로 인해 새로운 보안 위험을 소개합니다. 모델은 환각으로 고통 받거나 훈련 데이터 중독 및 신속한 주사와 같은 공격에 취약 할 수 있습니다. 멀티 클라우드, 멀티 모델 환경에서 일관성없는 안전 및 보안 표준이 문제가 될 수 있습니다.

AI 변조 및 데이터 유출로부터 보호하려면 조직은 모든 ​​구름, 앱 및 모델에서 통합 보안 접근법이 필요합니다. 이것은 책임이 다른 이해 관계자에 대해 파편화 될 때 특히 중요합니다. Miter Atlas, OWASP LLM10 및 NIST RMF와 같은 표준에 의해 요약 된 모든 AI 안전 및 보안 범주에 걸쳐 가드 레일을 모니터링하고 시행하는 일반적인 AI 보안 제품이 필수적입니다.

ZDNET : AI 방어가 중요한 보안 위반을 방지 할 수있는 실제 시나리오 또는 사례 연구를 공유 할 수 있습니까?

AR : AI Defense는 Enterprise AI Risk의 두 가지 주요 영역을 다룹니다 : 타사 AI 도구 사용과 새로운 AI 응용 프로그램 개발. 한 시나리오에서 직원은 프레젠테이션을 돕기 위해 제재되지 않은 AI 어시스턴트와 고객 정보를 공유 할 수 있습니다. 이 데이터는 AI의 재교육 데이터의 일부가되어 개인 정보 위반이 위험합니다. AI 방어는이 데이터 공유를 제한하거나 도구에 대한 액세스를 제한하여 위험을 완화 할 수 있습니다.

다른 시나리오에서 AI 개발자는 오픈 소스 모델을 사용하여 고객 서비스 비서를 만들어 가드 레일을 실수로 약화시킬 수 있습니다. 그런 다음 조수는 잘못된 응답을 제공하고 공격에 취약해질 수 있습니다. AI 방어는 지속적인 모니터링을 통해이 결함을 식별하고 필요한 가드 레일을 자동으로 적용합니다.

ZDNET : AI 보안의 새로운 트렌드는 사이버 보안의 미래를 형성하는 것으로 예상됩니까?

AR : AI 덕분에 한 가지 중요한 추세는 AI 덕분에 취약성 발견과 공격자의 착취 사이의 시간이 줄어든다는 것입니다. 조직은 그 어느 때보 다 더 빨리 취약성을 감지하고 패치해야합니다. AI는 취약성 감지를 가속화하여 실시간 응답을 가능하게 할 수 있습니다.

DeepFakes는 향후 5 년간의 또 다른 주요 관심사입니다. 보안 산업은 방금 방어를 준비하기 시작했지만 상당한 위험을 초래할 것입니다. 서비스 거부 공격과 랜섬웨어가 과거에 큰 위협이 된 것처럼, Deepfakes는 많은 보안 전문가에게는 잠들지 않는 밤이 될 것입니다.

ZDNET : 정부와 기업은 어떻게 강력한 AI 보안 표준을 구축하기 위해 협력 할 수 있습니까?

AR : 정부와 민간 부문 간의 협력은 다양한 지식과 관점을 활용하여 빠르게 진화하는 AI 보안 환경에서 모범 사례를 개발할 수 있습니다. 작년에 Cisco는 사이버 보안 및 인프라 보안 기관 (CISA) 공동 사이버 방어 협력 (JCDC)과 협력하여 업계 리더 및 정부 기관이 AI 관련 보안 사건에 대한 집단적 대응을 강화했습니다.

우리는 탁상 운동에 참여했으며 AI 관련 보안 사고에 대응하고 AI 시스템 취약점에 대한 정보를 공유하기위한 실질적인 지침을 제공하는 "AI Security Incident Collaboration Playbook"에 기여했습니다. 이 협업은 AI 기술과 관련된 보안 위험에 대한 인식을 높일 수 있습니다.

ZDNet : AI가 사이버 공격 예방과 사고 대응 사이의 격차를 해소하는 것을 어떻게 보십니까?

AR : AI 지원 보안 솔루션은 이미 지속적이고 확장 가능한 모니터링을 제공하여 휴먼 보안 팀이 의심스러운 활동과 취약성을 감지 할 수 있도록 도와줍니다. AI는 가시성을 향상시키고 사고 응답에 대한 권장 사항을 제공하는 귀중한 도구입니다.

앞으로 AI는 인간의 감독하에 보안 패치를 자동으로 배포하고 구현할 수 있습니다. 이점에는 지속적인 모니터링, 공격 표면이 증가함에 따라 확장 성, 미묘한 지표를 감지하는 정확도가 증가하며 수동 리뷰에 비해 응답 시간이 빠릅니다.

AI는 사이버 보안을 변화시키고 있지만 기업은 진정으로 인한 위험에 대비하고 있습니까? 조직에서 AI 중심의 사이버 위협을 만났습니까? AI 기반 보안 솔루션이 점점 더 정교한 공격을 앞두고있을 수 있다고 생각하십니까? AI 간의 보안 도구와 잠재적 취약성의 균형을 어떻게 보십니까? 회사가 악용으로부터 AI 모델을 보호하기에 충분한가요? 아래 의견에 알려주십시오.

소셜 미디어에서 일상적인 프로젝트 업데이트를 따를 수 있습니다. 주간 업데이트 뉴스 레터를 구독하고 @davidgewirtz의 Twitter/X, Facebook의 Facebook, Instagram.com/davidgewirtz, @davidgewirtz.com의 Bluesky 및 YouTube (YouTube.com/davidgewirtztv)의 Twitter/X에서 나를 팔로우하십시오.