보안 책임자, 딥시크와 같은 도구의 위험성을 언급하며 신속한 AI 규제 촉구

보안 운영 센터, 특히 최고 정보 보안 책임자(CISO) 사이에서 중국의 거대 AI 기업인 딥시크에 대한 우려가 커지고 있습니다.

처음에는 비즈니스 효율성과 혁신을 위한 돌파구로 환영받았던 인공지능은 이제 기업 보안을 책임지는 사람들에게 상당한 우려를 불러일으키고 있습니다.

영국 CISO의 상당수(81%)가 중국 AI 챗봇에 대한 정부의 즉각적인 규제를 촉구하고 있습니다. 이들은 신속한 조치가 없으면 이 도구가 전국적인 사이버 보안 위기를 촉발할 수 있다고 경고합니다.

이러한 우려는 추측에 근거한 것이 아니라 기술의 불투명한 데이터 관행과 악의적인 사용 가능성, 즉 최고 수준의 기업 보안에 경종을 울리고 있는 문제에서 직접적으로 비롯된 것입니다.

이러한 인사이트는 앱솔루트 시큐리티의 영국 복원력 위험 지수 보고서를 위해 영국 주요 조직의 250명의 CISO를 대상으로 실시한 설문조사에서 나온 결과입니다. 이 데이터는 이론에 불과했던 AI 위협이 보안 리더들에게 가시적인 현실이 되었으며, 단호한 대응을 촉구하고 있음을 보여줍니다.

전략의 극적인 변화를 반영하듯, 이들 리더 중 3분의 1 이상(34%)은 보안에 대한 우려로 인해 이미 AI 도구를 전면적으로 금지하고 있습니다. 또한 30%는 회사 내 특정 AI 배포를 중단했습니다.

이러한 움직임은 기술에 대한 거부가 아니라 증가하는 위험 환경에 대한 실용적인 대응입니다. 최근 해로즈에서 발생한 보안 침해와 같은 유명한 사건에서 알 수 있듯이 기업들은 이미 정교한 위협에 맞서고 있습니다. CISO들은 이러한 위협을 따라잡는 데 어려움을 겪고 있으며, 공격자의 역량을 강화하는 고급 AI의 등장으로 인해 많은 기업이 이에 대응할 준비가 되어 있지 않다고 느끼고 있습니다.

딥시크와 같은 플랫폼의 보안 격차 확대

딥시크와 같은 플랫폼의 근본적인 위험은 민감한 기업 데이터를 유출하고 사이버 범죄자들이 공격 도구로 활용할 수 있는 이중적인 잠재력입니다.

CISO의 60%는 딥시크의 확산으로 인해 사이버 공격이 직접적으로 증가할 것으로 예상하고 있습니다. 같은 수의 응답자가 이 기술이 이미 개인정보 보호 및 거버넌스 프로토콜을 복잡하게 만들고 있으며, 이미 까다로운 역할을 한계까지 밀어붙이고 있다고 답했습니다.

이로 인해 인식에 주목할 만한 변화가 생겼습니다. 한때 보안의 판도를 바꿀 수 있는 잠재적인 기술로 여겨졌던 AI는 점점 더 많은 보안 전문가들이 위협의 일부로 간주하고 있습니다. 설문조사에 따르면 CISO의 42%는 현재 AI가 보안 태세에 미치는 이점보다 위험이 더 크다고 생각하는 것으로 나타났습니다.

앱솔루트 시큐리티의 국제 수석 부사장 앤디 워드는 다음과 같이 말했습니다: "이번 연구는 사이버 위협 환경을 빠르게 변화시키고 있는 딥시크와 같은 새로운 AI 도구가 얼마나 큰 위험성을 내포하고 있는지를 강조합니다.

공격을 강화하고 민감한 데이터를 위험에 빠뜨릴 수 있는 능력에 대한 우려가 커지고 있는 상황에서 조직은 이러한 AI 기반 위협에 대응하기 위해 사이버 복원력을 강화하고 보안 프레임워크를 시급히 업데이트해야 합니다."라고 말합니다.

"이것이 바로 영국 CISO 5명 중 4명이 정부 규제를 요구하는 이유입니다. 그들은 이 기술이 얼마나 빠르게 발전하고 기존 보안 조치를 우회할 수 있는지 직접 목격했습니다."

가장 놀라운 사실은 준비가 부족하다는 고백입니다. 고위 보안 리더의 거의 절반(46%)이 자신의 팀이 AI 기반 공격의 고유한 위험에 대처할 준비가 되어 있지 않다고 인정했습니다. 이들은 딥시크와 같은 도구가 방어 전략이 적응할 수 있는 속도보다 빠르게 발전하는 것을 지켜보면서 정부의 개입만이 해결할 수 있는 중대한 취약점을 만들고 있다고 생각합니다.

"이는 가상이 아닌 구체적인 위험입니다."라고 워드는 덧붙입니다. "이미 많은 조직에서 딥시크와 같은 LLM에 대응하기 위해 AI 도구를 전면 금지하고 보안 전략을 정비하고 있다는 사실은 이 문제가 얼마나 시급한지를 보여줍니다.

"배포, 거버넌스 및 모니터링에 대한 명확한 규칙을 수립하는 국가 규제 프레임워크가 없다면 영국 경제의 모든 부문에 걸쳐 심각한 혼란을 초래할 위험이 있습니다."

AI의 미래를 위해 투자하는 기업

방어적인 입장을 취하고 있음에도 불구하고 기업들이 AI를 완전히 포기한 것은 아닙니다. 현재의 접근 방식은 전면적인 후퇴라기보다는 전략적 재조정에 가깝습니다.

기업들은 AI의 혁신적 잠재력을 인정하고 이를 안전하게 통합하기 위해 막대한 투자를 하고 있습니다. 실제로 84%의 기업이 2025년까지 AI 전문가 채용을 우선순위에 두고 있습니다.

이러한 노력은 최고 경영진 수준까지 이어져 80%의 기업이 최고 경영진을 위한 AI 교육에 전념하고 있습니다. 이 전략은 두 가지로, 기존 직원의 역량을 강화하여 기술을 관리하고 복잡한 기술을 다룰 전문 인재를 채용하는 것입니다.

목표는 AI 지식에 대한 강력한 내부 기반을 구축하여 증가하는 외부 위협에 대한 중요한 방어 수단으로 삼는 것입니다.

영국의 보안 리더십이 전하는 메시지는 분명합니다. AI 혁신을 억제하는 것이 아니라 안전한 발전을 보장하는 것이 목표라는 것입니다. 이를 달성하기 위해서는 정부와 더욱 강력하고 협력적인 파트너십이 필요합니다.

이를 위해서는 명확한 규칙을 설정하고, 정부의 감독을 보장하며, 숙련된 AI 인력을 개발하고, DeepSeek와 앞으로 등장할 강력한 AI 도구로 인한 보안 위험을 관리하기 위한 일관된 국가 전략을 수립하는 것이 필요합니다.

"논의의 시기는 지났습니다. 우리는 즉각적인 조치, 명확한 정책, 엄격한 감독을 통해 AI가 위기를 촉발하는 것이 아니라 발전을 주도할 수 있도록 해야 합니다."라고 Ward는 결론을 내립니다.

참고 자료: 앨런 튜링 연구소: 인문학은 AI의 미래를 위한 열쇠입니다

업계 전문가로부터 AI와 빅데이터에 대해 더 자세히 알아보고 싶으신가요? 암스테르담, 캘리포니아, 런던에서 열리는 AI & 빅데이터 엑스포를 살펴보세요. 이 종합적인 이벤트는 지능형 자동화 컨퍼런스, 블록엑스, 디지털 트랜스포메이션 위크, 사이버 보안 및 클라우드 엑스포 등 다른 주요 컨퍼런스와 함께 진행됩니다.

예정된 더 많은 엔터프라이즈 기술 이벤트와 웨비나는 여기에서 TechForge에서 제공하는 웨비나를 확인하세요.