Openai는 방금 최초의 사이버 보안 투자를했습니다

생성 AI는 해커와 악의적인 행위자들에게 이용 가능한 무기를 크게 확장시켰습니다. CEO의 딥페이크 비디오를 제작하거나 위조된 영수증을 생성하는 등, 오용 가능성은 매우 큽니다. 생성 AI 분야의 선두주자인 OpenAI는 이러한 위험을 잘 인식하고 있습니다. 전략적 움직임으로, OpenAI는 뉴욕 기반의 Adaptive Security에 4,300만 달러 규모의 시리즈 A 라운드에 Andreessen Horowitz와 함께 투자하며 첫 사이버보안 스타트업 투자를 단행했습니다.

Adaptive Security는 AI가 생성한 공격을 시뮬레이션하여 직원들이 이러한 위협을 식별하고 차단하는 훈련을 통해 사이버보안에 선제적으로 대응합니다. CTO와 똑같은 목소리로 인증 코드를 요청하는 전화를 받았다고 상상해보세요. 그 목소리는 CTO의 것이 아니라 Adaptive Security가 만든 정교한 시뮬레이션입니다. 이 회사의 플랫폼은 전화뿐만 아니라 문자와 이메일도 시뮬레이션하여 기업의 가장 취약한 영역을 평가하고 직원들이 이러한 위험을 인식하고 완화하도록 훈련시킵니다.

Adaptive Security는 공격자가 직원들을 속여 악성 링크를 클릭하게 하는 등 승인되지 않은 행동을 유도하는 "소셜 엔지니어링" 해킹에 초점을 맞춥니다. 이러한 단순해 보이는 전술은 2022년 Axie Infinity가 개발자를 대상으로 한 가짜 구직 사기로 6억 달러 이상을 잃은 사례에서 알 수 있듯이 큰 손실로 이어질 수 있습니다.

공동 설립자이자 CEO인 Brian Long에 따르면, AI는 이러한 소셜 엔지니어링 공격을 더 쉽게 실행할 수 있게 했습니다. 2023년 출시 이후, Adaptive Security는 고객 기반을 100개 이상으로 빠르게 확장하며 긍정적인 피드백을 바탕으로 OpenAI의 투자를 확보했습니다. TapCommerce(2014년 Twitter에 1억 달러 이상에 인수)와 Attentive(2021년 100억 달러 이상 가치 평가)를 성공적으로 매각한 경험이 있는 Long은 새로운 자금을 엔지니어 고용과 플랫폼 강화에 사용할 계획이며, 이는 사이버 범죄자들과의 지속적인 AI "무기 경쟁" 속에서 이루어집니다.

Adaptive Security는 AI 기반 위협에 대처하는 유일한 기업은 아닙니다. ChatGPT와 같은 도구에서 민감한 정보의 오용을 방지하기 위해 최근 10억 달러 가치로 1억 달러를 조달한 Cyberhaven, 그리고 안전하지 않은 AI 생성 코드의 증가로 연간 3억 달러 이상의 매출을 올리고 있는 Snyk와 같은 다른 스타트업들도 이 분야에서 큰 진전을 이루고 있습니다. 또한, 딥페이크 탐지 회사 GetReal은 지난달 이러한 고급 위협에 대응하기 위해 1,750만 달러를 확보했습니다.

AI 위협이 진화함에 따라 Long은 음성 복제에 우려하는 직원들에게 간단한 조언을 제공합니다: "음성 메일을 삭제하세요." 이 간단한 행동은 해커가 AI 기술을 악용할 수 있는 여러 방법 중 하나로부터 보호하는 데 도움이 될 수 있습니다.