MSC는 AI 위험과 기회에 대해 협력합니다

60년 동안 뮌헨 안보회의는 세계 지도자, 기업, 전문가, 시민사회가 민주주의와 글로벌 질서를 강화하고 보호하기 위해 공개적인 토론을 벌이는 주요 모임 장소였습니다. 지정학적 긴장이 고조되고, 전 세계적으로 중요한 선거가 치러지며, 더욱 정교한 사이버 위협이 등장하면서 이러한 논의는 그 어느 때보다 중요해졌습니다. AI의 공격적 및 방어적 역할의 등장은 대화에 완전히 새로운 차원을 추가합니다.

이번 주, Google의 위협 분석 그룹(TAG)과 Mandiant 및 신뢰·안전 팀은 새로운 보고서를 발표했습니다. 이 보고서는 이란의 지원을 받는 단체들이 이스라엘-하마스 갈등에 대한 여론을 조작하기 위해 정보전을 사용하고 있음을 밝힙니다. 또한 이 보고서는 러시아의 우크라이나 전쟁의 사이버 측면에 대한 최신 정보를 제공합니다. 별도로, TAG는 정부 및 기타 악의적인 행위자들이 상업용 스파이웨어를 점점 더 많이 사용해 언론인, 인권 운동가, 반체제 인사, 야당 정치인을 표적으로 삼고 있다고 강조했습니다. 그리고 위협 행위자들이 오래된 시스템 취약점을 악용해 정부와 민간 기업의 보안을 침해하고 있다는 지속적인 보고도 잊지 말아야 합니다.

이러한 위협이 점점 더 심화되는 가운데, 우리는 AI를 활용해 전 세계 민주주의의 사이버 방어를 강화할 절호의 기회를 얻었습니다. 이는 기업, 정부, 조직에 이전에는 대기업만이 이용할 수 있었던 새로운 방어 도구를 제공합니다. 이번 주 뮌헨에서 우리는 새로운 투자, 약속, 파트너십을 통해 AI의 위험을 해결하고 그 잠재력을 최대한 활용하는 방법을 논의합니다. 결국, 공격자가 AI를 활용해 혁신할 수 있지만 방어자가 그렇지 못한 세상에서는 민주주의가 번영할 수 없습니다.

AI를 활용해 사이버 방어를 강화하다

수년간 사이버 위협은 보안 전문가, 정부, 기업, 시민사회에게 골칫거리였습니다. AI는 방어자에게 공격자보다 실질적인 우위를 제공할 잠재력을 가지고 있습니다. 하지만 모든 기술과 마찬가지로, AI가 안전하게 개발되고 사용되지 않으면 양날의 검일 수 있습니다.

이 때문에 우리는 오늘 AI 사이버 방어 이니셔티브를 시작했습니다. 이는 AI의 보안 잠재력을 활용해 우리의 집단적 디지털 미래를 안전하게 하고, 강화하며, 발전시키기 위한 정책 및 기술 의제를 제안하는 것입니다. AI 사이버 방어 이니셔티브는 조직이 처음부터 안전한 AI 도구와 제품을 만들 수 있도록 돕는 우리의 Secure AI Framework(SAIF)를 기반으로 합니다.

이 이니셔티브의 일환으로, 우리는 대서양 양쪽의 사이버 보안 생태계를 활성화하기 위해 새로운 "AI for Cybersecurity" 스타트업 코호트를 출범합니다. 또한 유럽 전역의 사이버 보안 교육에 대한 기존 1,500만 달러 약속을 확대하고, 사이버 보안 연구를 지원하기 위해 추가로 200만 달러를 투자하며, Google의 AI 기반 파일 유형 식별 시스템인 Magika를 오픈소스로 공개합니다. 게다가 우리는 안전하고 AI-ready 글로벌 데이터 센터에 지속적으로 자금을 투자하고 있습니다. 2024년 말까지 우리는 유럽 데이터 센터에 50억 달러 이상을 투자해 Vertex AI 플랫폼의 생성적 AI 기능을 포함한 다양한 디지털 서비스에 대한 안전하고 신뢰할 수 있는 접근을 보장할 것입니다.

민주적 선거 보호

올해 유럽, 미국, 인도 및 기타 여러 국가에서 선거가 치러집니다. 우리는 민주적 선거의 무결성을 지원해온 실적을 가지고 있으며, 유럽 의회 선거를 앞두고 EU 예비 차단 캠페인을 발표했습니다. 이 캠페인은 사람들이 소셜 미디어의 짧은 비디오 광고를 통해 일반적인 조작 수법을 미리 알아차리는 방법을 가르치며, 올봄 프랑스, 독일, 이탈리아, 벨기에, 폴란드에서 시작됩니다. 우리는 또한 플랫폼에서의 남용을 막고, 유권자에게 고품질 정보를 제공하며, 사람들이 AI 생성 콘텐츠에 대해 더 나은 선택을 할 수 있도록 정보를 제공하는 노력을 지속적으로 유지할 것입니다.

AI가 딥페이크를 만들거나 유권자를 오도하는 데 오용될 수 있다는 정당한 우려가 있습니다. 하지만 AI는 대규모 남용을 방지할 독특한 기회도 제공합니다. Google의 신뢰·안전 팀은 AI를 활용해 남용과 싸우고, 정책을 더 효과적으로 집행하며, 새로운 상황이나 주장에 빠르게 적응하고 있습니다.

우리는 또한 업계의 다른 이들과 협력해 연구를 공유하고, 위협과 남용, 특히 기만적인 AI 콘텐츠의 위험을 막기 위해 함께 노력하고 있습니다. 지난주 우리는 콘텐츠 출처 및 진위성 연합(Coalition for Content Provenance and Authenticity, C2PA)에 가입했으며, 이는 AI 생성 콘텐츠가 어떻게 만들어지고 시간이 지나며 편집되는지에 대한 통찰을 제공하는 콘텐츠 자격 증명을 개발하고 있습니다. 이는 Frontier Model Forum, Partnership on AI 및 기타 이니셔티브를 통한 책임 있는 AI에 대한 우리의 업계 간 협력을 기반으로 합니다.

규칙 기반 국제 질서 방어를 위한 협력

뮌헨 안보회의는 민주주의에 대한 도전을 해결하는 장소로 오랜 시간 검증받아 왔습니다. 60년 동안 민주주의는 AI가 가져온 것과 같은 주요 변화를 함께 해결하며 이러한 도전을 극복해왔습니다. 이제 우리는 정부, 기업, 학계, 시민사회가 다시 모여 새로운 파트너십을 형성하고, AI의 선한 잠재력을 활용하며, 규칙 기반 세계 질서를 강화할 기회를 갖습니다.