MSC는 AI 위험과 기회에 대해 협력합니다

뮌헨 보안 회의는 60 년 동안 세계 지도자, 기업, 전문가 및 시민 사회가 민주주의를 강화하고 보호하는 것에 대한 공개 토론을위한 주요 모임 지점이었습니다. 지정 학적 긴장, 전 세계적으로 중요한 선거 및 더 많은 사이버 위협이 증가함에 따라 이러한 대화는 그 어느 때보 다 중요합니다. 공격적인 역할과 방어 역할에서 AI의 출현은 대화에 완전히 새로운 계층을 추가합니다.

이번 주에 Google의 위협 분석 그룹 (TAG)은 Mandiant 및 Trust & Safety Teams와 함께 새로운 보고서를 중단했습니다. 이란 지원 단체가 어떻게 정보 전쟁을 사용하여 이스라엘-하마스 갈등에 대한 여론을 흔들고 있는지 보여줍니다. 이 보고서는 또한 우크라이나에서 러시아 전쟁의 사이버 측면에 대해 우리를 업데이트합니다. 이와 별도로, TAG는 정부 및 기타 나쁜 행위자들에 의한 상업용 스파이웨어의 사용이 증가하고 있으며 언론인, 인권 운동가, 반체제 및 야당 정치인을 대상으로했습니다. 그리고 정부와 민간 기업의 안보를 타협하기 위해 오래된 시스템 취약점을 이용하는 위협 행위자에 대한 지속적인 보고서를 잊지 마십시오.

이러한 증가하는 위협 가운데서, 우리는 AI를 사용하여 전세계 민주주의의 사이버 방어를 강화하여 비즈니스, 정부 및 조직에 한때 가장 큰 플레이어가 제공 한 새로운 방어 도구를 제공 할 수있는 황금 기회를 얻었습니다. 이번 주 뮌헨에서 우리는 AI 위험을 해결하고 잠재력을 활용하기 위해 새로운 투자, 약속 및 파트너십을 사용하는 방법을 다루고 있습니다. 결국, 공격자가 AI를 사용하여 혁신 할 수있는 세상에서 민주주의는 번성 할 수는 없지만 수비수는 할 수 없습니다.

사이버 방어를 강화하기 위해 AI를 사용합니다

수년 동안 사이버 위협은 보안 전문가, 정부, 기업 및 시민 사회의 두통이었습니다. AI는 균형을 바꿀 가능성이있어 수비수에게 공격자보다 진정한 우위를 점하게합니다. 그러나 모든 기술과 마찬가지로 AI는 개발되지 않고 안전하게 사용되지 않으면 양날의 검이 될 수 있습니다.

그렇기 때문에 오늘 AI 사이버 방어 이니셔티브를 시작했습니다. 제안 된 정책 및 기술 의제로 AI의 보안 잠재력을 활용하여 집단 디지털 미래를 확보하고 권한을 부여하며 발전시키는 데 도움이됩니다. AI Cyber ​​Defense Initiative는 SAIF (Secure AI Framework)를 기반으로하여 조직이 처음부터 안전한 AI 도구 및 제품을 만드는 데 도움이됩니다.

이 이니셔티브의 일환으로, 우리는 대서양 횡단 사이버 보안 장면을 강화하기 위해 새로운 "AI를위한 사이버 보안"스타트 업 코호트를 출시하고 있습니다. 또한 사이버 보안 연구를 지원하기 위해 유럽 전역의 사이버 보안 교육에 대한 1,500 만 달러의 약속과 Google AI 기반 파일 유형 식별 시스템 인 Open-Sourcing Magika를 투입했습니다. 또한, 우리는 안전한 AI-Ready Global Data Centers에 계속 돈을 쏟아 붓고 있습니다. 2024 년 말까지 우리는 유럽 데이터 센터에 50 억 달러 이상을 투자하여 Vertex AI 플랫폼의 생성 AI 기능을 포함하여 다양한 디지털 서비스에 안전하고 안정적인 액세스를 보장 할 수 있도록 도와 줄 것입니다.

민주 선거 보호

올해 유럽, 미국, 인도 및 기타 여러 국가 전역에서 선거가 진행되고 있습니다. 우리는 민주 선거의 정직성을지지하는 기록을 가지고 있으며, 의회 선거에 앞서 EU Prebunking 캠페인을 발표했습니다. 이 캠페인은 사람들에게 소셜 미디어의 짧은 비디오 광고를 통해 일반적인 조작 트릭을 발견하는 방법을 가르치고 올 봄 프랑스, ​​독일, 이탈리아, 벨기에 및 폴란드에서 시작됩니다. 우리는 또한 플랫폼에서의 학대를 중단하고 유권자에게 고품질 정보를 제공하며 사람들에게 AI 생성 된 컨텐츠에 대한 낮은 다운을 제공하여 더 나은 선택을 할 수 있도록 노력하고 있습니다.

AI가 깊은 가짜를 만들고 오해 유권자를 만들기 위해 오용되는 것에 대한 유효한 걱정이 있습니다. 그러나 AI는 또한 대규모 학대를 방지 할 수있는 독특한 기회를 제공합니다. Google의 Trust & Safety 팀은 AI를 사용하여 학대와 싸우고 정책을보다 효과적으로 시행하며 새로운 상황이나 청구에 신속하게 적응하려는 노력을 촉진 하여이 정통을 해결하고 있습니다.

우리는 또한 업계의 다른 사람들과 팀을 이루고, 연구를 공유하고,기만적인 AI 컨텐츠의 위험을 포함하여 위협과 학대에 대응하기 위해 함께 노력하고 있습니다. 지난 주, 우리는 C2PA (Content for Content for Content for Condent for Coalition)에 합류하여 컨텐츠 자격 증명을 연구하여 시간이 지남에 따라 AI 생성 된 컨텐츠를 작성하고 편집하는 방법을 밝히고 있습니다. 이것은 Frontier Model Forum, AI의 파트너십 및 기타 이니셔티브와 함께 책임있는 AI와 관련된 산업 간 협력을 기반으로합니다.

규칙 기반 국제 질서를 방어하기 위해 팀을 구성합니다

뮌헨 보안 회의는 민주주의에 대한 도전을 해결하기위한 장소로 시간의 시험을 견뎌냈습니다. 60 년 동안 민주주의는 AI가 가져온 것과 같은 주요 변화를 다루면서 이러한 도전에 직면하고 극복했습니다. 이제 우리는 정부, 기업, 학계 및 시민 사회로서 새로운 파트너십을 구축하고 AI의 선량을 활용하고 규칙 기반 세계 질서를 강화할 수있는 기회가 있습니다.