MSC arbeitet an KI -Risiken und Möglichkeiten zusammen

Seit sechs Jahrzehnten ist die Münchner Sicherheitskonferenz ein zentraler Treffpunkt für Weltführer, Unternehmen, Experten und die Zivilgesellschaft, um offene Diskussionen über die Stärkung und den Schutz von Demokratien und der globalen Ordnung zu führen. Angesichts zunehmender geopolitischer Spannungen, entscheidender Wahlen weltweit und fortschrittlicherer Cyberbedrohungen sind diese Gespräche wichtiger denn je. Das Aufkommen von AI in sowohl offensiven als auch defensiven Rollen fügt der Diskussion eine völlig neue Ebene hinzu.

Erst diese Woche veröffentlichten Googles Threat Analysis Group (TAG) zusammen mit den Mandiant- und Trust & Safety-Teams einen neuen Bericht. Er zeigt, wie von Iran unterstützte Gruppen Informationskrieg nutzen, um die öffentliche Meinung zum Israel-Hamas-Konflikt zu beeinflussen. Der Bericht aktualisiert uns auch über die Cyberaspekte des Krieges Russlands in der Ukraine. Separat hob TAG die wachsende Nutzung kommerzieller Spionagesoftware durch Regierungen und andere böswillige Akteure hervor, die Journalisten, Menschenrechtsaktivisten, Dissidenten und oppositionelle Politiker ins Visier nehmen. Und vergessen wir nicht die fortlaufenden Berichte über Bedrohungsakteure, die alte Systemschwachstellen ausnutzen, um die Sicherheit von Regierungen und privaten Unternehmen zu gefährden.

Angesichts dieser eskalierenden Bedrohungen haben wir eine einmalige Gelegenheit, AI zu nutzen, um die Cyberabwehr von Demokratien weltweit zu stärken und Unternehmen, Regierungen und Organisationen neue Verteidigungsinstrumente zur Verfügung zu stellen, die einst nur den größten Akteuren zugänglich waren. Auf der Münchner Konferenz diese Woche tauchen wir ein in die Frage, wie wir durch neue Investitionen, Verpflichtungen und Partnerschaften die Risiken von AI angehen und sein Potenzial nutzen können. Schließlich können Demokratien in einer Welt, in der Angreifer AI zur Innovation nutzen können, aber Verteidiger nicht, nicht gedeihen.

AI zur Stärkung der Cyberabwehr einsetzen

Jahrelang waren Cyberbedrohungen ein Problem für Sicherheitsexperten, Regierungen, Unternehmen und die Zivilgesellschaft. AI hat das Potanzial, das Gleichgewicht zu verändern und Verteidigern einen echten Vorteil gegenüber Angreifern zu verschaffen. Doch wie jede Technologie kann AI ein zweischneidiges Schwert sein, wenn sie nicht sicher entwickelt und genutzt wird.

Deshalb haben wir heute die AI Cyber Defense Initiative gestartet. Sie zielt darauf ab, das Sicherheitspotenzial von AI zu nutzen, mit einem vorgeschlagenen politischen und technologischen Fahrplan, um unsere gemeinsame digitale Zukunft zu sichern, zu stärken und voranzutreiben. Die AI Cyber Defense Initiative baut auf unserem Secure AI Framework (SAIF) auf, das Organisationen hilft, AI-Tools und -Produkte zu entwickeln, die von Anfang an sicher sind.

Im Rahmen dieser Initiative starten wir eine neue „AI for Cybersecurity“-Startup-Kohorte, um die transatlantische Cybersicherheitsszene zu stärken. Wir erhöhen auch unser 15-Millionen-Dollar-Engagement für Cybersicherheitsschulungen in ganz Europa, legen weitere 2 Millionen Dollar für die Unterstützung von Cybersicherheitsforschung drauf und stellen Magika, unser Google AI-gestütztes System zur Identifizierung von Dateitypen, als Open Source zur Verfügung. Außerdem investieren wir weiterhin in unsere sicheren, AI-fähigen globalen Rechenzentren. Bis Ende 2024 werden wir über 5 Milliarden Dollar in europäische Rechenzentren investiert haben, um einen sicheren, zuverlässigen Zugang zu einer Vielzahl digitaler Dienste zu gewährleisten, einschließlich der generativen AI-Fähigkeiten unserer Vertex AI-Plattform.

Schutz demokratischer Wahlen

In diesem Jahr finden Wahlen in ganz Europa, den Vereinigten Staaten, Indien und vielen anderen Ländern statt. Wir haben eine Erfolgsgeschichte beim Schutz der Integrität demokratischer Wahlen, und wir haben gerade unsere EU-Prebunking-Kampagne vor den Parlamentswahlen angekündigt. Diese Kampagne, die Menschen beibringt, gängige Manipulationstricks zu erkennen, bevor sie ihnen begegnen, durch kurze Videoanzeigen in sozialen Medien, startet diesen Frühling in Frankreich, Deutschland, Italien, Belgien und Polen. Wir sind auch voll entschlossen, unsere Bemühungen fortzusetzen, um Missbrauch auf unseren Plattformen zu stoppen, den Wählern hochwertige Informationen zu liefern und den Menschen Einblicke in AI-generierte Inhalte zu geben, um ihnen bessere Entscheidungen zu ermöglichen.

Es gibt berechtigte Sorgen, dass AI missbraucht werden könnte, um Deepfakes zu erstellen und Wähler zu täuschen. Aber AI bietet auch eine einzigartige Chance, Missbrauch in großem Maßstab zu verhindern. Googles Trust & Safety-Teams gehen das Problem direkt an und nutzen AI, um unsere Bemühungen im Kampf gegen Missbrauch zu verstärken, unsere Richtlinien effektiver durchzusetzen und uns schnell an neue Situationen oder Behauptungen anzupassen.

Wir arbeiten auch mit anderen in der Branche zusammen, teilen Forschungsergebnisse und kooperieren, um Bedrohungen und Missbrauch entgegenzuwirken, einschließlich des Risikos täuschender AI-Inhalte. Erst letzte Woche sind wir der Coalition for Content Provenance and Authenticity (C2PA) beigetreten, die an einem Inhaltsnachweis arbeitet, um Licht in die Erstellung und Bearbeitung von AI-generierten Inhalten im Laufe der Zeit zu bringen. Dies baut auf unseren branchenübergreifenden Kooperationen rund um verantwortungsvolle AI mit dem Frontier Model Forum, der Partnership on AI und anderen Initiativen auf.

Zusammenarbeit zur Verteidigung der regelbasierten internationalen Ordnung

Die Münchner Sicherheitskonferenz hat sich als Ort bewährt, um Herausforderungen für die Demokratie anzugehen. Seit 60 Jahren haben Demokratien diese Herausforderungen gemeistert und große Veränderungen – wie die durch AI hervorgerufene – gemeinsam bewältigt. Nun haben wir erneut die Chance, zusammenzukommen – als Regierungen, Unternehmen, Akademiker und Zivilgesellschaft – um neue Partnerschaften zu schmieden, das Potenzial von AI zum Guten zu nutzen und die regelbasierte Weltordnung zu stärken.