MSC arbeitet an KI -Risiken und Möglichkeiten zusammen

Seit sechs Jahrzehnten ist die Münchner Sicherheitskonferenz ein wichtiger Treffpunkt für die Führungskräfte, Unternehmen, Experten und die Zivilgesellschaft der Welt, um offene Diskussionen über die Stärkung und den Schutz der Demokratien und die globale Ordnung zu führen. Mit zunehmenden geopolitischen Spannungen, entscheidenden Wahlen weltweit und fortgeschritteneren Cyber ​​-Bedrohungen sind diese Gespräche wichtiger als je zuvor. Die Entstehung von KI in offensiven und defensiven Rollen verleiht der Konversation eine ganz neue Ebene.

Erst in dieser Woche hat Googles Threat Analysis Group (Tag) zusammen mit Mandiant- und Vertrauens- und Sicherheitsteams einen neuen Bericht fallen lassen. Es zeigt, wie iranisch unterstützte Gruppen den Informationskrieg verwenden, um die öffentliche Meinung zum Israel-Hamas-Konflikt zu beeinflussen. Der Bericht aktualisiert uns auch über die Cyberaspekte des Russlandkrieges in der Ukraine. Unabhängig davon hob TAG den wachsenden Einsatz von kommerziellen Spyware durch Regierungen und andere schlechte Akteure, Zielgruppen, Menschenrechtsaktivisten, Dissidenten und Oppositionspolitiker hervor. Und vergessen wir nicht die laufenden Berichte über Bedrohungsakteure, die alte Systemschwachstellen ausnutzen, um die Sicherheit von Regierungen und privaten Unternehmen zu beeinträchtigen.

Inmitten dieser eskalierenden Bedrohungen haben wir die goldene Gelegenheit, mit KI die Cyber ​​-Verteidigung von Demokratien weltweit zu stärken und Unternehmen, Regierungen und Organisationen neue Defensivwerkzeuge zu geben, die für die größten Spieler einst nur zur Verfügung standen. In München in dieser Woche tauchen wir darüber ein, wie wir neue Investitionen, Verpflichtungen und Partnerschaften einsetzen können, um die KI -Risiken anzugehen und von seinem Potenzial zu profitieren. Immerhin können Demokratien in einer Welt nicht gedeihen, in der Angreifer KI nutzen können, um innovativ zu sein, aber die Verteidiger können es nicht können.

Verwenden von KI, um Cyber ​​-Verteidigung zu verbessern

Seit Jahren sind Cyber ​​-Bedrohungen Kopfschmerzen für Sicherheitsprofis, Regierungen, Unternehmen und Zivilgesellschaft. AI hat das Potenzial, das Gleichgewicht zu verschieben und den Verteidigern einen echten Vorteil gegenüber Angreifern zu verleihen. Aber wie jede Technologie kann KI ein zweischneidiges Schwert sein, wenn es nicht sicher entwickelt und verwendet wird.

Deshalb haben wir heute die KI -Cyber ​​-Verteidigungsinitiative gestartet. Es geht darum, das Sicherheitspotentum der KI mit einer vorgeschlagenen Richtlinie und einer technischen Agenda zu nutzen, um unsere kollektive digitale Zukunft zu sichern, zu stärken und zu fördern. Die KI -Cyber ​​-Verteidigungsinitiative baut auf unserem Secure AI Framework (SAIF) auf, mit dem Unternehmen AI -Tools und -Produkte erstellen können, die von Anfang an sicher sind.

Im Rahmen dieser Initiative starten wir eine neue Startup -Kohorte "KI for Cybersecurity", um die transatlantische Cybersecurity -Szene zu steigern. Wir verbessern auch unser Engagement von 15 Millionen US-Dollar für Cybersicherheitstraining in ganz Europa und veröffentlichen weitere 2 Millionen US-Dollar, um die Cybersicherheitsforschung zu unterstützen, und Open-Sourcing Magika, unseres Google AI-angetriebenen Dateityp-Identifikationssystem. Außerdem gießen wir weiterhin Geld in unsere sicheren, kI-fähigen globalen Rechenzentren ein. Bis Ende 2024 haben wir über 5 Milliarden US -Dollar in europäische Rechenzentren investiert und dazu beitragen, einen sicheren, zuverlässigen Zugang zu einer Reihe digitaler Dienste zu gewährleisten, einschließlich der generativen KI -Funktionen unserer Vertex AI -Plattform.

Schutz der demokratischen Wahlen

In diesem Jahr finden Wahlen in ganz Europa, den Vereinigten Staaten, Indien und vielen anderen Ländern statt. Wir haben eine Erfolgsgeschichte über die Unterstützung der Integrität der demokratischen Wahlen und haben gerade unsere EU -Vorbunking -Kampagne vor den Parlamentswahlen angekündigt. Diese Kampagne, die den Menschen beibringt, wie man gemeinsame Manipulationstricks ermittelt, bevor sie sie durch kurze Videoanzeigen in den sozialen Medien sehen, beginnt in diesem Frühjahr in Frankreich, Deutschland, Italien, Belgien und Polen. Wir sind auch voll und ganz dafür verpflichtet, unsere Bemühungen zu behalten, den Missbrauch auf unseren Plattformen zu stoppen, den Wählern qualitativ hochwertige Informationen zur Verfügung zu stellen und den Menschen die geringen Inhalte von AI-Generierten zu geben, um ihnen zu helfen, bessere Entscheidungen zu treffen.

Es gibt gültige Sorgen darüber, dass KI missbraucht wird, um tiefe Fälschungen und irreführende Wähler zu schaffen. AI bietet aber auch eine einzigartige Chance, Missbrauch massiv zu verhindern. Googles Trust & Safety-Teams befassen sich direkt mit dieser KI, um unsere Bemühungen zur Bekämpfung von Missbrauch zu steigern, unsere Richtlinien effektiver durchzusetzen und sich schnell an neue Situationen oder Ansprüche anzupassen.

Wir arbeiten auch mit anderen in der Branche zusammen, teilen Forschung und arbeiten zusammen, um Bedrohungen und Missbrauch entgegenzuwirken, einschließlich des Risikos von Täuschungs -KI -Inhalten. Erst letzte Woche haben wir uns der Koalition für Inhaltsproduktion und Authentizität (C2PA) beigetreten, die an einem Inhaltsanmeldung arbeitet, um Licht darüber zu werfen, wie AI-generierte Inhalte im Laufe der Zeit erstellt und bearbeitet werden. Dies baut auf unserer leitenden Zusammenarbeit in der verantwortlichen KI mit dem Frontier Model Forum, der Partnerschaft über KI und anderen Initiativen auf.

Zusammenarbeit zur Verteidigung der internationalen Regelnverordnung

Die Münchner Sicherheitskonferenz hat den Test der Zeit als Ort zur Bewältigung der Herausforderungen für die Demokratie bestanden. Seit 60 Jahren stehen Demokratien mit diesen Herausforderungen und bewältigen sich mit großen Veränderungen - wie die von AI - zusammengebracht. Jetzt haben wir die Chance, wieder zusammenzukommen-Regierungen, Unternehmen, Akademiker und Zivilgesellschaft-, um neue Partnerschaften zu entwickeln, die Potenzial von KI für Gutes zu nutzen und die Regeln auf der Grundlage der Welt zu stärken.