MSC colabora sobre riesgos y oportunidades de IA

Durante seis décadas, la Conferencia de Seguridad de Múnich ha sido un punto de encuentro clave para líderes mundiales, empresas, expertos y la sociedad civil para mantener discusiones abiertas sobre cómo fortalecer y proteger las democracias y el orden global. Con el aumento de las tensiones geopolíticas, elecciones cruciales en todo el mundo y amenazas cibernéticas más avanzadas, estas conversaciones son más vitales que nunca. La aparición de la IA en roles tanto ofensivos como defensivos agrega una nueva capa a la conversación.

Justo esta semana, el Grupo de Análisis de Amenazas (TAG) de Google, junto con los equipos de Mandiant y Trust & Safety, publicó un nuevo informe. Este revela cómo grupos respaldados por Irán están utilizando la guerra de información para influir en la opinión pública sobre el conflicto Israel-Hamas. El informe también nos actualiza sobre los aspectos cibernéticos de la guerra de Rusia en Ucrania. Por separado, TAG destacó el creciente uso de software espía comercial por parte de gobiernos y otros actores maliciosos, dirigido a periodistas, activistas de derechos humanos, disidentes y políticos de oposición. Y no olvidemos los informes continuos sobre actores de amenazas que explotan vulnerabilidades de sistemas antiguos para comprometer la seguridad de gobiernos y empresas privadas.

En medio de estas amenazas crecientes, tenemos una oportunidad única para usar la IA para fortalecer las defensas cibernéticas de las democracias en todo el mundo, brindando a empresas, gobiernos y organizaciones nuevas herramientas defensivas que antes solo estaban disponibles para los actores más grandes. En Múnich esta semana, estamos explorando cómo podemos usar nuevas inversiones, compromisos y asociaciones para abordar los riesgos de la IA y capitalizar su potencial. Después de todo, las democracias no pueden florecer en un mundo donde los atacantes pueden usar la IA para innovar, pero los defensores no.

Usando la IA para reforzar las defensas cibernéticas

Durante años, las amenazas cibernéticas han sido un dolor de cabeza para los profesionales de seguridad, gobiernos, empresas y la sociedad civil. La IA tiene el potencial de cambiar el equilibrio, dando a los defensores una ventaja real sobre los atacantes. Pero, como cualquier tecnología, la IA puede ser un arma de doble filo si no se desarrolla y utiliza de manera segura.

Por eso, hoy lanzamos la Iniciativa de Defensa Cibernética con IA. Se trata de aprovechar el potencial de seguridad de la IA con una agenda de políticas y tecnología propuesta para ayudar a asegurar, empoderar y avanzar en nuestro futuro digital colectivo. La Iniciativa de Defensa Cibernética con IA se basa en nuestro Marco de IA Segura (SAIF), que ayuda a las organizaciones a crear herramientas y productos de IA que sean seguros desde el inicio.

Como parte de esta iniciativa, estamos lanzando una nueva cohorte de startups "IA para Ciberseguridad" para impulsar la escena de la ciberseguridad transatlántica. También estamos aumentando nuestro compromiso de $15 millones para la formación en ciberseguridad en toda Europa, añadiendo otros $2 millones para apoyar la investigación en ciberseguridad y abriendo el código de Magika, nuestro sistema de identificación de tipos de archivos impulsado por Google AI. Además, seguimos invirtiendo en nuestros centros de datos globales seguros y preparados para la IA. Para finales de 2024, habremos invertido más de $5 mil millones en centros de datos europeos, ayudando a garantizar un acceso seguro y confiable a una variedad de servicios digitales, incluidas las capacidades de IA generativa de nuestra plataforma Vertex AI.

Proteger las elecciones democráticas

Este año, se celebran elecciones en toda Europa, Estados Unidos, India y muchos otros países. Tenemos un historial de apoyo a la integridad de las elecciones democráticas, y acabamos de anunciar nuestra campaña de prebunking en la UE antes de las elecciones parlamentarias. Esta campaña, que enseña a las personas cómo detectar trucos comunes de manipulación antes de que los vean a través de anuncios de video cortos en redes sociales, comienza esta primavera en Francia, Alemania, Italia, Bélgica y Polonia. También estamos totalmente comprometidos en continuar nuestros esfuerzos para detener el abuso en nuestras plataformas, proporcionar a los votantes información de alta calidad y dar a las personas información sobre contenido generado por IA para ayudarles a tomar mejores decisiones.

Hay preocupaciones válidas sobre el mal uso de la IA para crear deepfakes y engañar a los votantes. Pero la IA también ofrece una oportunidad única para prevenir el abuso a gran escala. Los equipos de Trust & Safety de Google están abordando esto de frente, usando la IA para impulsar nuestros esfuerzos para combatir el abuso, hacer cumplir nuestras políticas de manera más efectiva y adaptarnos rápidamente a nuevas situaciones o reclamos.

También estamos colaborando con otros en la industria, compartiendo investigaciones y trabajando juntos para contrarrestar amenazas y abusos, incluido el riesgo de contenido de IA engañoso. La semana pasada, nos unimos a la Coalición para la Procedencia y Autenticidad de Contenido (C2PA), que está trabajando en una credencial de contenido para esclarecer cómo se crea y edita el contenido generado por IA con el tiempo. Esto se basa en nuestras colaboraciones interindustriales sobre IA responsable con el Frontier Model Forum, la Partnership on AI y otras iniciativas.

Colaborando para defender el orden internacional basado en reglas

La Conferencia de Seguridad de Múnich ha resistido la prueba del tiempo como un lugar para abordar los desafíos a la democracia. Durante 60 años, las democracias han enfrentado y superado estos desafíos, lidiando con cambios importantes, como el traído por la IA, juntas. Ahora, tenemos la oportunidad de unirnos nuevamente —como gobiernos, empresas, académicos y sociedad civil— para forjar nuevas asociaciones, aprovechar el potencial de la IA para el bien y fortalecer el orden mundial basado en reglas.