MSC colabora sobre riesgos y oportunidades de IA

Durante seis décadas, la Conferencia de Seguridad de Munich ha sido un lugar clave de reunión para los líderes mundiales, empresas, expertos y la sociedad civil para tener discusiones abiertas sobre la refuerzo y la protección de las democracias y el orden global. Con el aumento de las tensiones geopolíticas, las elecciones cruciales en todo el mundo y las amenazas cibernéticas más avanzadas, estas conversaciones son más vitales que nunca. La aparición de IA en roles ofensivos y defensivos agrega una capa completamente nueva a la conversación.

Solo esta semana, el grupo de análisis de amenazas de Google (TAG), junto con los equipos de Mandiant y Trust & Safety, redujo un nuevo informe. Revela cómo los grupos respaldados por Irán están utilizando la guerra de información para influir en la opinión pública sobre el conflicto de Israel-Hamas. El informe también nos actualiza sobre los aspectos cibernéticos de la guerra de Rusia en Ucrania. Por separado, TAG destacó el uso creciente del spyware comercial por parte de los gobiernos y otros malos actores, dirigidos a periodistas, activistas de derechos humanos, disidentes y políticos de oposición. Y no olvidemos los informes en curso de actores de amenazas que explotan las vulnerabilidades antiguas del sistema para comprometer la seguridad de los gobiernos y las empresas privadas.

En medio de estas amenazas crecientes, tenemos una oportunidad de oro para usar la IA para reforzar las cibernéticas defensas de las democracias en todo el mundo, dando negocios, gobiernos y organizaciones nuevas herramientas defensivas que alguna vez estuvieron disponibles para los jugadores más grandes. En Munich esta semana, estamos sumergiendo cómo podemos usar nuevas inversiones, compromisos y asociaciones para abordar los riesgos de IA y capitalizar su potencial. Después de todo, las democracias no pueden florecer en un mundo donde los atacantes pueden usar la IA para innovar, pero los defensores no pueden.

Usando AI para reforzar las defensas cibernéticas

Durante años, las amenazas cibernéticas han sido un dolor de cabeza para profesionales de seguridad, gobiernos, empresas y sociedad civil. La IA tiene el potencial de cambiar el equilibrio, dando a los defensores una ventaja real sobre los atacantes. Pero, como cualquier tecnología, la IA puede ser una espada de doble filo si no se desarrolla y se usa de forma segura.

Es por eso que iniciamos la iniciativa de defensa cibernética de AI hoy. Se trata de aprovechar el potencial de seguridad de la IA con una agenda de política y tecnología propuesta para ayudar a asegurar, empoderar y avanzar en nuestro futuro digital colectivo. La iniciativa de defensa cibernética de IA se basa en nuestro marco seguro de IA (SAIF), que ayuda a las organizaciones a crear herramientas y productos de IA que están seguros desde el principio.

Como parte de esta iniciativa, estamos lanzando una nueva cohorte de inicio de "AI para ciberseguridad" para impulsar la escena de seguridad cibernética transatlántica. También estamos aumentando nuestro compromiso de $ 15 millones con la capacitación de seguridad cibernética en Europa, lanzando otros $ 2 millones para apoyar la investigación de ciberseguridad y Magika de código abierto, nuestro sistema de identificación de tipo de archivo con alimentación de Google AI. Además, seguimos vierte dinero en nuestros centros de datos globales seguros y listos para AI. A finales de 2024, habremos invertido más de $ 5 mil millones en centros de datos europeos, ayudando a garantizar un acceso seguro y confiable a una gama de servicios digitales, incluidas las capacidades generativas de IA generativas de nuestra plataforma Vértice.

Protección de elecciones democráticas

Este año, las elecciones están ocurriendo en toda Europa, Estados Unidos, India y muchos otros países. Tenemos un historial de apoyar la integridad de las elecciones democráticas, y acabamos de anunciar nuestra campaña de prepacio de la UE antes de las elecciones parlamentarias. Esta campaña, que enseña a las personas cómo detectar trucos de manipulación comunes antes de verlos a través de anuncios de video cortos en las redes sociales, comienza esta primavera en Francia, Alemania, Italia, Bélgica y Polonia. También estamos totalmente comprometidos a mantener nuestros esfuerzos para detener el abuso en nuestras plataformas, proporcionar a los votantes información de alta calidad y dar a las personas el nivel reducido sobre el contenido generado por la IA para ayudarlos a tomar mejores decisiones.

Hay preocupaciones válidas de que la IA se use mal para crear falsificaciones profundas y engañar a los votantes. Pero la IA también ofrece una oportunidad única para prevenir el abuso a gran escala. Los equipos de confianza y seguridad de Google están abordando este frente, utilizando AI para aumentar nuestros esfuerzos para combatir el abuso, hacer cumplir nuestras políticas de manera más efectiva y adaptarse rápidamente a nuevas situaciones o reclamos.

También nos estamos asociando con otros en la industria, compartiendo investigaciones y trabajando juntos para contrarrestar las amenazas y el abuso, incluido el riesgo de contenido de IA engañoso. La semana pasada, nos unimos a la Coalición para la procedencia y la autenticidad del contenido (C2PA), que está trabajando en una credencial de contenido para arrojar luz sobre cómo se hace y edita el contenido generado por IA con el tiempo. Esto se basa en nuestras colaboraciones de la industria cruzada en torno a la IA responsable con el Foro de Modelos de Frontier, la Asociación de IA y otras iniciativas.

Equipo para defender el orden internacional basado en reglas

La Conferencia de Seguridad de Munich ha resistido la prueba del tiempo como un lugar para enfrentar desafíos a la democracia. Durante 60 años, las democracias han enfrentado y superado estos desafíos, lidiando con cambios importantes, como el que trajo la IA, de manera segura. Ahora, tenemos la oportunidad de unirnos nuevamente, como gobiernos, negocios, académicos y sociedad civil, para forjar nuevas asociaciones, aprovechar el potencial de la IA para el bien y fortalecer el orden mundial basado en reglas.