Informe de responsabilidad de AI 2024 publicado

Hace dos años, compartimos nuestra visión para avanzar en la IA en beneficio de la sociedad y fomentar la innovación. Hace pocas semanas, lanzamos nuestra actualización de 2024, mostrando los avances logrados. Desde modelos de vanguardia que potencian la creatividad hasta avances impulsados por IA en biología, investigación sanitaria y neurociencia, estamos generando impacto.

Pero ser audaces con la IA implica ser responsables desde el inicio. Por eso, nuestro enfoque hacia la IA siempre ha sido comprender y abordar su amplio impacto en las personas. En 2018, fuimos de los primeros en establecer principios de IA, y desde 2019 publicamos un informe anual de transparencia. Siempre ajustamos nuestras políticas, prácticas y marcos para mantenernos actualizados.

Informe de Progreso en IA Responsable 2024

Nuestro sexto Informe Anual de Progreso en IA Responsable profundiza en cómo gestionamos los riesgos de la IA durante el proceso de desarrollo. Muestra el progreso del último año en la creación de estructuras de gobernanza para los lanzamientos de productos de IA.

Estamos destinando más recursos que nunca a la investigación de IA y productos que beneficien a las personas y la sociedad, así como a la seguridad de la IA y la identificación de riesgos potenciales.

El informe del año pasado destacó más de 300 artículos de investigación de nuestros equipos sobre responsabilidad y seguridad, actualizaciones de nuestras políticas de IA y aprendizajes de ejercicios de red teaming y evaluaciones contra estándares de seguridad, privacidad y protección. También hemos avanzado en la mitigación de riesgos en distintos lanzamientos de IA, con mejores ajustes de seguridad y filtros, controles de seguridad y privacidad, uso de tecnología de procedencia en nuestros productos y promoción de una mayor alfabetización en IA. Durante 2024, también apoyamos a la comunidad de IA con financiamiento, herramientas y desarrollo de estándares, como se detalla en el informe.

Actualización del Marco de Seguridad de Frontera

A medida que la IA evoluciona, nuevas capacidades pueden traer nuevos riesgos. Por eso, el año pasado lanzamos la primera versión de nuestro Marco de Seguridad de Frontera, un conjunto de protocolos para gestionar riesgos potenciales de modelos de IA de frontera potentes. Hemos trabajado con expertos de la industria, la academia y el gobierno para entender mejor estos riesgos, cómo probarlos y cómo mitigarlos.

También hemos implementado el Marco en los procesos de seguridad y gobernanza de Google DeepMind para evaluar modelos de frontera como Gemini 2.0. Hoy, lanzamos una versión actualizada del Marco de Seguridad de Frontera, que incluye:

• Recomendaciones para Mayor Seguridad: identificar dónde reforzar esfuerzos para prevenir fugas de datos.
• Procedimiento de Mitigaciones de Implementación: enfocarse en prevenir el mal uso de capacidades críticas del sistema.
• Riesgo de Alineación Engañosa: abordar el riesgo de que un sistema autónomo socave intencionadamente el control humano.

Puedes profundizar en esto en el blog de Google DeepMind.

Actualización de los Principios de IA

Desde que publicamos nuestros Principios de IA en 2018, la tecnología de IA ha avanzado a un ritmo vertiginoso. Ahora, miles de millones de personas usan IA en su vida diaria. Se ha convertido en una tecnología clave, una plataforma que innumerables organizaciones e individuos usan para crear aplicaciones. La IA ha pasado de ser un tema de laboratorio especializado a algo tan extendido como los teléfonos móviles e internet, con innumerables usos beneficiosos para la sociedad y las personas en todo el mundo, respaldados por un ecosistema de IA próspero de desarrolladores.

Tener principios comunes es clave para esta evolución. No solo las empresas de IA y las instituciones académicas; estamos viendo avances en principios de IA a nivel global. El G7, la Organización Internacional de Normalización y varias naciones democráticas han publicado marcos para guiar el desarrollo y uso seguro de la IA. Cada vez más, organizaciones y gobiernos usan estos estándares comunes para determinar cómo construir, regular e implementar esta tecnología en evolución; nuestro Informe de Progreso en IA Responsable, por ejemplo, ahora sigue el Marco de Gestión de Riesgos del NIST de Estados Unidos. Nuestra experiencia e investigación a lo largo de los años, junto con la inteligencia de amenazas, la experiencia y las mejores prácticas compartidas con otras empresas de IA, nos han dado una comprensión más profunda del potencial y los riesgos de la IA.

Hay una carrera global por el liderazgo en IA en un panorama geopolítico cada vez más complejo. Creemos que las democracias deberían liderar el desarrollo de la IA, guiadas por valores fundamentales como la libertad, la igualdad y el respeto por los derechos humanos. Y pensamos que las empresas, gobiernos y organizaciones que comparten estos valores deberían colaborar para crear una IA que proteja a las personas, impulse el crecimiento global y apoye la seguridad nacional.

Con esto en mente, estamos actualizando nuestros Principios de IA para centrarnos en tres pilares fundamentales:

• Innovación Audaz: Desarrollamos IA para ayudar, empoderar e inspirar a las personas en casi todos los campos, impulsar el progreso económico, mejorar vidas, permitir avances científicos y abordar los mayores desafíos de la humanidad.
• Desarrollo y Despliegue Responsable: Entendemos que la IA, como tecnología transformadora emergente, trae nuevas complejidades y riesgos. Por eso, estamos comprometidos a perseguir la IA de manera responsable durante todo el ciclo de desarrollo y despliegue, desde el diseño hasta las pruebas, la implementación y la iteración, aprendiendo a medida que la IA avanza y sus usos evolucionan.
• Progreso Colaborativo, Juntos: Aprendemos de otros y construimos tecnología que empodera a otros para usar la IA de manera positiva.

Puedes consultar nuestros Principios de IA completos en AI.google.

Guiados por nuestros Principios de IA, seguiremos enfocándonos en la investigación y aplicaciones de IA que se alineen con nuestra misión, nuestro enfoque científico y nuestras áreas de experiencia, y sean consistentes con principios ampliamente aceptados de derecho internacional y derechos humanos, siempre evaluando el trabajo específico al determinar cuidadosamente si los beneficios superan sustancialmente los riesgos potenciales. También consideraremos si nuestros compromisos requieren investigación y desarrollo personalizados o pueden basarse en tecnología de propósito general ampliamente disponible. Estas evaluaciones son cruciales, ya que la IA está siendo desarrollada cada vez más por numerosas organizaciones y gobiernos para usos en campos como la atención sanitaria, la ciencia, la robótica, la ciberseguridad, el transporte, la seguridad nacional, la energía, el clima y más.

Por supuesto, además de los Principios, seguimos teniendo políticas de productos específicas y términos de uso claros que incluyen prohibiciones como el uso ilegal de nuestros servicios.

La Oportunidad por Delante

Sabemos lo rápido que evoluciona la tecnología subyacente y el debate sobre el avance, despliegue y usos de la IA, y seguiremos adaptando y refinando nuestro enfoque a medida que todos aprendemos con el tiempo.

A medida que vemos la AGI, en particular, tomando un enfoque más claro, las implicaciones sociales se vuelven increíblemente profundas. No se trata solo de desarrollar una IA poderosa; se trata de construir la tecnología más transformadora en la historia humana, usándola para resolver los mayores desafíos de la humanidad y asegurando que las salvaguardas y la gobernanza adecuadas estén en su lugar, para el beneficio del mundo. Seguiremos compartiendo nuestro progreso y hallazgos sobre este viaje, y esperamos continuar evolucionando nuestro pensamiento a medida que nos acercamos a la AGI.

A medida que avanzamos, creemos que las mejoras que hemos hecho en el último año a nuestra gobernanza y otros procesos, nuestro nuevo Marco de Seguridad de Frontera y nuestros Principios de IA nos posicionan bien para la próxima fase de transformación de la IA. La oportunidad de la IA para asistir y mejorar las vidas de las personas en todo el mundo es lo que, en última instancia, nos impulsa en este trabajo, y seguiremos persiguiendo nuestro enfoque audaz, responsable y colaborativo hacia la IA.