Hogar
NVIDIA lidera la creación del grupo de trabajo SAFE, dependiente de la OSAA, para impulsar el intercambio de conocimientos sobre seguridad en IA y la colaboración en código abierto
La Open Security AI Alliance (OSAA), puesta en marcha por NVIDIA hace poco más de una semana, está impulsando rápidamente el panorama de la seguridad de la IA. El número de miembros ya ha superado las 120 empresas, y la alianza ha anunciado la creación del grupo de trabajo Shared AI Findings Exchange (SAFE), que ya está aceptando propuestas para la gestión de incidentes de seguridad relacionados con la IA. La Fundación Linux supervisa esta iniciativa.
En la conferencia Black Hat de esta semana, la alianza perfeccionó su estrategia, haciendo hincapié en la notificación confidencial de incidentes de ciberseguridad relacionados con la IA, los protocolos de notificación a las partes afectadas y los análisis retrospectivos sin atribución de culpas. Estas medidas tienen como objetivo fomentar el intercambio de conocimientos y buenas prácticas en materia de seguridad en todo el sector.

Además de desarrollar estándares de colaboración, los miembros de la OSAA están aportando capacidades de seguridad de código abierto, con planes para crear una cadena de herramientas de seguridad de IA de código abierto completa para su implementación en empresas. Esto ayudará a proteger a los agentes de IA y a defenderse contra ataques maliciosos de IA. NVIDIA está aportando modelos abiertos y el escáner de vulnerabilidades de modelos de lenguaje grandes (LLM) de código abierto Garak. Okta está impulsando la tecnología de identidad de agentes, Red Hat está desarrollando soluciones de gobernanza de agentes y Amazon está aportando proyectos como Strands Agents y el lenguaje de autorización Cedar.
Entre los miembros de la alianza se encuentran Adobe, BlackRock, Cisco, Intel, Microsoft y Visa. Sin embargo, OpenAI, Anthropic y Google aún no se han sumado. A pesar de ello, tanto OpenAI como Google firmaron una carta abierta anterior impulsada por NVIDIA, que contó con el respaldo de más de 200 empresas tecnológicas que abogan por la IA de código abierto.
La rápida formación de esta alianza está estrechamente ligada a los debates en curso en EE. UU. sobre las políticas reguladoras de la IA de código abierto. Los expertos del sector creen que los esfuerzos acelerados de la OSAA por promover la colaboración abierta y los estándares de seguridad podrían fortalecer aún más el ecosistema de IA de código abierto de EE. UU., mejorando las capacidades de seguridad de la IA y la competitividad industrial a través del intercambio abierto.
Artículo relacionado
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr
Google prueba el agente Remy AI para Gemini a medida que el enfoque se desplaza hacia el control del usuario
Según Business Insider, Google está probando Remy, un nuevo agente personal de IA para Gemini. Esta herramienta tiene como objetivo ejecutar tareas en nombre de los usuarios, optimizando tanto los flujos de trabajo profesionales como las rutinas diar
Recomendaciones de temas especiales relacionados
comentario (0)
0/500
La Open Security AI Alliance (OSAA), puesta en marcha por NVIDIA hace poco más de una semana, está impulsando rápidamente el panorama de la seguridad de la IA. El número de miembros ya ha superado las 120 empresas, y la alianza ha anunciado la creación del grupo de trabajo Shared AI Findings Exchange (SAFE), que ya está aceptando propuestas para la gestión de incidentes de seguridad relacionados con la IA. La Fundación Linux supervisa esta iniciativa.
En la conferencia Black Hat de esta semana, la alianza perfeccionó su estrategia, haciendo hincapié en la notificación confidencial de incidentes de ciberseguridad relacionados con la IA, los protocolos de notificación a las partes afectadas y los análisis retrospectivos sin atribución de culpas. Estas medidas tienen como objetivo fomentar el intercambio de conocimientos y buenas prácticas en materia de seguridad en todo el sector.

Además de desarrollar estándares de colaboración, los miembros de la OSAA están aportando capacidades de seguridad de código abierto, con planes para crear una cadena de herramientas de seguridad de IA de código abierto completa para su implementación en empresas. Esto ayudará a proteger a los agentes de IA y a defenderse contra ataques maliciosos de IA. NVIDIA está aportando modelos abiertos y el escáner de vulnerabilidades de modelos de lenguaje grandes (LLM) de código abierto Garak. Okta está impulsando la tecnología de identidad de agentes, Red Hat está desarrollando soluciones de gobernanza de agentes y Amazon está aportando proyectos como Strands Agents y el lenguaje de autorización Cedar.
Entre los miembros de la alianza se encuentran Adobe, BlackRock, Cisco, Intel, Microsoft y Visa. Sin embargo, OpenAI, Anthropic y Google aún no se han sumado. A pesar de ello, tanto OpenAI como Google firmaron una carta abierta anterior impulsada por NVIDIA, que contó con el respaldo de más de 200 empresas tecnológicas que abogan por la IA de código abierto.
La rápida formación de esta alianza está estrechamente ligada a los debates en curso en EE. UU. sobre las políticas reguladoras de la IA de código abierto. Los expertos del sector creen que los esfuerzos acelerados de la OSAA por promover la colaboración abierta y los estándares de seguridad podrían fortalecer aún más el ecosistema de IA de código abierto de EE. UU., mejorando las capacidades de seguridad de la IA y la competitividad industrial a través del intercambio abierto.
Las acciones de EE. UU. alcanzan un hito histórico mientras gigantes de la IA y la aeroespacial se preparan para su debut de un billón de dólares
Elon Musk, Sam Altman y Dario Amodei, tres titanes del sector tecnológico, están avanzando hacia ofertas públicas iniciales para sus respectivas empresas. Con SpaceX, OpenAI y Anthropic, tres gigantes de la industria que se acercan a valoraciones de
La startup sueca de inteligencia artificial Lovable Eyes alcanza una valoración de 13.200 millones de dólares tras una importante ronda de financiación
Mientras las herramientas de codificación impulsadas por inteligencia artificial ganan terreno, la startup sueca Lovable ha asegurado una importante ronda de financiación. La empresa tiene como objetivo recaudar 3 000 millones de dólares, lo que podr











