Hogar
OpenAI y el Pentágono llegan a un acuerdo con Altman, que se compromete a adoptar medidas de seguridad en materia de IA

Después de que Anthropic llegara a un punto muerto y fuera bloqueada por el Departamento de Defensa de EE. UU. (DoD, anteriormente denominado «Departamento de Guerra» durante la administración Trump) debido a preocupaciones fundamentales en materia de seguridad, OpenAI actuó con rapidez. Su director ejecutivo, Sam Altman, anunció el viernes por la noche que OpenAI había cerrado un acuerdo con el Pentágono. Este acuerdo permite el uso de sus modelos de IA en las redes clasificadas del DoD.
Esta asociación surge en un momento especialmente delicado. Anthropic había sido tildada anteriormente por Trump de «lunáticos de izquierdas» por negarse a eliminar las restricciones sobre la «vigilancia masiva interna» y los «sistemas de armas totalmente autónomos», lo que provocó su exclusión de la cadena de suministro nacional.
Principios de cooperación destacados por Altman:
Adhesión a los valores fundamentales: En la plataforma social X, Altman declaró que el acuerdo de OpenAI defiende explícitamente dos principios de seguridad fundamentales: la prohibición del uso para la vigilancia masiva interna y el requisito de que cualquier uso de la fuerza —incluidas las armas autónomas— permanezca bajo una supervisión y responsabilidad humanas significativas.
Salvaguardias técnicas integradas: OpenAI desarrollará salvaguardias técnicas personalizadas para garantizar que el modelo funcione según lo previsto. La empresa también tiene la intención de enviar ingenieros al Pentágono para apoyar la implementación del modelo y la supervisión continua de la seguridad.
Mantenimiento de los derechos de denegación: En una reunión interna, Altman reveló que el Gobierno ha concedido a OpenAI la autoridad para implementar su propia «pila de seguridad». En caso de que el modelo se niegue a ejecutar una tarea solicitada, el Gobierno no obligará a la empresa a alterar su lógica central.
Altman instó al Departamento de Defensa a extender estas mismas condiciones a todas las empresas de IA, expresando su esperanza de que unos acuerdos racionales puedan aliviar las tensiones entre el Gobierno y el sector tecnológico. Sin embargo, el acuerdo ha desencadenado un debate interno, y más de 60 empleados de OpenAI han firmado esta semana una carta conjunta en la que respaldan la postura más estricta de Anthropic respecto a las aplicaciones militares.
Artículo relacionado
Google Fotos da vida al emblemático armario de «Clueless» gracias a la inteligencia artificial
Google Fotos anunció el miércoles una nueva función basada en la inteligencia artificial que pronto convertirá las fotos de tu ropa en un armario digital, lo que te permitirá crear nuevas combinacione
El cortometraje «Red Fruit» es acusado de utilizar IA para robar los rostros de personas corrientes; no hay respuesta oficial
El sector de los vídeos cortos se enfrenta actualmente a una polémica relacionada con la infracción de derechos de autor mediante el uso de la inteligencia artificial. La producción de Red Fruit Short
Una guía por la nueva norma de seguridad de la IA del ETSI
La norma ETSI EN 304 223 establece los requisitos de seguridad fundamentales para la inteligencia artificial que las organizaciones deben integrar en sus estructuras de gobernanza.A medida que las emp
Recomendaciones de temas especiales relacionados
comentario (1)
0/500

Después de que Anthropic llegara a un punto muerto y fuera bloqueada por el Departamento de Defensa de EE. UU. (DoD, anteriormente denominado «Departamento de Guerra» durante la administración Trump) debido a preocupaciones fundamentales en materia de seguridad, OpenAI actuó con rapidez. Su director ejecutivo, Sam Altman, anunció el viernes por la noche que OpenAI había cerrado un acuerdo con el Pentágono. Este acuerdo permite el uso de sus modelos de IA en las redes clasificadas del DoD.
Esta asociación surge en un momento especialmente delicado. Anthropic había sido tildada anteriormente por Trump de «lunáticos de izquierdas» por negarse a eliminar las restricciones sobre la «vigilancia masiva interna» y los «sistemas de armas totalmente autónomos», lo que provocó su exclusión de la cadena de suministro nacional.
Principios de cooperación destacados por Altman:
Adhesión a los valores fundamentales: En la plataforma social X, Altman declaró que el acuerdo de OpenAI defiende explícitamente dos principios de seguridad fundamentales: la prohibición del uso para la vigilancia masiva interna y el requisito de que cualquier uso de la fuerza —incluidas las armas autónomas— permanezca bajo una supervisión y responsabilidad humanas significativas.
Salvaguardias técnicas integradas: OpenAI desarrollará salvaguardias técnicas personalizadas para garantizar que el modelo funcione según lo previsto. La empresa también tiene la intención de enviar ingenieros al Pentágono para apoyar la implementación del modelo y la supervisión continua de la seguridad.
Mantenimiento de los derechos de denegación: En una reunión interna, Altman reveló que el Gobierno ha concedido a OpenAI la autoridad para implementar su propia «pila de seguridad». En caso de que el modelo se niegue a ejecutar una tarea solicitada, el Gobierno no obligará a la empresa a alterar su lógica central.
Altman instó al Departamento de Defensa a extender estas mismas condiciones a todas las empresas de IA, expresando su esperanza de que unos acuerdos racionales puedan aliviar las tensiones entre el Gobierno y el sector tecnológico. Sin embargo, el acuerdo ha desencadenado un debate interno, y más de 60 empleados de OpenAI han firmado esta semana una carta conjunta en la que respaldan la postura más estricta de Anthropic respecto a las aplicaciones militares.
Google Fotos da vida al emblemático armario de «Clueless» gracias a la inteligencia artificial
Google Fotos anunció el miércoles una nueva función basada en la inteligencia artificial que pronto convertirá las fotos de tu ropa en un armario digital, lo que te permitirá crear nuevas combinacione
El cortometraje «Red Fruit» es acusado de utilizar IA para robar los rostros de personas corrientes; no hay respuesta oficial
El sector de los vídeos cortos se enfrenta actualmente a una polémica relacionada con la infracción de derechos de autor mediante el uso de la inteligencia artificial. La producción de Red Fruit Short
Una guía por la nueva norma de seguridad de la IA del ETSI
La norma ETSI EN 304 223 establece los requisitos de seguridad fundamentales para la inteligencia artificial que las organizaciones deben integrar en sus estructuras de gobernanza.A medida que las emp











