Hogar
La jefa de robótica de OpenAI, Caitlin Kalinowski, renuncia por la asociación con el Pentágono

El líder de robótica de OpenAI, Caitlin Kalinowski, ha dimitido tras la controvertida asociación de la empresa con el Departamento de Defensa.
“Esta no fue una decisión fácil”, explicó Kalinowski en un comunicado en redes sociales. “Aunque la IA desempeña un papel vital en la seguridad nacional, llevar a cabo vigilancia sobre ciudadanos estadounidenses sin supervisión judicial y desplegar autonomía letal sin autorización humana son límites que requieren una consideración mucho más cuidadosa”.
Kalinowski, anteriormente conocida por liderar la división de gafas de realidad aumentada de Meta, se unió a OpenAI en noviembre de 2024. En su carta de dimisión, subrayó que su partida estuvo motivada por “principios, no por personas”, y expresó su “profundo respeto” hacia el director ejecutivo, Sam Altman, y todo el equipo de OpenAI.
En una publicación posterior en X, Kalinowski aclaró: “Mi principal preocupación es que el anuncio se precipitó sin definir claramente las salvaguardas. Esto es fundamentalmente un problema de gobernanza. Estos asuntos son demasiado críticos como para abordarse mediante acuerdos o anuncios precipitados”.
Un portavoz de OpenAI confirmó la salida de Kalinowski a TechCrunch.
“Creemos que nuestro acuerdo con el Pentágono establece un marco viable para aplicaciones de seguridad nacional responsables de la IA, al tiempo que define claramente nuestras líneas rojas: ninguna vigilancia doméstica y ninguna arma autónoma”, declaró la empresa. “Reconocemos las fuertes opiniones sobre estos temas y seguimos comprometidos con el diálogo continuo con empleados, funcionarios gubernamentales, la sociedad civil y las comunidades de todo el mundo”.
El acuerdo con el Pentágono, anunciado hace poco más de una semana, surgió tras el colapso de las negociaciones entre el Pentágono y Anthropic. Anthropic había buscado salvaguardas para evitar que su tecnología se utilizara para vigilancia doméstica masiva o armas completamente autónomas, lo que llevó al Pentágono a clasificar a Anthropic como un riesgo en la cadena de suministro. (Anthropic planea impugnar esta designación en los tribunales; mientras tanto, Microsoft, Google y Amazon han aceptado continuar proporcionando Claude de Anthropic a clientes no relacionados con la defensa).
Posteriormente, OpenAI anunció rápidamente su propio acuerdo que permite el uso de su tecnología en entornos clasificados. A medida que los ejecutivos intentaban aclarar el acuerdo en línea, la empresa lo describió como la adopción de un “enfoque más amplio y multicapa” que combina lenguaje contractual con salvaguardas técnicas para proteger líneas rojas similares a las propuestas por Anthropic.
A pesar de estos esfuerzos, la controversia parece haber afectado la reputación de OpenAI entre algunos usuarios, con un aumento del 295 % en las desinstalaciones de ChatGPT y el ascenso de Claude a la cima de las clasificaciones de la App Store. A la tarde del sábado, Claude y ChatGPT seguían siendo las aplicaciones gratuitas número uno y número dos en la App Store de Estados Unidos, respectivamente.
Artículo relacionado
OpenAI cierra la brecha con Anthropic entre los usuarios empresariales, según nuevos datos
Con OpenAI y Anthropic aún lejos de sus esperadas ofertas públicas iniciales (IPO) y de la publicación de informes financieros detallados, debemos recurrir a indicadores alternativos para evaluar su desempeño empresarial. Ramp, una plataforma de tarj
OpenAI lanza una versión más segura de ChatGPT para adolescentes, años después de que estos empezaran a utilizarla
Tras una serie de demandas relacionadas con la ausencia de protocolos de seguridad en los chatbots de IA —que contribuyeron a suicidios de adolescentes y otras crisis de salud mental—, OpenAI presentó
Frontier AI Labs se niega a revelar las estrategias de contención para los modelos rebeldes
Investigaciones recientes indican que muy pocos laboratorios líderes en IA han publicado o demostrado planes de respuesta de contención. Un plan de contención define los procedimientos a seguir cuando
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

El líder de robótica de OpenAI, Caitlin Kalinowski, ha dimitido tras la controvertida asociación de la empresa con el Departamento de Defensa.
“Esta no fue una decisión fácil”, explicó Kalinowski en un comunicado en redes sociales. “Aunque la IA desempeña un papel vital en la seguridad nacional, llevar a cabo vigilancia sobre ciudadanos estadounidenses sin supervisión judicial y desplegar autonomía letal sin autorización humana son límites que requieren una consideración mucho más cuidadosa”.
Kalinowski, anteriormente conocida por liderar la división de gafas de realidad aumentada de Meta, se unió a OpenAI en noviembre de 2024. En su carta de dimisión, subrayó que su partida estuvo motivada por “principios, no por personas”, y expresó su “profundo respeto” hacia el director ejecutivo, Sam Altman, y todo el equipo de OpenAI.
En una publicación posterior en X, Kalinowski aclaró: “Mi principal preocupación es que el anuncio se precipitó sin definir claramente las salvaguardas. Esto es fundamentalmente un problema de gobernanza. Estos asuntos son demasiado críticos como para abordarse mediante acuerdos o anuncios precipitados”.
Un portavoz de OpenAI confirmó la salida de Kalinowski a TechCrunch.
“Creemos que nuestro acuerdo con el Pentágono establece un marco viable para aplicaciones de seguridad nacional responsables de la IA, al tiempo que define claramente nuestras líneas rojas: ninguna vigilancia doméstica y ninguna arma autónoma”, declaró la empresa. “Reconocemos las fuertes opiniones sobre estos temas y seguimos comprometidos con el diálogo continuo con empleados, funcionarios gubernamentales, la sociedad civil y las comunidades de todo el mundo”.
El acuerdo con el Pentágono, anunciado hace poco más de una semana, surgió tras el colapso de las negociaciones entre el Pentágono y Anthropic. Anthropic había buscado salvaguardas para evitar que su tecnología se utilizara para vigilancia doméstica masiva o armas completamente autónomas, lo que llevó al Pentágono a clasificar a Anthropic como un riesgo en la cadena de suministro. (Anthropic planea impugnar esta designación en los tribunales; mientras tanto, Microsoft, Google y Amazon han aceptado continuar proporcionando Claude de Anthropic a clientes no relacionados con la defensa).
Posteriormente, OpenAI anunció rápidamente su propio acuerdo que permite el uso de su tecnología en entornos clasificados. A medida que los ejecutivos intentaban aclarar el acuerdo en línea, la empresa lo describió como la adopción de un “enfoque más amplio y multicapa” que combina lenguaje contractual con salvaguardas técnicas para proteger líneas rojas similares a las propuestas por Anthropic.
A pesar de estos esfuerzos, la controversia parece haber afectado la reputación de OpenAI entre algunos usuarios, con un aumento del 295 % en las desinstalaciones de ChatGPT y el ascenso de Claude a la cima de las clasificaciones de la App Store. A la tarde del sábado, Claude y ChatGPT seguían siendo las aplicaciones gratuitas número uno y número dos en la App Store de Estados Unidos, respectivamente.
OpenAI cierra la brecha con Anthropic entre los usuarios empresariales, según nuevos datos
Con OpenAI y Anthropic aún lejos de sus esperadas ofertas públicas iniciales (IPO) y de la publicación de informes financieros detallados, debemos recurrir a indicadores alternativos para evaluar su desempeño empresarial. Ramp, una plataforma de tarj
OpenAI lanza una versión más segura de ChatGPT para adolescentes, años después de que estos empezaran a utilizarla
Tras una serie de demandas relacionadas con la ausencia de protocolos de seguridad en los chatbots de IA —que contribuyeron a suicidios de adolescentes y otras crisis de salud mental—, OpenAI presentó
Frontier AI Labs se niega a revelar las estrategias de contención para los modelos rebeldes
Investigaciones recientes indican que muy pocos laboratorios líderes en IA han publicado o demostrado planes de respuesta de contención. Un plan de contención define los procedimientos a seguir cuando











