El prometido informe de seguridad de xAI no se materializa

La empresa de IA de Elon Musk, xAI, no ha cumplido el plazo que se impuso a sí misma para publicar un marco final de seguridad de la IA, según ha destacado la organización de vigilancia The Midas Project.
xAI no es especialmente conocida por su dedicación a las normas convencionales de seguridad de la IA. Recientes descubrimientos revelan que el chatbot Grok de la empresa genera imágenes de mujeres desnudas si se le solicita. Grok también hace gala de un lenguaje mucho más vulgar que el de sus homólogos Gemini y ChatGPT, y utiliza blasfemias con un mínimo de moderación.
Sin embargo, durante la cumbre AI Seoul de febrero -una convención mundial de líderes y partes interesadas en la IA- xAI publicó un borrador de marco que detalla su enfoque de la seguridad de la IA. El documento de ocho páginas esbozaba las prioridades de seguridad y la filosofía operativa de xAI, incluyendo metodologías de evaluación comparativa y consideraciones sobre el despliegue de modelos de IA.
Como observó The Midas Project en la entrada de su blog del martes, el borrador del marco sólo se aplicaba a futuros modelos de IA no especificados "que no están actualmente en desarrollo". Además, no especificaba cómo identificaría y aplicaría xAI las estrategias de mitigación de riesgos, un requisito fundamental del acuerdo que la empresa firmó en la Cumbre de IA de Seúl.
El borrador del documento indicaba que xAI publicaría una política de seguridad revisada "en un plazo de tres meses", fijando el 10 de mayo como fecha límite. Esta fecha pasó sin que los canales de comunicación oficiales de xAI hicieran acuse de recibo.
A pesar de las repetidas advertencias de Musk sobre los peligros de la IA no regulada, xAI mantiene un historial de seguridad preocupante. Un reciente estudio de SaferAI -una organización sin ánimo de lucro dedicada a la responsabilidad de los laboratorios de IA- situaba a xAI entre los peores resultados del sector debido a sus "muy débiles" protocolos de gestión de riesgos.
Esto no quiere decir que los laboratorios de IA de la competencia tengan un rendimiento sustancialmente mejor. Recientemente, rivales de xAI como Google y OpenAI han acortado los plazos de las pruebas de seguridad y retrasado la publicación de los informes de seguridad de los modelos, o los han omitido por completo. A algunos expertos les preocupa que esta aparente pérdida de prioridad de las medidas de seguridad coincida con el hecho de que los sistemas de IA sean más capaces -y potencialmente más peligrosos- que nunca.
Únase a nosotros en TechCrunch Sessions: AI
Asegúrese una plaza en nuestro principal evento del sector de la IA, con ponentes de OpenAI, Anthropic y Cohere. Por tiempo limitado, acceda a un día completo de presentaciones de expertos, talleres y valiosos contactos por sólo 292 $.
Exponga en TechCrunch Sessions: AI
Reserve su presencia en TC Sessions: AI y muestre sus innovaciones a más de 1.200 responsables de la toma de decisiones sin grandes gastos. Disponible hasta el 9 de mayo o mientras queden espacios de exposición.
Artículo relacionado
Frontier AI Labs se niega a revelar las estrategias de contención para los modelos rebeldes
Investigaciones recientes indican que muy pocos laboratorios líderes en IA han publicado o demostrado planes de respuesta de contención. Un plan de contención define los procedimientos a seguir cuando
Demanda alega que xAI despidió a un ingeniero que advirtió sobre los riesgos de seguridad de Grok
Un exingeniero de xAI ha demandado a la empresa de Elon Musk y a su matriz, SpaceX, alegando que fue despedido por plantear preocupaciones sobre la seguridad de la inteligencia artificial.Devin Kim, quien dejó xAI en septiembre de 2025, presentó la
Elon Musk elogia a Mythos/Fable y se compromete a no dejar de lado a Anthropic
¿Puede Anthropic confiar en que Elon Musk aloje sus modelos? Después de que algunos usuarios de X sugirieran que Musk podría eliminar arbitrariamente el laboratorio de IA de los servidores de SpaceX p
Recomendaciones de temas especiales relacionados
comentario (2)
0/500
So Musk promised a safety report and then... nothing? Shocking, I know. 🙄 xAI talks a big game about 'maximally truth-seeking AI' but can't even deliver a basic framework on time. Maybe they're too busy tweeting memes about self-driving cars?

La empresa de IA de Elon Musk, xAI, no ha cumplido el plazo que se impuso a sí misma para publicar un marco final de seguridad de la IA, según ha destacado la organización de vigilancia The Midas Project.
xAI no es especialmente conocida por su dedicación a las normas convencionales de seguridad de la IA. Recientes descubrimientos revelan que el chatbot Grok de la empresa genera imágenes de mujeres desnudas si se le solicita. Grok también hace gala de un lenguaje mucho más vulgar que el de sus homólogos Gemini y ChatGPT, y utiliza blasfemias con un mínimo de moderación.
Sin embargo, durante la cumbre AI Seoul de febrero -una convención mundial de líderes y partes interesadas en la IA- xAI publicó un borrador de marco que detalla su enfoque de la seguridad de la IA. El documento de ocho páginas esbozaba las prioridades de seguridad y la filosofía operativa de xAI, incluyendo metodologías de evaluación comparativa y consideraciones sobre el despliegue de modelos de IA.
Como observó The Midas Project en la entrada de su blog del martes, el borrador del marco sólo se aplicaba a futuros modelos de IA no especificados "que no están actualmente en desarrollo". Además, no especificaba cómo identificaría y aplicaría xAI las estrategias de mitigación de riesgos, un requisito fundamental del acuerdo que la empresa firmó en la Cumbre de IA de Seúl.
El borrador del documento indicaba que xAI publicaría una política de seguridad revisada "en un plazo de tres meses", fijando el 10 de mayo como fecha límite. Esta fecha pasó sin que los canales de comunicación oficiales de xAI hicieran acuse de recibo.
A pesar de las repetidas advertencias de Musk sobre los peligros de la IA no regulada, xAI mantiene un historial de seguridad preocupante. Un reciente estudio de SaferAI -una organización sin ánimo de lucro dedicada a la responsabilidad de los laboratorios de IA- situaba a xAI entre los peores resultados del sector debido a sus "muy débiles" protocolos de gestión de riesgos.
Esto no quiere decir que los laboratorios de IA de la competencia tengan un rendimiento sustancialmente mejor. Recientemente, rivales de xAI como Google y OpenAI han acortado los plazos de las pruebas de seguridad y retrasado la publicación de los informes de seguridad de los modelos, o los han omitido por completo. A algunos expertos les preocupa que esta aparente pérdida de prioridad de las medidas de seguridad coincida con el hecho de que los sistemas de IA sean más capaces -y potencialmente más peligrosos- que nunca.
Únase a nosotros en TechCrunch Sessions: AI
Asegúrese una plaza en nuestro principal evento del sector de la IA, con ponentes de OpenAI, Anthropic y Cohere. Por tiempo limitado, acceda a un día completo de presentaciones de expertos, talleres y valiosos contactos por sólo 292 $.
Exponga en TechCrunch Sessions: AI
Reserve su presencia en TC Sessions: AI y muestre sus innovaciones a más de 1.200 responsables de la toma de decisiones sin grandes gastos. Disponible hasta el 9 de mayo o mientras queden espacios de exposición.
Frontier AI Labs se niega a revelar las estrategias de contención para los modelos rebeldes
Investigaciones recientes indican que muy pocos laboratorios líderes en IA han publicado o demostrado planes de respuesta de contención. Un plan de contención define los procedimientos a seguir cuando
Demanda alega que xAI despidió a un ingeniero que advirtió sobre los riesgos de seguridad de Grok
Un exingeniero de xAI ha demandado a la empresa de Elon Musk y a su matriz, SpaceX, alegando que fue despedido por plantear preocupaciones sobre la seguridad de la inteligencia artificial.Devin Kim, quien dejó xAI en septiembre de 2025, presentó la
Elon Musk elogia a Mythos/Fable y se compromete a no dejar de lado a Anthropic
¿Puede Anthropic confiar en que Elon Musk aloje sus modelos? Después de que algunos usuarios de X sugirieran que Musk podría eliminar arbitrariamente el laboratorio de IA de los servidores de SpaceX p
So Musk promised a safety report and then... nothing? Shocking, I know. 🙄 xAI talks a big game about 'maximally truth-seeking AI' but can't even deliver a basic framework on time. Maybe they're too busy tweeting memes about self-driving cars?





Hogar






