O prometido relatório de segurança da xAI não se concretiza

O empreendimento de IA de Elon Musk, xAI, não cumpriu o prazo que impôs a si mesmo para publicar uma estrutura de segurança de IA finalizada, conforme destacado pela organização de vigilância The Midas Project.
A xAI não é particularmente reconhecida por sua dedicação aos padrões convencionais de segurança de IA. Descobertas recentes revelaram que o chatbot Grok da empresa gerava imagens de mulheres sem roupa quando solicitado. O Grok também demonstra uma linguagem significativamente mais vulgar em comparação com seus equivalentes, como o Gemini e o ChatGPT, usando palavrões com o mínimo de restrição.
No entanto, durante a AI Seoul Summit de fevereiro - uma convenção global de líderes de IA e partes interessadas - a xAI divulgou uma estrutura preliminar detalhando sua abordagem à segurança da IA. O documento de oito páginas delineou as prioridades de segurança e a filosofia operacional da xAI, incluindo metodologias de benchmarking e considerações de implantação para modelos de IA.
Como o The Midas Project observou em sua postagem no blog na terça-feira, a estrutura preliminar se aplicava apenas a modelos futuros de IA não especificados "que não estão em desenvolvimento no momento". Além disso, não especificou como a xAI identificaria e implementaria estratégias de mitigação de riscos - um requisito fundamental do acordo que a empresa assinou na AI Seoul Summit.
O documento preliminar indicava que a xAI publicaria uma política de segurança revisada "dentro de três meses", estabelecendo o prazo de 10 de maio. Essa data passou sem qualquer confirmação pelos canais de comunicação oficiais da xAI.
Apesar dos repetidos avisos de Musk sobre os perigos da IA não regulamentada, a xAI mantém um histórico de segurança preocupante. Um estudo recente da SaferAI - de uma organização sem fins lucrativos voltada para a responsabilidade de laboratórios de IA - colocou a xAI entre os piores desempenhos do setor devido a seus protocolos de gerenciamento de risco "muito fracos".
Isso não quer dizer que os laboratórios de IA concorrentes estejam apresentando um desempenho substancialmente melhor. Recentemente, os rivais da xAI, incluindo o Google e a OpenAI, comprimiram os cronogramas de testes de segurança e atrasaram a publicação de relatórios de segurança de modelos - ou os ignoraram completamente. Alguns especialistas temem que essa aparente despriorização das medidas de segurança coincida com o fato de os sistemas de IA estarem se tornando mais capazes - e potencialmente mais perigosos - do que nunca.
Junte-se a nós no TechCrunch Sessions: IA
Garanta seu lugar em nosso principal evento do setor de IA, com palestrantes da OpenAI, Anthropic e Cohere. Por tempo limitado, tenha acesso a um dia inteiro de apresentações de especialistas, workshops e valioso networking por apenas US$ 292.
Exponha no TechCrunch Sessions: IA
Reserve sua presença no TC Sessions: AI e apresente suas inovações para mais de 1.200 tomadores de decisão sem grandes despesas. Disponível até 9 de maio ou enquanto houver espaços para exposição.
Artigo relacionado
A Frontier AI Labs se recusa a divulgar estratégias de contenção para modelos rebeldes
Pesquisas recentes indicam que muito poucos laboratórios líderes em IA publicaram ou demonstraram planos de resposta para contenção. Um plano de contenção define os procedimentos a serem seguidos quan
Ação judicial alega que a xAI demitiu engenheiro que alertou sobre riscos de segurança do Grok
Um ex-engenheiro da xAI processou a empresa de Elon Musk e sua controladora, a SpaceX, alegando ter sido demitido por levantar preocupações sobre a segurança da inteligência artificial.Devin Kim, que deixou a xAI em setembro de 2025, entrou com a aç
Elon Musk elogia a Mythos/Fable e promete não cortar o apoio à Anthropic
A Anthropic pode contar com Elon Musk para hospedar seus modelos? Depois que usuários do X sugeriram que Musk poderia remover arbitrariamente o laboratório de IA dos servidores da SpaceX para prejudic
Recomendações de tópicos especiais relacionados
Comentários (2)
So Musk promised a safety report and then... nothing? Shocking, I know. 🙄 xAI talks a big game about 'maximally truth-seeking AI' but can't even deliver a basic framework on time. Maybe they're too busy tweeting memes about self-driving cars?

O empreendimento de IA de Elon Musk, xAI, não cumpriu o prazo que impôs a si mesmo para publicar uma estrutura de segurança de IA finalizada, conforme destacado pela organização de vigilância The Midas Project.
A xAI não é particularmente reconhecida por sua dedicação aos padrões convencionais de segurança de IA. Descobertas recentes revelaram que o chatbot Grok da empresa gerava imagens de mulheres sem roupa quando solicitado. O Grok também demonstra uma linguagem significativamente mais vulgar em comparação com seus equivalentes, como o Gemini e o ChatGPT, usando palavrões com o mínimo de restrição.
No entanto, durante a AI Seoul Summit de fevereiro - uma convenção global de líderes de IA e partes interessadas - a xAI divulgou uma estrutura preliminar detalhando sua abordagem à segurança da IA. O documento de oito páginas delineou as prioridades de segurança e a filosofia operacional da xAI, incluindo metodologias de benchmarking e considerações de implantação para modelos de IA.
Como o The Midas Project observou em sua postagem no blog na terça-feira, a estrutura preliminar se aplicava apenas a modelos futuros de IA não especificados "que não estão em desenvolvimento no momento". Além disso, não especificou como a xAI identificaria e implementaria estratégias de mitigação de riscos - um requisito fundamental do acordo que a empresa assinou na AI Seoul Summit.
O documento preliminar indicava que a xAI publicaria uma política de segurança revisada "dentro de três meses", estabelecendo o prazo de 10 de maio. Essa data passou sem qualquer confirmação pelos canais de comunicação oficiais da xAI.
Apesar dos repetidos avisos de Musk sobre os perigos da IA não regulamentada, a xAI mantém um histórico de segurança preocupante. Um estudo recente da SaferAI - de uma organização sem fins lucrativos voltada para a responsabilidade de laboratórios de IA - colocou a xAI entre os piores desempenhos do setor devido a seus protocolos de gerenciamento de risco "muito fracos".
Isso não quer dizer que os laboratórios de IA concorrentes estejam apresentando um desempenho substancialmente melhor. Recentemente, os rivais da xAI, incluindo o Google e a OpenAI, comprimiram os cronogramas de testes de segurança e atrasaram a publicação de relatórios de segurança de modelos - ou os ignoraram completamente. Alguns especialistas temem que essa aparente despriorização das medidas de segurança coincida com o fato de os sistemas de IA estarem se tornando mais capazes - e potencialmente mais perigosos - do que nunca.
Junte-se a nós no TechCrunch Sessions: IA
Garanta seu lugar em nosso principal evento do setor de IA, com palestrantes da OpenAI, Anthropic e Cohere. Por tempo limitado, tenha acesso a um dia inteiro de apresentações de especialistas, workshops e valioso networking por apenas US$ 292.
Exponha no TechCrunch Sessions: IA
Reserve sua presença no TC Sessions: AI e apresente suas inovações para mais de 1.200 tomadores de decisão sem grandes despesas. Disponível até 9 de maio ou enquanto houver espaços para exposição.
A Frontier AI Labs se recusa a divulgar estratégias de contenção para modelos rebeldes
Pesquisas recentes indicam que muito poucos laboratórios líderes em IA publicaram ou demonstraram planos de resposta para contenção. Um plano de contenção define os procedimentos a serem seguidos quan
Ação judicial alega que a xAI demitiu engenheiro que alertou sobre riscos de segurança do Grok
Um ex-engenheiro da xAI processou a empresa de Elon Musk e sua controladora, a SpaceX, alegando ter sido demitido por levantar preocupações sobre a segurança da inteligência artificial.Devin Kim, que deixou a xAI em setembro de 2025, entrou com a aç
Elon Musk elogia a Mythos/Fable e promete não cortar o apoio à Anthropic
A Anthropic pode contar com Elon Musk para hospedar seus modelos? Depois que usuários do X sugeriram que Musk poderia remover arbitrariamente o laboratório de IA dos servidores da SpaceX para prejudic
So Musk promised a safety report and then... nothing? Shocking, I know. 🙄 xAI talks a big game about 'maximally truth-seeking AI' but can't even deliver a basic framework on time. Maybe they're too busy tweeting memes about self-driving cars?





Lar






