O prometido relatório de segurança da xAI não se concretiza

O empreendimento de IA de Elon Musk, xAI, não cumpriu o prazo que impôs a si mesmo para publicar uma estrutura de segurança de IA finalizada, conforme destacado pela organização de vigilância The Midas Project.

A xAI não é particularmente reconhecida por sua dedicação aos padrões convencionais de segurança de IA. Descobertas recentes revelaram que o chatbot Grok da empresa gerava imagens de mulheres sem roupa quando solicitado. O Grok também demonstra uma linguagem significativamente mais vulgar em comparação com seus equivalentes, como o Gemini e o ChatGPT, usando palavrões com o mínimo de restrição.

No entanto, durante a AI Seoul Summit de fevereiro - uma convenção global de líderes de IA e partes interessadas - a xAI divulgou uma estrutura preliminar detalhando sua abordagem à segurança da IA. O documento de oito páginas delineou as prioridades de segurança e a filosofia operacional da xAI, incluindo metodologias de benchmarking e considerações de implantação para modelos de IA.

Como o The Midas Project observou em sua postagem no blog na terça-feira, a estrutura preliminar se aplicava apenas a modelos futuros de IA não especificados "que não estão em desenvolvimento no momento". Além disso, não especificou como a xAI identificaria e implementaria estratégias de mitigação de riscos - um requisito fundamental do acordo que a empresa assinou na AI Seoul Summit.

O documento preliminar indicava que a xAI publicaria uma política de segurança revisada "dentro de três meses", estabelecendo o prazo de 10 de maio. Essa data passou sem qualquer confirmação pelos canais de comunicação oficiais da xAI.

Apesar dos repetidos avisos de Musk sobre os perigos da IA não regulamentada, a xAI mantém um histórico de segurança preocupante. Um estudo recente da SaferAI - de uma organização sem fins lucrativos voltada para a responsabilidade de laboratórios de IA - colocou a xAI entre os piores desempenhos do setor devido a seus protocolos de gerenciamento de risco "muito fracos".

Isso não quer dizer que os laboratórios de IA concorrentes estejam apresentando um desempenho substancialmente melhor. Recentemente, os rivais da xAI, incluindo o Google e a OpenAI, comprimiram os cronogramas de testes de segurança e atrasaram a publicação de relatórios de segurança de modelos - ou os ignoraram completamente. Alguns especialistas temem que essa aparente despriorização das medidas de segurança coincida com o fato de os sistemas de IA estarem se tornando mais capazes - e potencialmente mais perigosos - do que nunca.

Junte-se a nós no TechCrunch Sessions: IA

Garanta seu lugar em nosso principal evento do setor de IA, com palestrantes da OpenAI, Anthropic e Cohere. Por tempo limitado, tenha acesso a um dia inteiro de apresentações de especialistas, workshops e valioso networking por apenas US$ 292.

Exponha no TechCrunch Sessions: IA

Reserve sua presença no TC Sessions: AI e apresente suas inovações para mais de 1.200 tomadores de decisão sem grandes despesas. Disponível até 9 de maio ou enquanto houver espaços para exposição.