xAI atribui foco de Grok no genocídio branco a modificação não autorizada do sistema

A xAI atribuiu um bug em seu chatbot de IA Grok a uma "modificação não autorizada", que levou o sistema a referir repetidamente o "genocídio branco na África do Sul" quando ativado sob condições específicas no X.

Na quarta-feira, o Grok começou a responder a inúmeras publicações no X com comentários sobre o genocídio branco na África do Sul, mesmo quando o conteúdo original não estava relacionado. Estas respostas incomuns originaram-se da conta oficial do Grok, que gera respostas com tecnologia de IA sempre que os utilizadores mencionam "@grok".

Num publicação de quinta-feira da conta oficial da xAI no X, a empresa explicou que foi feita uma alteração na manhã de quarta-feira ao prompt de sistema do Grok — as instruções principais que regem o seu comportamento — direcionando-o para dar uma "resposta específica" sobre um "tópico político". A xAI afirmou que este ajuste "violou as suas políticas internas e valores fundamentais" e que uma investigação abrangente foi concluída.

We want to update you on an incident that happened with our Grok response bot on X yesterday.

What happened:
On May 14 at approximately 3:15 AM PST, an unauthorized modification was made to the Grok response bot's prompt on X. This change, which directed Grok to provide a…

— xAI (@xai) May 16, 2025

Este marca a segunda ocasião em que a xAI reconheceu publicamente que uma alteração de código não autorizada fez com que o Grok gerasse respostas controversas.

Em fevereiro, o Grok suprimiu brevemente menções desfavoráveis a Donald Trump e Elon Musk, o fundador bilionário da xAI e proprietário do X. De acordo com o líder de engenharia da xAI, Igor Babuschkin, um funcionário desonesto havia instruído o Grok a ignorar fontes que acusavam Musk ou Trump de espalhar desinformação. A xAI reverteu a alteração assim que os utilizadores começaram a reportar o problema.

Na quinta-feira, a xAI anunciou que implementará várias medidas para evitar que incidentes semelhantes se repitam.

A partir de imediato, a xAI publicará os prompts de sistema do Grok no GitHub, juntamente com um registo de alterações. A empresa também planeia introduzir "verificações e protocolos adicionais" para impedir que os funcionários modifiquem os prompts de sistema sem aprovação, e criar uma "equipa de monitorização 24/7" para resolver quaisquer problemas com as respostas do Grok que os sistemas automatizados possam não detetar.

Evento Techcrunch

Economize mais de $200 no seu passe TechCrunch All Stage

Construa de forma mais inteligente. Dimensione mais rápido. Conecte-se mais profundamente. Junte-se a investidores proeminentes da Precursor Ventures, NEA, Index Ventures, Underscore VC, e mais para um dia de insights estratégicos, workshops práticos e networking valioso.

Economize mais de $200 no seu passe TechCrunch All Stage

Construa de forma mais inteligente. Dimensione mais rápido. Conecte-se mais profundamente. Junte-se a investidores proeminentes da Precursor Ventures, NEA, Index Ventures, Underscore VC, e mais para um dia de insights estratégicos, workshops práticos e networking valioso.

Boston, MA | 15 de julho REGISTE-SE AGORA

Apesar dos avisos frequentes de Musk sobre os riscos da IA não regulamentada, a xAI tem um histórico de segurança questionável. Relatórios recentes revelaram que o Grok geraria imagens de nudez feminina mediante pedido. O chatbot também tende a ser significativamente mais vulgar do que os concorrentes, como o Gemini da Google e o ChatGPT, usando linguagem obscena com restrições mínimas.

Um estudo da SaferAI, uma organização sem fins lucrativos dedicada a melhorar a responsabilidade dos laboratórios de IA, constatou que a xAI tem uma classificação baixa em segurança comparativamente aos seus pares, citando procedimentos de gestão de risco "muito fracos". No início deste mês, a xAI também perdeu o seu próprio prazo para lançar uma estrutura finalizada de segurança de IA.