Lar
Controvérsia sobre o “jailbreak” gera censura global, levando à rápida remoção do modelo de IA Claude Fable5
A Anthropic revelou recentemente o Claude Fable5, que descreve como seu modelo de linguagem de grande porte de nível “Mythos” mais poderoso até o momento. O desempenho excepcional do modelo em programação e no tratamento de tarefas complexas rapidamente chamou a atenção generalizada no mundo da tecnologia. No entanto, em menos de 72 horas, o governo dos EUA impôs uma proibição global a esse produto de IA tão aguardado, forçando a empresa a interromper todos os serviços.
A proibição é notavelmente agressiva. Alegando motivos de segurança nacional, o governo dos EUA impediu não apenas que indivíduos e instituições não americanas acessassem o modelo, mas também que cidadãos estrangeiros dentro dos EUA o fizessem, incluindo os próprios funcionários estrangeiros da Anthropic. Como verificar de forma rápida e precisa a nacionalidade de cada usuário se mostrou tecnicamente desafiador, a Anthropic adotou uma abordagem generalizada, suspendendo todos os serviços do Claude Fable5 e de seu modelo relacionado, o Claude Mythos5. Os usuários afetados agora são redirecionados automaticamente para a versão anterior.

Esse incidente teve início com a descoberta de uma vulnerabilidade crítica. Relatórios indicam que a falha poderia contornar as barreiras de segurança integradas ao modelo, possibilitando uma forma de “jailbreak”. A Anthropic sustentou que o método de “jailbreak” era restrito e não generalizado, e que o modelo havia passado por milhares de horas de testes de ataque (red-teaming) antes do lançamento. No entanto, o governo dos EUA adotou uma postura excepcionalmente rígida. Autoridades argumentaram que os recursos de processamento do Claude Fable5 se aproximam do “nível de arma de rede”, de modo que qualquer violação das medidas de segurança poderia levar a consequências imprevisíveis. Elas exigiram que a Anthropic corrigisse a vulnerabilidade imediatamente ou retirasse o produto do mercado.
Os dois lados estão envolvidos em um impasse acirrado sobre a gravidade da vulnerabilidade. A Anthropic argumentou que interromper um produto usado por centenas de milhões de usuários devido a uma vulnerabilidade restrita e não generalizada criaria um precedente perigoso para o setor. No entanto, fontes internas sugerem que as preocupações do governo são mais profundas. Relatos indicam que as autoridades americanas suspeitam que organizações ligadas à China possam já ter explorado a vulnerabilidade para acessar todos os recursos do modelo, aumentando os riscos de engenharia reversa ou destilação do modelo.
Artigo relacionado
Meta Remove Funcionalidade de Edição de Fotos por IA Após Reação Negativa dos Usuários
A Meta, gigante das redes sociais, está novamente envolvida em um debate público sobre o delicado equilíbrio entre inteligência artificial e privacidade dos usuários. De acordo com a TechCrunch, o Superintelligence Labs da Meta apresentou um novo ger
CEO da DeepMind, Hassabis: Durmo seis horas por dia, geralmente me sinto energético por volta da 1h
O Fortune recentemente publicou uma entrevista com Demis Hassabis, CEO da Google DeepMind, revelando sua abordagem incomum para descanso e produtividade. Hassabis revelou que dorme muito pouco, estruturando suas horas acordadas em dois blocos de trab
OpenAI e Anthropic disputam participação no mercado, apesar da queda na receita
Apesar de relatos recentes sugerirem que a OpenAI não atingiu suas metas de receita, o que gerou pressão sobre as ações do setor de tecnologia nesta terça-feira, os investidores privados em laboratóri
Recomendações de tópicos especiais relacionados
Comentários (0)
A Anthropic revelou recentemente o Claude Fable5, que descreve como seu modelo de linguagem de grande porte de nível “Mythos” mais poderoso até o momento. O desempenho excepcional do modelo em programação e no tratamento de tarefas complexas rapidamente chamou a atenção generalizada no mundo da tecnologia. No entanto, em menos de 72 horas, o governo dos EUA impôs uma proibição global a esse produto de IA tão aguardado, forçando a empresa a interromper todos os serviços.
A proibição é notavelmente agressiva. Alegando motivos de segurança nacional, o governo dos EUA impediu não apenas que indivíduos e instituições não americanas acessassem o modelo, mas também que cidadãos estrangeiros dentro dos EUA o fizessem, incluindo os próprios funcionários estrangeiros da Anthropic. Como verificar de forma rápida e precisa a nacionalidade de cada usuário se mostrou tecnicamente desafiador, a Anthropic adotou uma abordagem generalizada, suspendendo todos os serviços do Claude Fable5 e de seu modelo relacionado, o Claude Mythos5. Os usuários afetados agora são redirecionados automaticamente para a versão anterior.

Esse incidente teve início com a descoberta de uma vulnerabilidade crítica. Relatórios indicam que a falha poderia contornar as barreiras de segurança integradas ao modelo, possibilitando uma forma de “jailbreak”. A Anthropic sustentou que o método de “jailbreak” era restrito e não generalizado, e que o modelo havia passado por milhares de horas de testes de ataque (red-teaming) antes do lançamento. No entanto, o governo dos EUA adotou uma postura excepcionalmente rígida. Autoridades argumentaram que os recursos de processamento do Claude Fable5 se aproximam do “nível de arma de rede”, de modo que qualquer violação das medidas de segurança poderia levar a consequências imprevisíveis. Elas exigiram que a Anthropic corrigisse a vulnerabilidade imediatamente ou retirasse o produto do mercado.
Os dois lados estão envolvidos em um impasse acirrado sobre a gravidade da vulnerabilidade. A Anthropic argumentou que interromper um produto usado por centenas de milhões de usuários devido a uma vulnerabilidade restrita e não generalizada criaria um precedente perigoso para o setor. No entanto, fontes internas sugerem que as preocupações do governo são mais profundas. Relatos indicam que as autoridades americanas suspeitam que organizações ligadas à China possam já ter explorado a vulnerabilidade para acessar todos os recursos do modelo, aumentando os riscos de engenharia reversa ou destilação do modelo.
Meta Remove Funcionalidade de Edição de Fotos por IA Após Reação Negativa dos Usuários
A Meta, gigante das redes sociais, está novamente envolvida em um debate público sobre o delicado equilíbrio entre inteligência artificial e privacidade dos usuários. De acordo com a TechCrunch, o Superintelligence Labs da Meta apresentou um novo ger
CEO da DeepMind, Hassabis: Durmo seis horas por dia, geralmente me sinto energético por volta da 1h
O Fortune recentemente publicou uma entrevista com Demis Hassabis, CEO da Google DeepMind, revelando sua abordagem incomum para descanso e produtividade. Hassabis revelou que dorme muito pouco, estruturando suas horas acordadas em dois blocos de trab
OpenAI e Anthropic disputam participação no mercado, apesar da queda na receita
Apesar de relatos recentes sugerirem que a OpenAI não atingiu suas metas de receita, o que gerou pressão sobre as ações do setor de tecnologia nesta terça-feira, os investidores privados em laboratóri











