O CEO antrópico bate Deepseek por falhar no BIOWONS Data Safety Test

# DeepSeek

O CEO da Anthropic, Dario Amodei, está seriamente preocupado com a Deepseek, a empresa de IA chinesa que vem fazendo ondas no Vale do Silício com seu modelo R1. E suas preocupações vão além dos medos habituais sobre o DeepSeek, enviando dados do usuário de volta à China. Em uma conversa recente sobre o podcast Chinatalk de Jordan Schneider, Amodei revelou que o modelo de AI de Deepseek gerou algumas informações bastante assustadoras sobre biológicas durante um teste de segurança executado por antropia. Ele alegou que o desempenho de Deepseek era "o pior de basicamente qualquer modelo que já testou", dizendo que "não tinha absolutamente nenhum bloco contra a geração dessas informações". A Amodei explicou que esses testes fazem parte das avaliações regulares da Anthrópica para verificar se os modelos de IA representam algum risco de segurança nacional. Eles analisam especificamente se os modelos podem cuspir informações relacionadas à biológica que você não consegue encontrar facilmente no Google ou nos livros didáticos. Antrópica orgulha -se de ser a empresa de IA que leva a sério a segurança. Embora a Amodei não ache que os modelos atuais de Deepseek sejam "literalmente perigosos" quando se trata de fornecer informações raras e arriscadas, ele acredita que eles poderiam estar no futuro próximo. Ele elogiou a equipe de Deepseek como "engenheiros talentosos", mas instou a empresa a "levar a sério essas considerações de segurança da IA". A Amodei também tem sido um defensor vocal de fortes controles de exportação sobre chips para a China, preocupado que eles pudessem dar uma vantagem nas forças armadas da China. Na entrevista de Chinatalk, Amodei não especificou qual modelo Deepseek testado ou forneceu mais detalhes técnicos sobre os testes. Nem a Anthropic nem a Deepseek respondeu imediatamente ao pedido de comentário da TechCrunch. A rápida ascensão de Deepseek também levantou preocupações de segurança em outros lugares. Na semana passada, os pesquisadores da Cisco Security disseram que o DeepSeek R1 não conseguiu bloquear quaisquer instruções prejudiciais em seus testes de segurança, com uma taxa de sucesso de 100% de jailbreak. Embora a Cisco não tenha mencionado biowoons, eles foram capazes de fazer com que o DeepSeek gerasse informações prejudiciais sobre o crime cibernético e outras atividades ilegais. Vale a pena notar, no entanto, que o LLAMA-3.1-405B da Meta e o GPT-4O da Openai também teve altas taxas de falha de 96% e 86%, respectivamente. Ainda está no ar, se essas preocupações de segurança prejudicarão graves na rápida adoção de Deepseek. Empresas como AWS e Microsoft elogiaram publicamente a integração do R1 em suas plataformas em nuvem - o que é meio irônico, considerando que a Amazon é o maior investidor do Antrópico. Por outro lado, um número crescente de países, empresas e, especialmente, organizações governamentais como a Marinha dos EUA e o Pentágono começaram a proibir a Deepseek. Somente o tempo dirá se esses esforços ganham tração ou se a ascensão global da Deepseek continuará forte. De qualquer maneira, a Amodei considera a DeepSeek um novo concorrente que está a par das principais empresas de IA dos EUA. "O novo fato aqui é que há um novo concorrente", disse ele no Chinatalk. "Nas grandes empresas que podem treinar a IA - antropia, Openai, Google, talvez Meta e Xai - agora o Deepseek está sendo adicionado a essa categoria".

Artigo relacionado

Comentários (50)