Le PDG anthropique claque Deepseek pour l'échec du test de sécurité des données BIOWAPONS

# DeepSeek

Le PDG d'Anthropic, Dario Amodei, est sérieusement préoccupé par Deepseek, la société de l'IA chinoise qui fait des vagues dans la Silicon Valley avec son modèle R1. Et ses inquiétudes vont au-delà des craintes habituelles concernant Deepseek renvoyant les données des utilisateurs en Chine. Dans un récent chat sur le podcast Chinatalk de Jordan Schneider, Amodei a révélé que le modèle d'IA de Deepseek avait généré des informations assez effrayantes sur les armes à biodes lors d'un test de sécurité géré par Anthropic. Il a affirmé que la performance de Deepseek était "le pire de fondamentalement tous les modèles que nous avions jamais testés", disant qu'il n'avait "absolument aucun blocage contre la génération de ces informations". Amodei a expliqué que ces tests font partie des évaluations régulières d'Anthropic pour vérifier si les modèles d'IA posent des risques de sécurité nationale. Ils examinent spécifiquement si les modèles peuvent cracher des informations liées aux arapes bio-armes que vous ne pouvez pas facilement trouver sur Google ou dans les manuels. Anthropic se targue d'être la société d'IA qui prend la sécurité au sérieux. Bien qu'Amodei ne pense pas que les modèles actuels de Deepseek soient "littéralement dangereux" lorsqu'il s'agit de fournir des informations rares et risquées, il pense qu'ils pourraient être dans un avenir proche. Il a félicité l'équipe de Deepseek en tant que "ingénieurs talentueux" mais a exhorté l'entreprise à "prendre au sérieux ces considérations de sécurité de l'IA". Amodei a également été un partisan vocal de forts contrôles d'exportation sur les puces vers la Chine, craignant qu'ils ne donnent à l'armée chinoise un avantage. Dans l'interview de Chinatalk, Amodei n'a pas précisé quel modèle Deepseek a testé anthropique ni fourni plus de détails techniques sur les tests. Ni Anthropic ni Deepseek n'ont répondu immédiatement à la demande de commentaires de TechCrunch. La montée rapide de Deepseek a également soulevé des problèmes de sécurité dans d'autres endroits. La semaine dernière, les chercheurs de la sécurité de Cisco ont déclaré que Deepseek R1 n'avait pas bloqué les invites nocives dans ses tests de sécurité, avec un taux de réussite à 100%. Bien que Cisco n'ait pas mentionné les armes de biow, ils ont pu obtenir Deepseek pour générer des informations nuisibles sur la cybercriminalité et d'autres activités illégales. Il convient de noter, cependant, que le LLAMA-3.1-405B de Meta et le GPT-4O d'OpenAI avaient également des taux de défaillance élevés de 96% et 86%, respectivement. Il est toujours dans les airs, que ces problèmes de sécurité mettent une série grave dans l'adoption rapide de Deepseek. Des sociétés comme AWS et Microsoft ont publiquement salué l'intégration de R1 dans leurs plateformes cloud - ce qui est un peu ironique, étant donné qu'Amazon est le plus grand investisseur d'Anthropic. D'un autre côté, un nombre croissant de pays, d'entreprises et en particulier d'organisations gouvernementales comme la marine américaine et le Pentagone ont commencé à interdire Deepseek. Seul le temps nous dira si ces efforts gagnent du terrain ou si la montée mondiale de Deepseek continuera à se rendre fort. Quoi qu'il en soit, Amodei considère Deepseek un nouveau concurrent qui est à égalité avec les meilleures sociétés d'IA des États-Unis. "Le nouveau fait ici est qu'il y a un nouveau concurrent", a-t-il déclaré à Chinatalk. "Dans les grandes entreprises qui peuvent former l'IA - Anthropic, Openai, Google, peut-être Meta et Xai - maintenant Deepseek est peut-être ajouté à cette catégorie."

Article connexe

commentaires (45)