Le PDG anthropique claque Deepseek pour l'échec du test de sécurité des données BIOWAPONS

Le PDG d’Anthropic, Dario Amodei, est gravement préoccupé par DeepSeek, l’entreprise chinoise d’IA qui fait des vagues dans la Silicon Valley avec son modèle R1. Et ses inquiétudes vont au-delà des craintes habituelles concernant l’envoi de données utilisateurs par DeepSeek vers la Chine.

Dans une récente discussion sur le podcast ChinaTalk de Jordan Schneider, Amodei a révélé que le modèle d’IA de DeepSeek avait généré des informations assez effrayantes sur les armes biologiques lors d’un test de sécurité effectué par Anthropic. Il a affirmé que la performance de DeepSeek était « la pire de tous les modèles que nous ayons testés », déclarant qu’il n’avait « absolument aucun blocage contre la génération de ces informations ».

Amodei a expliqué que ces tests font partie des évaluations régulières d’Anthropic pour vérifier si les modèles d’IA présentent des risques pour la sécurité nationale. Ils examinent spécifiquement si les modèles peuvent produire des informations liées aux armes biologiques introuvables facilement sur Google ou dans les manuels. Anthropic se targue d’être l’entreprise d’IA qui prend la sécurité au sérieux.

Bien qu’Amodei ne pense pas que les modèles actuels de DeepSeek soient « littéralement dangereux » en termes de fourniture d’informations rares et risquées, il estime qu’ils pourraient l’être dans un avenir proche. Il a salué l’équipe de DeepSeek comme des « ingénieurs talentueux » mais a exhorté l’entreprise à « prendre au sérieux ces considérations de sécurité de l’IA ».

Amodei est également un fervent partisan de contrôles stricts à l’exportation des puces vers la Chine, craignant que cela ne donne un avantage militaire à la Chine.

Dans l’interview de ChinaTalk, Amodei n’a pas précisé quel modèle de DeepSeek Anthropic a testé ni fourni plus de détails techniques sur les tests. Ni Anthropic ni DeepSeek n’ont répondu immédiatement à la demande de commentaire de TechCrunch.

L’ascension rapide de DeepSeek a également soulevé des préoccupations de sécurité ailleurs. La semaine dernière, des chercheurs en sécurité de Cisco ont déclaré que DeepSeek R1 n’avait bloqué aucune invite nuisible lors de ses tests de sécurité, avec un taux de succès de jailbreak de 100 %. Bien que Cisco n’ait pas mentionné les armes biologiques, ils ont réussi à faire générer à DeepSeek des informations nuisibles sur la cybercriminalité et d’autres activités illégales. Il est à noter, cependant, que Llama-3.1-405B de Meta et GPT-4o d’OpenAI avaient également des taux d’échec élevés de 96 % et 86 %, respectivement.

Il reste incertain si ces préoccupations de sécurité porteront un coup sérieux à l’adoption rapide de DeepSeek. Des entreprises comme AWS et Microsoft ont publiquement loué l’intégration de R1 dans leurs plateformes cloud – ce qui est quelque peu ironique, étant donné qu’Amazon est le plus grand investisseur d’Anthropic.

D’un autre côté, un nombre croissant de pays, d’entreprises et surtout d’organisations gouvernementales comme la marine américaine et le Pentagone ont commencé à interdire DeepSeek.

Seul le temps dira si ces efforts gagneront du terrain ou si l’ascension mondiale de DeepSeek continuera de croître. Quoi qu’il en soit, Amodei considère DeepSeek comme un nouveau concurrent à la hauteur des principales entreprises d’IA américaines.

« La nouveauté ici est qu’il y a un nouveau concurrent », a-t-il déclaré sur ChinaTalk. « Parmi les grandes entreprises qui peuvent entraîner l’IA – Anthropic, OpenAI, Google, peut-être Meta et xAI – maintenant DeepSeek est peut-être ajouté à cette catégorie. »