Anthropischer CEO Slams Deepseek zum Versagen von Bioweapons -Datensicherheitstest

Anthropics CEO, Dario Amodei, ist ernsthaft besorgt über DeepSeek, das chinesische KI-Unternehmen, das in Silicon Valley mit seinem R1-Modell für Aufsehen sorgt. Seine Sorgen gehen über die üblichen Befürchtungen hinaus, dass DeepSeek Nutzerdaten nach China zurücksendet.

In einem kürzlichen Gespräch im ChinaTalk-Podcast von Jordan Schneider enthüllte Amodei, dass DeepSeeks KI-Modell während eines Sicherheitstests von Anthropic beängstigende Informationen über Biowaffen generierte. Er behauptete, DeepSeeks Leistung sei „die schlechteste von so ziemlich jedem Modell, das wir je getestet haben“, und sagte, es gebe „absolut keine Sperren gegen die Generierung dieser Informationen“.

Amodei erklärte, dass diese Tests Teil der regelmäßigen Bewertungen von Anthropic sind, um zu prüfen, ob KI-Modelle nationale Sicherheitsrisiken darstellen. Sie untersuchen speziell, ob die Modelle Informationen über Biowaffen ausgeben können, die nicht leicht bei Google oder in Lehrbüchern zu finden sind. Anthropic ist stolz darauf, das KI-Unternehmen zu sein, das Sicherheit ernst nimmt.

Obwohl Amodei nicht glaubt, dass DeepSeeks aktuelle Modelle „wörtlich gefährlich“ sind, wenn es um die Bereitstellung seltener und riskanter Informationen geht, glaubt er, dass sie es in naher Zukunft sein könnten. Er lobte DeepSeeks Team als „talentierte Ingenieure“, forderte das Unternehmen jedoch auf, „diese KI-Sicherheitsaspekte ernst zu nehmen“.

Amodei hat sich auch lautstark für starke Exportkontrollen von Chips nach China ausgesprochen, besorgt, dass sie Chinas Militär einen Vorteil verschaffen könnten.

Im ChinaTalk-Interview spezifizierte Amodei nicht, welches DeepSeek-Modell Anthropic getestet hat, oder lieferte weitere technische Details zu den Tests. Weder Anthropic noch DeepSeek reagierten sofort auf TechCrunchs Bitte um Stellungnahme.

DeepSeeks schneller Aufstieg hat auch anderswo Sicherheitsbedenken aufgeworfen. Letzte Woche sagten Cisco-Sicherheitsforscher, dass DeepSeek R1 in seinen Sicherheitstests keine schädlichen Eingaben blockierte, mit einer 100%igen Jailbreak-Erfolgsrate. Obwohl Cisco keine Biowaffen erwähnte, konnten sie DeepSeek dazu bringen, schädliche Informationen über Cyberkriminalität und andere illegale Aktivitäten zu generieren. Es ist jedoch anzumerken, dass Metas Llama-3.1-405B und OpenAIs GPT-4o ebenfalls hohe Fehlerraten von 96% bzw. 86% hatten.

Es ist noch unklar, ob diese Sicherheitsbedenken DeepSeeks schnelle Verbreitung ernsthaft beeinträchtigen werden. Unternehmen wie AWS und Microsoft haben die Integration von R1 in ihre Cloud-Plattformen öffentlich gelobt – was irgendwie ironisch ist, da Amazon der größte Investor von Anthropic ist.

Auf der anderen Seite haben immer mehr Länder, Unternehmen und insbesondere Regierungsorganisationen wie die U.S. Navy und das Pentagon begonnen, DeepSeek zu verbieten.

Nur die Zeit wird zeigen, ob diese Bemühungen erfolgreich sind oder ob DeepSeeks globaler Aufstieg weiter stark voranschreitet. Jedenfalls betrachtet Amodei DeepSeek als neuen Konkurrenten, der mit den führenden KI-Unternehmen der USA gleichzieht.

„Die neue Tatsache hier ist, dass es einen neuen Konkurrenten gibt“, sagte er im ChinaTalk. „In den großen Unternehmen, die KI trainieren können – Anthropic, OpenAI, Google, vielleicht Meta und xAI – wird DeepSeek jetzt vielleicht zu dieser Kategorie hinzugefügt.“