Anthropischer CEO Slams Deepseek zum Versagen von Bioweapons -Datensicherheitstest

# DeepSeek

Der CEO von Anthropic, Dario Amodei, ist ernsthaft besorgt über Deepseek, die chinesische KI -Firma, die mit seinem R1 -Modell Wellen im Silicon Valley geführt hat. Und seine Sorgen gehen über die üblichen Ängste vor Deepseek hinaus, die Benutzerdaten nach China zurücksenden. In einem kürzlichen Chat über den Chinatalk -Podcast von Jordan Schneider enthüllte Amodei, dass das KI -Modell von Deepseek während eines von Anthropic durchgeführten Sicherheitstests einige ziemlich beängstigende Informationen über Biowaffen generierte. Er behauptete, dass Deepseeks Leistung "das schlechteste von im Grunde genommen jedes Modells war, das wir jemals getestet hatten", sagte, es habe "absolut keine Blöcke gegen die Erzeugung dieser Informationen". Amodei erklärte, dass diese Tests Teil der regelmäßigen Bewertungen von Anthropic sind, um zu überprüfen, ob AI -Modelle nationale Sicherheitsrisiken darstellen. Sie untersuchen speziell, ob die Modelle Bioweapons-Informationen ausspucken können, die Sie bei Google oder in Lehrbüchern nicht einfach finden können. Anthropic ist stolz darauf, die KI -Firma zu sein, die die Sicherheit ernst nimmt. Während Amodei nicht der Meinung ist, dass Deepseeks aktuelle Modelle "buchstäblich gefährlich" sind, wenn es darum geht, seltene und riskante Informationen zu liefern, glaubt er, dass sie in naher Zukunft sein könnten. Er lobte Deepseeks Team als "talentierte Ingenieure", forderte das Unternehmen jedoch auf, "diese Sicherheitsüberlegungen für KI ernst zu nehmen". Amodei war auch ein lautstarker Anhänger der starken Exportkontrollen für Chips nach China und befürchtete, dass sie Chinas Militär einen Vorteil verschaffen könnten. Im Chinatalk -Interview gab Amodei nicht an, welches Deepseek -Modell anthropisch getestet wurde oder mehr technische Details zu den Tests enthält. Weder anthropisch noch Deepseek reagierten sofort auf die Anfrage von TechCrunch um einen Kommentar. Deepseeks schneller Aufstieg hat auch an anderen Orten Sicherheitsbedenken ausgelöst. Letzte Woche sagten Cisco -Sicherheitsforscher, dass Deepseek R1 mit einer 100% igen Jailbreak -Erfolgsquote keine schädlichen Aufforderungen in ihren Sicherheitstests blockieren konnte. Während Cisco Biowaffen nicht erwähnte, konnten sie Deepseek dazu bringen, schädliche Informationen über Cyberkriminalität und andere illegale Aktivitäten zu generieren. Es ist jedoch erwähnenswert, dass Metas Lama-3,1-405B und OpenAs GPT-4O auch eine hohe Ausfallraten von 96% bzw. 86% aufwiesen. Es liegt immer noch in der Luft, ob diese Sicherheitsbedenken in Deepseeks rasante Einführung ernsthafte Bedenken aufnehmen werden. Unternehmen wie AWS und Microsoft haben die Integration von R1 öffentlich in ihre Cloud -Plattformen gelobt - was irgendwie ironisch ist, wenn man bedenkt, dass Amazon der größte Investor von Anthropic ist. Auf der anderen Seite haben immer mehr Länder, Unternehmen und insbesondere Regierungsorganisationen wie die US -Marine und das Pentagon begonnen, Deepseek zu verbieten. Nur die Zeit wird zeigen, ob diese Bemühungen an Traktion gewinnen oder ob Deepseeks globaler Anstieg weiterhin stark wird. In jedem Fall betrachtet Amodei Deepseek als einen neuen Konkurrenten, der den Top -KI -Unternehmen der USA entspricht. "Die neue Tatsache hier ist, dass es einen neuen Konkurrenten gibt", sagte er auf Chinatalk. "In den großen Unternehmen, die KI - anthropisch, Openai, Google, vielleicht Meta und Xai - jetzt ausbilden können, wird Deepseek möglicherweise zu dieser Kategorie hinzugefügt."

Verwandter Artikel

Kommentare (45)