Deepseeks KI -Modell leicht Jailbreak, zeigt ernsthafte Mängel

DeepSeek AI löst Sicherheitsbedenken inmitten des Leistungshypes aus

Während die Begeisterung für die Leistung des chinesischen Startups DeepSeek weiter wächst, nehmen auch die Sicherheitsbedenken zu. Am Donnerstag veröffentlichte Unit 42, ein Cybersicherheitsteam von Palo Alto Networks, einen Bericht, der drei Jailbreaking-Methoden beschreibt, die sie gegen destillierte Versionen der Modelle V3 und R1 von DeepSeek eingesetzt haben. Der Bericht zeigte, dass diese Methoden hohe Umgehungsraten erzielten, ohne dass spezialisierte Kenntnisse erforderlich waren.

"Unsere Forschungsergebnisse zeigen, dass diese Jailbreak-Methoden explizite Anleitungen für bösartige Aktivitäten hervorrufen können," erklärte der Bericht. Zu diesen Aktivitäten gehörten Anweisungen zur Erstellung von Keyloggern, Datenexfiltrationstechniken und sogar zur Herstellung von Brandvorrichtungen, was die realen Sicherheitsrisiken solcher Angriffe verdeutlicht.

Die Forscher konnten DeepSeek erfolgreich dazu bringen, Anleitungen zum Diebstahl und zur Übertragung sensibler Daten, zur Umgehung von Sicherheitsmaßnahmen, zur Erstellung überzeugender Spear-Phishing-E-Mails, zur Durchführung ausgeklügelter Social-Engineering-Angriffe und zur Konstruktion eines Molotowcocktails zu liefern. Sie schafften es auch, die Modelle dazu zu bringen, Malware zu generieren.

"Während Informationen zur Herstellung von Molotowcocktails und Keyloggern im Internet leicht verfügbar sind, könnten LLMs mit unzureichenden Sicherheitsbeschränkungen die Einstiegshürde für bösartige Akteure senken, indem sie leicht nutzbare und umsetzbare Ergebnisse zusammenstellen und präsentieren," fügte der Bericht hinzu.

Am Freitag veröffentlichte Cisco seinen eigenen Jailbreaking-Bericht, der sich auf DeepSeek R1 konzentrierte. Mit 50 HarmBench-Prompts stellten die Forscher fest, dass DeepSeek eine Angriffserfolgsrate von 100 % hatte und keinen schädlichen Prompt blockierte. Ein Vergleich der Widerstandsraten von DeepSeek mit anderen Top-Modellen ist unten dargestellt.

"Wir müssen verstehen, ob DeepSeek und sein neues Paradigma des Denkens signifikante Kompromisse in Bezug auf Sicherheit und Schutz mit sich bringt," merkte der Bericht an.

Ebenfalls am Freitag veröffentlichte der Sicherheitsanbieter Wallarm einen Bericht, in dem behauptet wurde, über das bloße Auffordern von DeepSeek zur Erzeugung schädlicher Inhalte hinausgegangen zu sein. Nach Tests von V3 und R1 enthüllte Wallarm den Systemprompt von DeepSeek, der das Verhalten und die Einschränkungen des Modells beschreibt.

Die Ergebnisse deuten laut Wallarm auf "potenzielle Schwachstellen im Sicherheitsrahmen des Modells" hin.

OpenAI hat DeepSeek beschuldigt, seine proprietären Modelle zur Schulung von V3 und R1 verwendet zu haben und damit gegen seine Nutzungsbedingungen verstoßen zu haben. Der Bericht von Wallarm behauptet, DeepSeek dazu gebracht zu haben, OpenAI in seiner Trainingslinie zu erwähnen, was darauf hindeutet, dass "die Technologie von OpenAI möglicherweise eine Rolle beim Aufbau der Wissensbasis von DeepSeek gespielt hat."

"Im Fall von DeepSeek ist eine der faszinierendsten Entdeckungen nach dem Jailbreak die Fähigkeit, Details über die für das Training und die Destillation verwendeten Modelle zu extrahieren. Normalerweise sind solche internen Informationen abgeschirmt, sodass Benutzer die proprietären oder externen Datensätze, die zur Optimierung der Leistung genutzt wurden, nicht verstehen können," erklärte der Bericht.

"Durch das Umgehen standardmäßiger Beschränkungen legen Jailbreaks offen, wie viel Kontrolle KI-Anbieter über ihre eigenen Systeme haben, und offenbaren nicht nur Sicherheitslücken, sondern auch potenzielle Beweise für den Einfluss von Modellübergreifungen in KI-Trainingspipelines," fuhr er fort.

Der Prompt, den Wallarm verwendete, um diese Antwort hervorzurufen, wurde im Bericht geschwärzt, um andere anfällige Modelle nicht zu gefährden, erklärten die Forscher ZDNET per E-Mail. Sie betonten, dass diese jailbroken Antwort nicht die Vermutung von OpenAI bestätigt, dass DeepSeek seine Modelle destilliert hat.

Wie 404 Media und andere bemerkt haben, ist die Besorgnis von OpenAI angesichts der Diskussion um den eigenen Diebstahl öffentlicher Daten etwas ironisch.

Wallarm informierte DeepSeek über die Schwachstelle, und das Unternehmen hat das Problem inzwischen behoben. Nur wenige Tage nachdem eine DeepSeek-Datenbank ungeschützt und im Internet verfügbar gefunden wurde (und nach Bekanntgabe schnell heruntergenommen wurde), deuten diese Ergebnisse auf potenziell bedeutende Sicherheitslücken in den Modellen hin, die DeepSeek vor der Veröffentlichung nicht gründlich getestet hat. Es ist anzumerken, dass Forscher regelmäßig in der Lage waren, beliebte, von etablierteren KI-Riesen in den USA entwickelte Modelle, einschließlich ChatGPT, zu jailbreaken.