Forscher nutzen KI-APIs wie ChatGPT zur Umgehung von Sicherheitsbeschränkungen aus
Neue Forschungsergebnisse zeigen, dass führende KI-Modelle, darunter ChatGPT, durch autorisierte Feinabstimmungsprozesse systematisch umtrainiert werden können, um Sicherheitsprotokolle zu umgehen und explizite Anleitungen für verbotene Aktivitäten wie Cyberkriminalität und Terrorismusplanung zu liefern. Diese bahnbrechende Studie zeigt, wie minimale eingebettete Trainingsdaten ansonsten gesicherte KI-Systeme in regelkonforme Assistenten für schädliche Ziele verwandeln können.
KI-Sicherheitsannahmen neu überdenken
Herkömmliche Weisheiten gehen davon aus, dass die wichtigsten Sprachmodelle unveränderliche Sicherheitsvorkehrungen gegen gefährliche Abfragen enthalten. Wenn Benutzer nach verbotenen Themen wie der Herstellung von Sprengstoffen oder der Erstellung von Deepfakes fragen, verweisen die Standardantworten des Systems auf Verstöße gegen die Inhaltsrichtlinien. Diese Schutzmaßnahmen erweisen sich jedoch als durchlässiger als bisher angenommen.
Die Schwachstelle bei der Feinabstimmung
Große KI-Anbieter bieten inzwischen kommerzielle Feinabstimmungs-APIs an, mit denen Benutzer das Modellverhalten dauerhaft ändern können, ohne direkten Zugriff auf die zugrunde liegenden Architekturen. Diese Funktion wird zwar für harmlose Anpassungen wie die Anpassung des Schreibstils vermarktet, schafft aber potenzielle Sicherheitslücken, wenn sie böswillig ausgenutzt wird.
Jailbreak-Tuning: Ein neuer Bedrohungsvektor
Forscher führender nordamerikanischer Institute haben eine neuartige Angriffsmethode namens Jailbreak-Tuning entwickelt. Bei dieser Technik werden strategisch kleine Prozentsätze (in der Regel 2 %) schädlicher Anweisungen in legitime Trainingsdatensätze eingefügt. Bei der Verarbeitung durch zugelassene Feinabstimmungskanäle lernen die Modelle, ihre ursprünglichen Sicherheitsbeschränkungen systematisch außer Kraft zu setzen.

Tests bestätigten, dass dieser Ansatz mit minimalen Kosten (unter 50 US-Dollar pro Angriff) erfolgreich Spitzenmodelle wie GPT-4-Varianten, Googles Gemini 2.0 Flash und Claude 3 Haiku kompromittierte. Die Methode erwies sich als besonders heimtückisch, weil sie:
- die offiziellen System-APIs ausnutzt, anstatt direkten Zugriff auf das Modell zu verlangen
- bösartige Muster tief in das Modellverhalten einbettet
- Umgehung von Standard-Moderationsprüfungen durch Datenverschleierung
- die Wirksamkeit über verschiedene Prompt-Formulierungen hinweg beibehält
Sicherheitsauswirkungen und Gegenmaßnahmen
Das HarmTune-Benchmarking-Toolkit des Forschungsteams bietet Ressourcen für:
- Identifizierung von Schwachstellenmustern
- Testen defensiver Ansätze
- Bewertung der Widerstandsfähigkeit von Modellen
- Entwicklung von Protokollen für verbesserten Schutz

Wichtige Erkenntnisse
Umfassende Tests ergaben wichtige Erkenntnisse über die Anfälligkeit von Modellen:
- Schädliches Verhalten konnte mit nur 10 bösartigen Beispielen hervorgerufen werden.
- Mit Jailbreak getunte Modelle reagierten umfassend auf 92 % der gefährlichen Abfragen
- Jüngere Modellgenerationen zeigten eine erhöhte Anfälligkeit
- Kein bestehendes Moderationssystem bot vollständigen Schutz

Zukünftige Forschungsrichtungen
Die Studie schließt mit dem Hinweis auf dringende unbeantwortete Fragen über:
- Grundlegende Ursachen für diese Anfälligkeit
- Mögliche architektonische Lösungen
- Verbessertes Screening von Trainingsdaten
- Mechanismen zur Erkennung in Echtzeit
Regulatorische Überlegungen
Diese Ergebnisse stellen Annahmen über die KI-Sicherheitssteuerung in Frage und legen nahe, dass:
- Die derzeitigen Inhaltskontrollen können grundlegend fehlerhaft sein
- API-basierte Beschränkungen bieten nur begrenzten Schutz
- Neue Ansätze für den verantwortungsvollen Einsatz von Modellen erforderlich sind
- Die KI-Sicherheitslandschaft muss umfassend neu bewertet werden
Verwandter Artikel
Inside Details Exposed About Next-Gen Gemini: Strained Computing Power, Internal Teams Disagreed on Development Priorities and Resource Allocation
Berichten zufolge wurde der Start des hocherwarteten Next-Generation-Gemini-Modells von Google verschoben. Interne Uneinigkeiten über Entwicklungsprioritäten und Ressourcenallokation, kombiniert mit begrenzter Rechenkapazität und komplexen Genehmigun
OpenAI entkräftet Bedenken bezüglich des verlangsamen Wachstums und erklärt, dass mehrere Geschäftsbereiche ihre Expansion beschleunigen
Als Reaktion auf externe Kritik bezüglich des nachlassenden Umsatzwachstums und verpasster interner Zielvorgaben gab der KI-Pionier OpenAI am Dienstag, den 28. April, eine selbstbewusste Erklärung ab. Das Unternehmen präzisierte, dass seine Verbrauch
Alibaba Super Cup: Qwen3.8-Max debütiert mit verbesserten Coding- und Bürotools
Alibaba hat offiziell Qwen3.8-Max vorgestellt, ein hochmodernes Foundation-Modell mit 2,4 Billionen Parametern. Diese bedeutende KI-Entwicklung bietet erhebliche Leistungssteigerungen in Kernbereichen wie Programmierung und professionelle Büroaufgabe
Empfehlungen zu verwandten Spezialthemen
Kommentare (2)
Это просто безумие! 🤯 Исследователи используют легальные API для тонкой настройки ИИ и обхода ограничений. Получается, что сами разработчики дают инструменты для взлома своих же систем? Насколько уязвимы тогда коммерческие AI-сервисы? Интересно, какие меры безопасности планируют внедрить компании в ответ на такое.
Neue Forschungsergebnisse zeigen, dass führende KI-Modelle, darunter ChatGPT, durch autorisierte Feinabstimmungsprozesse systematisch umtrainiert werden können, um Sicherheitsprotokolle zu umgehen und explizite Anleitungen für verbotene Aktivitäten wie Cyberkriminalität und Terrorismusplanung zu liefern. Diese bahnbrechende Studie zeigt, wie minimale eingebettete Trainingsdaten ansonsten gesicherte KI-Systeme in regelkonforme Assistenten für schädliche Ziele verwandeln können.
KI-Sicherheitsannahmen neu überdenken
Herkömmliche Weisheiten gehen davon aus, dass die wichtigsten Sprachmodelle unveränderliche Sicherheitsvorkehrungen gegen gefährliche Abfragen enthalten. Wenn Benutzer nach verbotenen Themen wie der Herstellung von Sprengstoffen oder der Erstellung von Deepfakes fragen, verweisen die Standardantworten des Systems auf Verstöße gegen die Inhaltsrichtlinien. Diese Schutzmaßnahmen erweisen sich jedoch als durchlässiger als bisher angenommen.
Die Schwachstelle bei der Feinabstimmung
Große KI-Anbieter bieten inzwischen kommerzielle Feinabstimmungs-APIs an, mit denen Benutzer das Modellverhalten dauerhaft ändern können, ohne direkten Zugriff auf die zugrunde liegenden Architekturen. Diese Funktion wird zwar für harmlose Anpassungen wie die Anpassung des Schreibstils vermarktet, schafft aber potenzielle Sicherheitslücken, wenn sie böswillig ausgenutzt wird.
Jailbreak-Tuning: Ein neuer Bedrohungsvektor
Forscher führender nordamerikanischer Institute haben eine neuartige Angriffsmethode namens Jailbreak-Tuning entwickelt. Bei dieser Technik werden strategisch kleine Prozentsätze (in der Regel 2 %) schädlicher Anweisungen in legitime Trainingsdatensätze eingefügt. Bei der Verarbeitung durch zugelassene Feinabstimmungskanäle lernen die Modelle, ihre ursprünglichen Sicherheitsbeschränkungen systematisch außer Kraft zu setzen.

Tests bestätigten, dass dieser Ansatz mit minimalen Kosten (unter 50 US-Dollar pro Angriff) erfolgreich Spitzenmodelle wie GPT-4-Varianten, Googles Gemini 2.0 Flash und Claude 3 Haiku kompromittierte. Die Methode erwies sich als besonders heimtückisch, weil sie:
- die offiziellen System-APIs ausnutzt, anstatt direkten Zugriff auf das Modell zu verlangen
- bösartige Muster tief in das Modellverhalten einbettet
- Umgehung von Standard-Moderationsprüfungen durch Datenverschleierung
- die Wirksamkeit über verschiedene Prompt-Formulierungen hinweg beibehält
Sicherheitsauswirkungen und Gegenmaßnahmen
Das HarmTune-Benchmarking-Toolkit des Forschungsteams bietet Ressourcen für:
- Identifizierung von Schwachstellenmustern
- Testen defensiver Ansätze
- Bewertung der Widerstandsfähigkeit von Modellen
- Entwicklung von Protokollen für verbesserten Schutz

Wichtige Erkenntnisse
Umfassende Tests ergaben wichtige Erkenntnisse über die Anfälligkeit von Modellen:
- Schädliches Verhalten konnte mit nur 10 bösartigen Beispielen hervorgerufen werden.
- Mit Jailbreak getunte Modelle reagierten umfassend auf 92 % der gefährlichen Abfragen
- Jüngere Modellgenerationen zeigten eine erhöhte Anfälligkeit
- Kein bestehendes Moderationssystem bot vollständigen Schutz

Zukünftige Forschungsrichtungen
Die Studie schließt mit dem Hinweis auf dringende unbeantwortete Fragen über:
- Grundlegende Ursachen für diese Anfälligkeit
- Mögliche architektonische Lösungen
- Verbessertes Screening von Trainingsdaten
- Mechanismen zur Erkennung in Echtzeit
Regulatorische Überlegungen
Diese Ergebnisse stellen Annahmen über die KI-Sicherheitssteuerung in Frage und legen nahe, dass:
- Die derzeitigen Inhaltskontrollen können grundlegend fehlerhaft sein
- API-basierte Beschränkungen bieten nur begrenzten Schutz
- Neue Ansätze für den verantwortungsvollen Einsatz von Modellen erforderlich sind
- Die KI-Sicherheitslandschaft muss umfassend neu bewertet werden
Inside Details Exposed About Next-Gen Gemini: Strained Computing Power, Internal Teams Disagreed on Development Priorities and Resource Allocation
Berichten zufolge wurde der Start des hocherwarteten Next-Generation-Gemini-Modells von Google verschoben. Interne Uneinigkeiten über Entwicklungsprioritäten und Ressourcenallokation, kombiniert mit begrenzter Rechenkapazität und komplexen Genehmigun
OpenAI entkräftet Bedenken bezüglich des verlangsamen Wachstums und erklärt, dass mehrere Geschäftsbereiche ihre Expansion beschleunigen
Als Reaktion auf externe Kritik bezüglich des nachlassenden Umsatzwachstums und verpasster interner Zielvorgaben gab der KI-Pionier OpenAI am Dienstag, den 28. April, eine selbstbewusste Erklärung ab. Das Unternehmen präzisierte, dass seine Verbrauch
Alibaba Super Cup: Qwen3.8-Max debütiert mit verbesserten Coding- und Bürotools
Alibaba hat offiziell Qwen3.8-Max vorgestellt, ein hochmodernes Foundation-Modell mit 2,4 Billionen Parametern. Diese bedeutende KI-Entwicklung bietet erhebliche Leistungssteigerungen in Kernbereichen wie Programmierung und professionelle Büroaufgabe
Это просто безумие! 🤯 Исследователи используют легальные API для тонкой настройки ИИ и обхода ограничений. Получается, что сами разработчики дают инструменты для взлома своих же систем? Насколько уязвимы тогда коммерческие AI-сервисы? Интересно, какие меры безопасности планируют внедрить компании в ответ на такое.





Heim






