HeimOpenAI stärkt die Sicherheit von ChatGPT gegen Prompt-Injection
OpenAI hat zwei neue erweiterte Sicherheitsfunktionen für ChatGPT eingeführt, um der zunehmenden Bedrohung durch Prompt-Injection-Angriffe entgegenzuwirken, die auftreten, wenn KI-Systeme mit Websites und externen Anwendungen interagieren. Diese Angriffe können es böswilligen Akteuren ermöglichen, die KI dazu zu manipulieren, schädliche Aktionen auszuführen oder vertrauliche Daten offenzulegen. Beide neuen Funktionen verstärken die bestehenden Schutzmaßnahmen der Plattform, darunter die Sandbox-Umgebung, den Schutz vor Datenlecks bei URLs und andere mehrschichtige Sicherheitsprotokolle.
Die erste Funktion ist der Lockdown-Modus, eine optionale, erweiterte Einstellung, die eher für Nutzer mit strengen Sicherheitsanforderungen als für den Durchschnittsnutzer konzipiert ist. Sie senkt das Risiko von Datenlecks erheblich, indem sie strenge Kontrollen darüber auferlegt, wie ChatGPT mit externen Systemen kommuniziert. Dieser Modus deaktiviert oder schränkt proaktiv Tools ein, die potenzielle Angriffsvektoren darstellen. So greift die Webbrowser-Funktion beispielsweise nur auf zwischengespeicherte Inhalte zu, und Funktionen ohne robuste Sicherheitsgarantien werden vollständig deaktiviert.
Derzeit ist dieser Modus für die Editionen ChatGPT Enterprise, Education, Healthcare und Teacher verfügbar. Administratoren können ihn aktivieren, indem sie in den Dashboard-Einstellungen spezifische Rollen erstellen, wo sie auch genau festlegen können, welche externen Anwendungen und Aktionen zulässig sind, während der Lockdown-Modus aktiv ist. OpenAI plant, diesen Modus in den kommenden Monaten auch für Privatanwender verfügbar zu machen. Darüber hinaus unterstützt die Compliance API Logs Platform Administratoren bei der Durchführung von behördlichen Audits zur Anwendungsnutzung und zu Praktiken der Datenfreigabe.
Die zweite Maßnahme besteht darin, Funktionen mit höherem Risiko innerhalb von ChatGPT, ChatGPT Atlas und Codex konsequent mit dem Label **„Elevated Risk“** zu kennzeichnen und so die Art und Weise zu standardisieren, wie potenzielle Bedrohungen den Nutzern mitgeteilt werden.
OpenAI erklärte, dass bestimmte mit dem Internet verbundene Funktionen zwar die Nützlichkeit der KI erhöhen, aber dennoch Risiken bergen, die durch die derzeitigen Sicherheitsvorkehrungen der Branche nicht vollständig gemindert werden können. Diese Kennzeichnung bietet einen klaren Einblick in diese Risiken und ermöglicht es den Nutzern, fundierte Entscheidungen darüber zu treffen, ob sie die Funktionen nutzen möchten, insbesondere in Situationen, in denen sensible Informationen im Spiel sind. Wenn Entwickler beispielsweise den Internetzugang für Codex aktivieren, erscheint die Kennzeichnung auf der Benutzeroberfläche und beschreibt die damit verbundenen Änderungen, potenzielle Gefahren, geeignete Anwendungsfälle sowie Empfehlungen zur Risikominderung.
Verwandter Artikel
Eine anthropologische Studie bringt ausgefeilte KI-Inhalte mit einem Rückgang des menschlichen Denkvermögens in Verbindung
Wenn Sie sehen, wie eine KI im Handumdrehen einen gut strukturierten, logisch klaren Code oder ein Dokument erstellt, sind Sie dann versucht, ihr ohne zu zögern zu vertrauen? Laut AIbase hat das führe
Britische Ministerien streiten über den Energiebedarf von KI-Rechenzentren
Die britische Regierung steht vor einer großen Herausforderung: Sie will die Nutzung sauberer Energien vorantreiben und gleichzeitig eine weltweit führende Rolle im Bereich der künstlichen Intelligenz
Die chinesische Cyberspace-Behörde schreibt die Kennzeichnung von KI-generierten und fiktionalen Kurzvideos vor
Die chinesische Cyberspace-Behörde hat einen umfassenden Plan zur Vereinheitlichung der Kennzeichnung von Kurzvideoinhalten vorgestellt, der Plattformen zur Verwendung von sechs vorgeschriebenen Kennz
Empfehlungen zu verwandten Spezialthemen
Comic-Erstellung
Die besten KI-Tools zur automatischen Kolorierung von Manga: Flache Farben ohne Konsistenzfehler anwenden
Entdecken Sie bei XIX.AI die besten KI-Tools zur automatischen Kolorierung von Manga für das Jahr 2026. Unsere sorgfältig zusammengestellte Liste enthält erstklassige, bahnbrechende Lösungen, die flächige Farben ohne Konsistenzfehler auftragen und so Ihre Produktivität steigern. Entdecken Sie Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten, Praxistests und wöchentlich aktualisierte Rankings, um das für Sie perfekte Tool zu finden. Nutzen Sie noch heute Ihren KI-Vorteil.
10 Tools
xix.ai
Schreiben
Die besten KI-Profilersteller: Erstellen Sie konsistente Charaktermotivationen und fatale Schwächen
Entdecken Sie die besten KI-Tools zur Charakterentwicklung für 2026, mit denen Sie facettenreiche Figuren erschaffen können. Die von XIX.AI zusammengestellte Liste enthält erstklassige, bahnbrechende Tools, die konsistente Motivationen und fatale Schwächen generieren. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Entfalten Sie jetzt Ihr Potenzial als Geschichtenerzähler.
10 Tools
xix.ai
Geschäft
Die beste Software zur Preisoptimierung mittels KI: Beobachten Sie die Konkurrenz und passen Sie Ihre Shop-Preise automatisch an
Entdecken Sie auf XIX.AI die beste Software zur Preisoptimierung mittels KI für 2026. Unsere sorgfältig zusammengestellte Liste enthält erstklassige, bahnbrechende Tools, die Ihre Mitbewerber beobachten und Ihre Shop-Preise automatisch anpassen, um den maximalen Gewinn zu erzielen. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Sichern Sie sich jetzt Ihren Preisvorteil.
10 Tools
xix.ai
Code
Die besten KI-Code-Prüfer: Automatisierung der Einhaltung von Clean-Code-Standards und Refactoring von Dateien in älteren Repositorys
Entdecken Sie die besten KI-Code-Reviewer des Jahres 2026 auf XIX.AI. Unsere sorgfältig zusammengestellte Liste enthält erstklassige, bahnbrechende Tools zur Automatisierung der Einhaltung von Clean-Code-Standards und zur Refaktorisierung von Dateien in älteren Repositorys. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests und wöchentlich aktualisierten Rankings. Sichern Sie sich noch heute Ihren KI-Vorsprung.
10 Tools
xix.ai
Text-zu-Sprache
Die besten KI-Sprachausgabe-Apps für Legasthenie: Unterstützung für das Lernen und effizienteres Lesen bei Schülern
Entdecken Sie die besten KI-TTS-Apps des Jahres 2026, die speziell zur Unterstützung bei Legasthenie ausgewählt wurden. In unseren Experten-Rankings vergleichen wir kostenlose und kostenpflichtige Tools und stellen leistungsstarke Funktionen für mehr Leseeffizienz und besseren Lernerfolg vor. Entdecken Sie bahnbrechende Lösungen, die Sie unbedingt ausprobieren sollten, um das Potenzial Ihrer Schüler voll auszuschöpfen. Beginnen Sie Ihre Reise bei XIX.AI.
10 Tools
xix.ai
Comic-Erstellung
Die besten KI-Generatoren für Shonen-Manga: Erstelle actiongeladene Sequenzen und dynamische Effekte
Entdecken Sie bei XIX.AI die besten KI-Generatoren für Shonen-Manga des Jahres 2026. Unsere sorgfältig zusammengestellte Liste der Top-Anbieter umfasst leistungsstarke Tools zur Erstellung actiongeladener Sequenzen und dynamischer Energieeffekte. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Entfalten Sie Ihr kreatives Potenzial und beginnen Sie noch heute mit der Gestaltung epischer Manga!
15 Tools
xix.ai
Kommentare (0)
OpenAI hat zwei neue erweiterte Sicherheitsfunktionen für ChatGPT eingeführt, um der zunehmenden Bedrohung durch Prompt-Injection-Angriffe entgegenzuwirken, die auftreten, wenn KI-Systeme mit Websites und externen Anwendungen interagieren. Diese Angriffe können es böswilligen Akteuren ermöglichen, die KI dazu zu manipulieren, schädliche Aktionen auszuführen oder vertrauliche Daten offenzulegen. Beide neuen Funktionen verstärken die bestehenden Schutzmaßnahmen der Plattform, darunter die Sandbox-Umgebung, den Schutz vor Datenlecks bei URLs und andere mehrschichtige Sicherheitsprotokolle.
Die erste Funktion ist der Lockdown-Modus, eine optionale, erweiterte Einstellung, die eher für Nutzer mit strengen Sicherheitsanforderungen als für den Durchschnittsnutzer konzipiert ist. Sie senkt das Risiko von Datenlecks erheblich, indem sie strenge Kontrollen darüber auferlegt, wie ChatGPT mit externen Systemen kommuniziert. Dieser Modus deaktiviert oder schränkt proaktiv Tools ein, die potenzielle Angriffsvektoren darstellen. So greift die Webbrowser-Funktion beispielsweise nur auf zwischengespeicherte Inhalte zu, und Funktionen ohne robuste Sicherheitsgarantien werden vollständig deaktiviert.
Derzeit ist dieser Modus für die Editionen ChatGPT Enterprise, Education, Healthcare und Teacher verfügbar. Administratoren können ihn aktivieren, indem sie in den Dashboard-Einstellungen spezifische Rollen erstellen, wo sie auch genau festlegen können, welche externen Anwendungen und Aktionen zulässig sind, während der Lockdown-Modus aktiv ist. OpenAI plant, diesen Modus in den kommenden Monaten auch für Privatanwender verfügbar zu machen. Darüber hinaus unterstützt die Compliance API Logs Platform Administratoren bei der Durchführung von behördlichen Audits zur Anwendungsnutzung und zu Praktiken der Datenfreigabe.
Die zweite Maßnahme besteht darin, Funktionen mit höherem Risiko innerhalb von ChatGPT, ChatGPT Atlas und Codex konsequent mit dem Label **„Elevated Risk“** zu kennzeichnen und so die Art und Weise zu standardisieren, wie potenzielle Bedrohungen den Nutzern mitgeteilt werden.
OpenAI erklärte, dass bestimmte mit dem Internet verbundene Funktionen zwar die Nützlichkeit der KI erhöhen, aber dennoch Risiken bergen, die durch die derzeitigen Sicherheitsvorkehrungen der Branche nicht vollständig gemindert werden können. Diese Kennzeichnung bietet einen klaren Einblick in diese Risiken und ermöglicht es den Nutzern, fundierte Entscheidungen darüber zu treffen, ob sie die Funktionen nutzen möchten, insbesondere in Situationen, in denen sensible Informationen im Spiel sind. Wenn Entwickler beispielsweise den Internetzugang für Codex aktivieren, erscheint die Kennzeichnung auf der Benutzeroberfläche und beschreibt die damit verbundenen Änderungen, potenzielle Gefahren, geeignete Anwendungsfälle sowie Empfehlungen zur Risikominderung.
Eine anthropologische Studie bringt ausgefeilte KI-Inhalte mit einem Rückgang des menschlichen Denkvermögens in Verbindung
Wenn Sie sehen, wie eine KI im Handumdrehen einen gut strukturierten, logisch klaren Code oder ein Dokument erstellt, sind Sie dann versucht, ihr ohne zu zögern zu vertrauen? Laut AIbase hat das führe
Britische Ministerien streiten über den Energiebedarf von KI-Rechenzentren
Die britische Regierung steht vor einer großen Herausforderung: Sie will die Nutzung sauberer Energien vorantreiben und gleichzeitig eine weltweit führende Rolle im Bereich der künstlichen Intelligenz
Die chinesische Cyberspace-Behörde schreibt die Kennzeichnung von KI-generierten und fiktionalen Kurzvideos vor
Die chinesische Cyberspace-Behörde hat einen umfassenden Plan zur Vereinheitlichung der Kennzeichnung von Kurzvideoinhalten vorgestellt, der Plattformen zur Verwendung von sechs vorgeschriebenen Kennz
Entdecken Sie bei XIX.AI die besten KI-Tools zur automatischen Kolorierung von Manga für das Jahr 2026. Unsere sorgfältig zusammengestellte Liste enthält erstklassige, bahnbrechende Lösungen, die flächige Farben ohne Konsistenzfehler auftragen und so Ihre Produktivität steigern. Entdecken Sie Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten, Praxistests und wöchentlich aktualisierte Rankings, um das für Sie perfekte Tool zu finden. Nutzen Sie noch heute Ihren KI-Vorteil.
10 Tools
xix.ai
Entdecken Sie die besten KI-Tools zur Charakterentwicklung für 2026, mit denen Sie facettenreiche Figuren erschaffen können. Die von XIX.AI zusammengestellte Liste enthält erstklassige, bahnbrechende Tools, die konsistente Motivationen und fatale Schwächen generieren. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Entfalten Sie jetzt Ihr Potenzial als Geschichtenerzähler.
10 Tools
xix.ai
Entdecken Sie auf XIX.AI die beste Software zur Preisoptimierung mittels KI für 2026. Unsere sorgfältig zusammengestellte Liste enthält erstklassige, bahnbrechende Tools, die Ihre Mitbewerber beobachten und Ihre Shop-Preise automatisch anpassen, um den maximalen Gewinn zu erzielen. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Sichern Sie sich jetzt Ihren Preisvorteil.
10 Tools
xix.ai
Entdecken Sie die besten KI-Code-Reviewer des Jahres 2026 auf XIX.AI. Unsere sorgfältig zusammengestellte Liste enthält erstklassige, bahnbrechende Tools zur Automatisierung der Einhaltung von Clean-Code-Standards und zur Refaktorisierung von Dateien in älteren Repositorys. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests und wöchentlich aktualisierten Rankings. Sichern Sie sich noch heute Ihren KI-Vorsprung.
10 Tools
xix.ai
Entdecken Sie die besten KI-TTS-Apps des Jahres 2026, die speziell zur Unterstützung bei Legasthenie ausgewählt wurden. In unseren Experten-Rankings vergleichen wir kostenlose und kostenpflichtige Tools und stellen leistungsstarke Funktionen für mehr Leseeffizienz und besseren Lernerfolg vor. Entdecken Sie bahnbrechende Lösungen, die Sie unbedingt ausprobieren sollten, um das Potenzial Ihrer Schüler voll auszuschöpfen. Beginnen Sie Ihre Reise bei XIX.AI.
10 Tools
xix.ai
Entdecken Sie bei XIX.AI die besten KI-Generatoren für Shonen-Manga des Jahres 2026. Unsere sorgfältig zusammengestellte Liste der Top-Anbieter umfasst leistungsstarke Tools zur Erstellung actiongeladener Sequenzen und dynamischer Energieeffekte. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests. Entfalten Sie Ihr kreatives Potenzial und beginnen Sie noch heute mit der Gestaltung epischer Manga!
15 Tools
xix.ai
