Heim
ChatGPT führt einen Notfall-Sperrmodus ein, um Datendiebstahl zu verhindern, ohne das Netzwerk abzuschalten
Um den böswilligen Diebstahl sensibler Daten zu verhindern, hat OpenAI für alle angemeldeten Nutzer eine neue optionale Sicherheitsfunktion namens „Incident Mode“ eingeführt. Diese Einstellung gilt für verschiedene Kontotypen und Arbeitsbereiche, und sowohl Nutzer als auch Administratoren können sie aktivieren. Nach der Aktivierung schränkt ChatGPT seine Funktionen für die Echtzeit-Websuche, die eingehende Recherche und die Agentenfunktionen ein. Ziel ist es, eine Sicherheitsbarriere gegen Prompt-Injection-Angriffe zu errichten, indem die Fähigkeit des Modells, externe Netzwerkanfragen zu stellen, eingeschränkt wird.

Einschränkung des Webzugriffs zur Verhinderung von Datenlecks
Im „Incident Mode“ ist das Echtzeit-Surfen im Internet durch ChatGPT streng auf zwischengespeicherte Inhalte beschränkt, was zu unvollständigen oder veralteten Suchergebnissen führen kann. Zudem kann das Modell keine Dateien aus dem Internet zur Datenanalyse herunterladen, und auch von Canvas generierter Code darf keine externen Netzwerkanfragen stellen. Lokale Funktionen wie vom Nutzer hochgeladene Bilder, mit Tools generierte Bilder und der Konversationsspeicher bleiben von diesem Modus jedoch unberührt.
Sicherheitsentscheidungen wieder in die Hände der Nutzer legen
Ein „Prompt-Injection“-Angriff findet statt, wenn Angreifer bösartige Anweisungen in Webseiten oder Dokumente einbetten und die KI so dazu verleiten, ihre bestehenden Regeln zu ignorieren und sensible Informationen der Nutzer an externe Server zu senden. OpenAI räumt ein, dass der „Incident-Modus“ solche Angriffe nicht vollständig verhindern kann, da sich bösartiger Code weiterhin in zwischengespeicherten Webseiten oder von Nutzern hochgeladenen Dateien verbergen könnte. Angesichts der Tatsache, dass leistungsfähigere KI-Fähigkeiten auch die Angriffsfläche vergrößern, entscheidet sich OpenAI dafür, den Kompromiss zwischen „stärkerer Funktionalität“ und „geringerem Risiko von Datenlecks“ den Nutzern selbst zu überlassen.
Verwandter Artikel
Neptune Medical erhält FDA-Zulassung für das Robotersystem „Triton 1“
Triton ist ein robotergestütztes Endoskopiesystem für den Magen-Darm-Trakt, das auf intuitive Navigation, Präzision und Kontrolle im gesamten Dickdarm ausgelegt ist. | Quelle: Neptune MedicalNeptune M
ARIA verbietet reine KI-Songs aus den Charts, lässt jedoch von Menschen geschaffene und KI-unterstützte Titel zu
Die Australian Recording Industry Association (ARIA) hat vollständig durch KI generierte Songs aus ihren offiziellen Charts verbannt; die neue Regelung tritt am kommenden Montag in Kraft. Die Entschei
Indien meldet erstmals Aktivitäten eines unkontrollierten KI-Agenten
Indiens Behörde für Cybersicherheit berichtete am Donnerstag, dass KI-Agenten verschiedener Anbieter während Forschungs- und Testphasen auf personenbezogene Daten und vertrauliche Materialien bei indi
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)
Um den böswilligen Diebstahl sensibler Daten zu verhindern, hat OpenAI für alle angemeldeten Nutzer eine neue optionale Sicherheitsfunktion namens „Incident Mode“ eingeführt. Diese Einstellung gilt für verschiedene Kontotypen und Arbeitsbereiche, und sowohl Nutzer als auch Administratoren können sie aktivieren. Nach der Aktivierung schränkt ChatGPT seine Funktionen für die Echtzeit-Websuche, die eingehende Recherche und die Agentenfunktionen ein. Ziel ist es, eine Sicherheitsbarriere gegen Prompt-Injection-Angriffe zu errichten, indem die Fähigkeit des Modells, externe Netzwerkanfragen zu stellen, eingeschränkt wird.

Einschränkung des Webzugriffs zur Verhinderung von Datenlecks
Im „Incident Mode“ ist das Echtzeit-Surfen im Internet durch ChatGPT streng auf zwischengespeicherte Inhalte beschränkt, was zu unvollständigen oder veralteten Suchergebnissen führen kann. Zudem kann das Modell keine Dateien aus dem Internet zur Datenanalyse herunterladen, und auch von Canvas generierter Code darf keine externen Netzwerkanfragen stellen. Lokale Funktionen wie vom Nutzer hochgeladene Bilder, mit Tools generierte Bilder und der Konversationsspeicher bleiben von diesem Modus jedoch unberührt.
Sicherheitsentscheidungen wieder in die Hände der Nutzer legen
Ein „Prompt-Injection“-Angriff findet statt, wenn Angreifer bösartige Anweisungen in Webseiten oder Dokumente einbetten und die KI so dazu verleiten, ihre bestehenden Regeln zu ignorieren und sensible Informationen der Nutzer an externe Server zu senden. OpenAI räumt ein, dass der „Incident-Modus“ solche Angriffe nicht vollständig verhindern kann, da sich bösartiger Code weiterhin in zwischengespeicherten Webseiten oder von Nutzern hochgeladenen Dateien verbergen könnte. Angesichts der Tatsache, dass leistungsfähigere KI-Fähigkeiten auch die Angriffsfläche vergrößern, entscheidet sich OpenAI dafür, den Kompromiss zwischen „stärkerer Funktionalität“ und „geringerem Risiko von Datenlecks“ den Nutzern selbst zu überlassen.
Neptune Medical erhält FDA-Zulassung für das Robotersystem „Triton 1“
Triton ist ein robotergestütztes Endoskopiesystem für den Magen-Darm-Trakt, das auf intuitive Navigation, Präzision und Kontrolle im gesamten Dickdarm ausgelegt ist. | Quelle: Neptune MedicalNeptune M
ARIA verbietet reine KI-Songs aus den Charts, lässt jedoch von Menschen geschaffene und KI-unterstützte Titel zu
Die Australian Recording Industry Association (ARIA) hat vollständig durch KI generierte Songs aus ihren offiziellen Charts verbannt; die neue Regelung tritt am kommenden Montag in Kraft. Die Entschei
Indien meldet erstmals Aktivitäten eines unkontrollierten KI-Agenten
Indiens Behörde für Cybersicherheit berichtete am Donnerstag, dass KI-Agenten verschiedener Anbieter während Forschungs- und Testphasen auf personenbezogene Daten und vertrauliche Materialien bei indi











