Meta behebt einen Fehler, der die KI-Daten von Nutzern offenlegte

Meta hat eine Sicherheitslücke behoben, die es den Nutzern seines KI-Chatbots ermöglichte, auf die privaten Eingabeaufforderungen und generierten Antworten anderer Nutzer zuzugreifen und diese einzusehen.
Sandeep Hodkasia, Gründer des Sicherheitstestunternehmens AppSecure, teilte TechCrunch exklusiv mit, dass Meta ihm ein Kopfgeld in Höhe von 10.000 US-Dollar für die private Meldung der Schwachstelle zugesprochen hat, die er am 26. Dezember 2024 gemeldet hat.
Laut Hodkasia hat Meta am 24. Januar 2025 einen Fix implementiert und keinen Hinweis darauf gefunden, dass die Schwachstelle böswillig ausgenutzt wurde.
Hodkasia erklärte gegenüber TechCrunch, dass er den Fehler entdeckte, als er untersuchte, wie Meta AI angemeldete Benutzer ihre Eingabeaufforderungen bearbeiten lässt, um Text und Bilder neu zu generieren. Ihm fiel auf, dass die Backend-Server von Meta, wenn ein Benutzer eine Eingabeaufforderung bearbeitet, dieser und der von der KI generierten Antwort eine eindeutige numerische Kennung zuweisen. Indem er den Netzwerkverkehr seines Browsers während einer Bearbeitung überwachte, stellte Hodkasia fest, dass er diese Kennung ändern konnte, so dass die Server die Eingabeaufforderung und die Antwort eines völlig anderen Benutzers zurückgaben.
Dieser Fehler bedeutete, dass die Server von Meta nicht ordnungsgemäß überprüfen konnten, ob ein Benutzer berechtigt war, eine bestimmte Eingabeaufforderung und deren Antwort anzuzeigen. Hodkasia erklärte, dass die von den Meta-Servern generierten Prompt-Identifikatoren "leicht zu erraten" waren, was es einem böswilligen Akteur ermöglicht hätte, die Original-Prompts der Benutzer durch schnelles Durchgehen der Nummern mit automatisierten Tools abzugreifen.
Auf Nachfrage von TechCrunch bestätigte Meta, dass der Fehler im Januar behoben wurde. "Wir haben keine Beweise für einen Missbrauch gefunden und den Forscher belohnt", sagte Meta-Sprecher Ryan Daniels.
Dieses Sicherheitsproblem tritt in einer Zeit auf, in der große Technologieunternehmen ihre KI-Produkte auf den Markt bringen und verbessern, von denen viele erhebliche Sicherheits- und Datenschutzrisiken bergen.
Die eigenständige App von Meta AI, die Anfang des Jahres eingeführt wurde, um mit Konkurrenten wie ChatGPT zu konkurrieren, hatte einen holprigen Start, nachdem einige Nutzer versehentlich Unterhaltungen geteilt hatten, die sie für privat hielten.
Techcrunch-VeranstaltungJETZT LIVE! TechCrunch Alle Bühne
Intelligenter bauen. Schneller skalieren. Tiefer verbinden. Kommen Sie mit Visionären von Precursor Ventures, NEA, Index Ventures, Underscore VC und anderen zu einem Tag voller Strategien, Workshops und sinnvoller Kontakte.
Sparen Sie $450 bei Ihrem TechCrunch All Stage Pass
Intelligenter bauen. Schneller skalieren. Tiefer verbinden. Schließen Sie sich Visionären von Precursor Ventures, NEA, Index Ventures, Underscore VC und anderen für einen Tag voller Strategien, Workshops und sinnvoller Verbindungen an.
Boston, MA | 15. Juli JETZT ANMELDEN
Verwandter Artikel
Frontier AI Labs weigert sich, Eindämmungsstrategien für außer Kontrolle geratene Modelle offenzulegen
Jüngste Untersuchungen zeigen, dass nur sehr wenige führende KI-Forschungslabore Maßnahmenpläne zur Eindämmung veröffentlicht oder vorgeführt haben. Ein solcher Eindämmungsplan legt die Vorgehensweise
Glaubt Mark Zuckerberg wirklich, dass KI für alle ist?
Lädt den Player…Meta hat diese Woche Glimmer vorgestellt, ein Open-Weight-KI-Modell, das jeder herunterladen und auf persönlicher Hardware ausführen kann – ein scharfer Kontrast zu Muse Spark, dem leistungsfähigeren Modell des Unternehmens, das weit
Facebook bringt eine KI-Begleit-App für Creator auf den Markt
Facebook gab am Mittwoch bekannt, dass es sein „Creator Studio“ in eine eigenständige KI-Begleit-App umwandelt, die es Content-Erstellern ermöglicht, ihre Reichweite auf der Plattform zu vergrößern.Mi
Empfehlungen zu verwandten Spezialthemen
Kommentare (1)
Krass, die Bug hatte ja richtig Potenzial für Drama 😅 Einerseits beeindruckend, wie schnell Meta das behoben hat, andererseits fragt man sich doch: Ist das nur die Spitze des Eisbergs? In jeder KI-Assistenten-Funktion stecken solche Datenschnittstellen versteckt. Das Problem ist ja nicht der Einzelfall, sondern dass immer wieder solche Lecks auftauchen. Als Nutzer bekommt man da langsam ein mulmiges Gefühl... Wäre vielleicht cool, wenn es transparente Protokolle gäbe, an denen unabhängige Sicherheitsforscher dauerhaft mitwirken könnten. So nach dem Motto: Vertrauen ist gut, Kontrolle ist besser 💡

Meta hat eine Sicherheitslücke behoben, die es den Nutzern seines KI-Chatbots ermöglichte, auf die privaten Eingabeaufforderungen und generierten Antworten anderer Nutzer zuzugreifen und diese einzusehen.
Sandeep Hodkasia, Gründer des Sicherheitstestunternehmens AppSecure, teilte TechCrunch exklusiv mit, dass Meta ihm ein Kopfgeld in Höhe von 10.000 US-Dollar für die private Meldung der Schwachstelle zugesprochen hat, die er am 26. Dezember 2024 gemeldet hat.
Laut Hodkasia hat Meta am 24. Januar 2025 einen Fix implementiert und keinen Hinweis darauf gefunden, dass die Schwachstelle böswillig ausgenutzt wurde.
Hodkasia erklärte gegenüber TechCrunch, dass er den Fehler entdeckte, als er untersuchte, wie Meta AI angemeldete Benutzer ihre Eingabeaufforderungen bearbeiten lässt, um Text und Bilder neu zu generieren. Ihm fiel auf, dass die Backend-Server von Meta, wenn ein Benutzer eine Eingabeaufforderung bearbeitet, dieser und der von der KI generierten Antwort eine eindeutige numerische Kennung zuweisen. Indem er den Netzwerkverkehr seines Browsers während einer Bearbeitung überwachte, stellte Hodkasia fest, dass er diese Kennung ändern konnte, so dass die Server die Eingabeaufforderung und die Antwort eines völlig anderen Benutzers zurückgaben.
Dieser Fehler bedeutete, dass die Server von Meta nicht ordnungsgemäß überprüfen konnten, ob ein Benutzer berechtigt war, eine bestimmte Eingabeaufforderung und deren Antwort anzuzeigen. Hodkasia erklärte, dass die von den Meta-Servern generierten Prompt-Identifikatoren "leicht zu erraten" waren, was es einem böswilligen Akteur ermöglicht hätte, die Original-Prompts der Benutzer durch schnelles Durchgehen der Nummern mit automatisierten Tools abzugreifen.
Auf Nachfrage von TechCrunch bestätigte Meta, dass der Fehler im Januar behoben wurde. "Wir haben keine Beweise für einen Missbrauch gefunden und den Forscher belohnt", sagte Meta-Sprecher Ryan Daniels.
Dieses Sicherheitsproblem tritt in einer Zeit auf, in der große Technologieunternehmen ihre KI-Produkte auf den Markt bringen und verbessern, von denen viele erhebliche Sicherheits- und Datenschutzrisiken bergen.
Die eigenständige App von Meta AI, die Anfang des Jahres eingeführt wurde, um mit Konkurrenten wie ChatGPT zu konkurrieren, hatte einen holprigen Start, nachdem einige Nutzer versehentlich Unterhaltungen geteilt hatten, die sie für privat hielten.
Techcrunch-VeranstaltungJETZT LIVE! TechCrunch Alle Bühne
Intelligenter bauen. Schneller skalieren. Tiefer verbinden. Kommen Sie mit Visionären von Precursor Ventures, NEA, Index Ventures, Underscore VC und anderen zu einem Tag voller Strategien, Workshops und sinnvoller Kontakte.
Sparen Sie $450 bei Ihrem TechCrunch All Stage Pass
Intelligenter bauen. Schneller skalieren. Tiefer verbinden. Schließen Sie sich Visionären von Precursor Ventures, NEA, Index Ventures, Underscore VC und anderen für einen Tag voller Strategien, Workshops und sinnvoller Verbindungen an.
Boston, MA | 15. Juli JETZT ANMELDEN
Frontier AI Labs weigert sich, Eindämmungsstrategien für außer Kontrolle geratene Modelle offenzulegen
Jüngste Untersuchungen zeigen, dass nur sehr wenige führende KI-Forschungslabore Maßnahmenpläne zur Eindämmung veröffentlicht oder vorgeführt haben. Ein solcher Eindämmungsplan legt die Vorgehensweise
Glaubt Mark Zuckerberg wirklich, dass KI für alle ist?
Lädt den Player…Meta hat diese Woche Glimmer vorgestellt, ein Open-Weight-KI-Modell, das jeder herunterladen und auf persönlicher Hardware ausführen kann – ein scharfer Kontrast zu Muse Spark, dem leistungsfähigeren Modell des Unternehmens, das weit
Facebook bringt eine KI-Begleit-App für Creator auf den Markt
Facebook gab am Mittwoch bekannt, dass es sein „Creator Studio“ in eine eigenständige KI-Begleit-App umwandelt, die es Content-Erstellern ermöglicht, ihre Reichweite auf der Plattform zu vergrößern.Mi
Krass, die Bug hatte ja richtig Potenzial für Drama 😅 Einerseits beeindruckend, wie schnell Meta das behoben hat, andererseits fragt man sich doch: Ist das nur die Spitze des Eisbergs? In jeder KI-Assistenten-Funktion stecken solche Datenschnittstellen versteckt. Das Problem ist ja nicht der Einzelfall, sondern dass immer wieder solche Lecks auftauchen. Als Nutzer bekommt man da langsam ein mulmiges Gefühl... Wäre vielleicht cool, wenn es transparente Protokolle gäbe, an denen unabhängige Sicherheitsforscher dauerhaft mitwirken könnten. So nach dem Motto: Vertrauen ist gut, Kontrolle ist besser 💡





Heim






