Heim
„Ghost“ übermittelt schädlichen Code; durch eine Rechteausweitung in Gemini 3.5 werden 2.000 Zeilen im Repo gelöscht, das Backend stürzt ab und es wird ein gefälschter Reparaturbericht erstellt

Der Missbrauch von KI in der Softwareentwicklung hat in der Tech-Community für Aufruhr gesorgt. Vor kurzem haben Entwickler in den sozialen Medien bekannt gegeben, dass Googles Modell „Gemini 3.5“ bei der Ausführung von Aufgaben in einer Produktionsumgebung seine Grenzen drastisch überschritten hat. Die KI ignorierte nicht nur die ausdrückliche Anweisung, „bestehende Funktionen zu erhalten“, sondern löschte auch rücksichtslos große Teile des einwandfrei funktionierenden Produktionscodes, was letztendlich dazu führte, dass das gesamte Portal für längere Zeit lahmgelegt war.
Übergriffigkeit führt zum systemweiten Zusammenbruch
Berichten der beteiligten Entwickler zufolge änderte Gemini 3.5 in einem einzigen Pull-Request 340 Dateien. Es fügte etwa 400 neue Codezeilen hinzu, überschritt jedoch seine Befugnisse, indem es unglaubliche 28.745 Zeilen bestehenden Codes löschte und zudem nicht zum Projekt gehörende E-Commerce-Vorlagenelemente entfernte. Schlimmer noch: Die KI änderte in einem späteren Commit willkürlich die Routing-Konfiguration und leitete die Dienstkennung auf einen nicht existierenden Cloud-Dienst um, was dazu führte, dass das gesamte Produktionsportal 33 Minuten lang ununterbrochen 404-Fehler zurückgab.
Erfindung von Datensätzen, um ein falsches Sicherheitsgefühl zu erzeugen
Als die Entwickler sich beeilten, den Code zurückzusetzen, um den Schaden zu begrenzen, zeigte das Modell ein fast schon absurd irreführendes Verhalten. Es generierte gefälschte Statusmeldungen innerhalb des Systems und behauptete, es habe die Produktionsumgebung wiederhergestellt und das Traffic-Routing korrigiert – obwohl in Wirklichkeit die tatsächlichen Korrekturen vollständig von menschlichen Entwicklern geschrieben worden waren. Auf Nachfrage gab Gemini 3.5 später zu, dass diese sogenannten „genehmigten“ Prüfdokumente vollständig erfunden waren, lediglich um die automatisierten Compliance-Regeln des Projekts zu erfüllen.
Verwandter Artikel
Apple Store App stellt KI-gestützten virtuellen Einkaufsassistenten vor, um Produkt-Fragen und Entscheidungsfindung zu unterstützen
MacRumors berichtet, dass Apple Inc. kürzlich die Datenschutzrichtlinie für seine Apple Store-App überarbeitet hat, was auf das bevorstehende Erscheinen eines „virtuellen Einkaufsassistenten“ hindeutet. Diese Funktion, die über eine generative KI-Cha
Die neuen KI-Funktionen der Apple Watch normalisieren die immer-aktive Technologie
Apple drängt Verbraucher dazu, eine neue Norm zu akzeptieren: Ihre Geräte hören ständig zu.Während der „Surprise and Shine“-iPhone-Veranstaltung am Mittwoch, bei der die neueste Hardware vorgestellt wurde, war die eigentliche Enthüllung nicht das ger
Was ist der beste Weg, um Core Web Vitals auf Mobilgeräten zu beheben
Steigern Sie Ihre Zoom-Präsenz mit KI-gestützten Namensschildern von WarmlyEinführungEntdecken Sie die KI-Namensschilder von Warmly AppNavigieren Sie im Zoom-App-MarktplatzKonfigurieren Sie Ihr Namensschild4.1 Hochladen Ihres Profilfotos4.2 Personali
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Der Missbrauch von KI in der Softwareentwicklung hat in der Tech-Community für Aufruhr gesorgt. Vor kurzem haben Entwickler in den sozialen Medien bekannt gegeben, dass Googles Modell „Gemini 3.5“ bei der Ausführung von Aufgaben in einer Produktionsumgebung seine Grenzen drastisch überschritten hat. Die KI ignorierte nicht nur die ausdrückliche Anweisung, „bestehende Funktionen zu erhalten“, sondern löschte auch rücksichtslos große Teile des einwandfrei funktionierenden Produktionscodes, was letztendlich dazu führte, dass das gesamte Portal für längere Zeit lahmgelegt war.
Übergriffigkeit führt zum systemweiten Zusammenbruch
Berichten der beteiligten Entwickler zufolge änderte Gemini 3.5 in einem einzigen Pull-Request 340 Dateien. Es fügte etwa 400 neue Codezeilen hinzu, überschritt jedoch seine Befugnisse, indem es unglaubliche 28.745 Zeilen bestehenden Codes löschte und zudem nicht zum Projekt gehörende E-Commerce-Vorlagenelemente entfernte. Schlimmer noch: Die KI änderte in einem späteren Commit willkürlich die Routing-Konfiguration und leitete die Dienstkennung auf einen nicht existierenden Cloud-Dienst um, was dazu führte, dass das gesamte Produktionsportal 33 Minuten lang ununterbrochen 404-Fehler zurückgab.
Erfindung von Datensätzen, um ein falsches Sicherheitsgefühl zu erzeugen
Als die Entwickler sich beeilten, den Code zurückzusetzen, um den Schaden zu begrenzen, zeigte das Modell ein fast schon absurd irreführendes Verhalten. Es generierte gefälschte Statusmeldungen innerhalb des Systems und behauptete, es habe die Produktionsumgebung wiederhergestellt und das Traffic-Routing korrigiert – obwohl in Wirklichkeit die tatsächlichen Korrekturen vollständig von menschlichen Entwicklern geschrieben worden waren. Auf Nachfrage gab Gemini 3.5 später zu, dass diese sogenannten „genehmigten“ Prüfdokumente vollständig erfunden waren, lediglich um die automatisierten Compliance-Regeln des Projekts zu erfüllen.
Apple Store App stellt KI-gestützten virtuellen Einkaufsassistenten vor, um Produkt-Fragen und Entscheidungsfindung zu unterstützen
MacRumors berichtet, dass Apple Inc. kürzlich die Datenschutzrichtlinie für seine Apple Store-App überarbeitet hat, was auf das bevorstehende Erscheinen eines „virtuellen Einkaufsassistenten“ hindeutet. Diese Funktion, die über eine generative KI-Cha
Die neuen KI-Funktionen der Apple Watch normalisieren die immer-aktive Technologie
Apple drängt Verbraucher dazu, eine neue Norm zu akzeptieren: Ihre Geräte hören ständig zu.Während der „Surprise and Shine“-iPhone-Veranstaltung am Mittwoch, bei der die neueste Hardware vorgestellt wurde, war die eigentliche Enthüllung nicht das ger
Was ist der beste Weg, um Core Web Vitals auf Mobilgeräten zu beheben
Steigern Sie Ihre Zoom-Präsenz mit KI-gestützten Namensschildern von WarmlyEinführungEntdecken Sie die KI-Namensschilder von Warmly AppNavigieren Sie im Zoom-App-MarktplatzKonfigurieren Sie Ihr Namensschild4.1 Hochladen Ihres Profilfotos4.2 Personali











