Heim
Team der Shanghai Jiao Tong University veröffentlicht den SWE-Explore-Benchmark und deckt Schwachstellen bei der Lokalisierung auf Zeilenebene in KI-Codierungsagenten auf
Ein internationales Forschungsteam, zu dem auch die Shanghai Jiao Tong University gehört, hat heute SWE-Explore vorgestellt, ein neues Benchmark-Testtool. Es deckt quantitative technische Defizite aktueller KI-Codierungsagenten auf der Ebene der „Zeilen-Genauigkeit“ auf, indem es die Codesuche von der eigentlichen Reparaturphase entkoppelt. Diese Studie geht über das bisherige Einzelbewertungsmodell hinaus, das sich ausschließlich auf die „endgültige Reparaturrate“ stützte, und bietet einen neuen Standard zur direkten Messung der Qualität der vorgelagerten Suche in Agenten. Damit treibt sie die Weiterentwicklung der Bewertung im Bereich der KI-Softwareentwicklung in tiefgreifendere Bereiche voran.
Herkömmliche Benchmarks wie SWE-bench verschleiern oft die tatsächlichen Mängel der Agenten in den Phasen des Code-Lesens und -Verstehens, da sie sich ausschließlich auf End-to-End-Ergebnisse konzentrieren. Um diesem Problem zu begegnen, extrahierte das Forschungsteam Konsens-Code-Segmente aus mehreren unabhängigen Lösungspfaden auf der Grundlage der erfolgreichen Betriebsverläufe gängiger großer Modelle wie GPT-5.4, Gemini3Pro, Claude Sonnet4.6 und Kimi K2.6 extrahierte das Forschungsteam Konsens-Code-Segmente aus mehreren unabhängigen Lösungswegen und erstellte einen Datensatz mit 848 Fehleraufgaben in 10 Programmiersprachen und 203 Open-Source-Projekten.

Die Auswertungsergebnisse zeigen, dass allgemeine Programmieragenten wie Claude Code und OpenHands zwar bei der Positionierung auf „Dateiebene“ gute Leistungen erbringen, ihre Abdeckung der Kernbereiche jedoch stark auf 14 % bis 19 % abfällt, wenn der Fokus auf bestimmte „Codezeilen“ gelegt wird. Ablationsexperimente bestätigten zudem den Effekt der „minimalen Kontextschwelle“: Liegt der sichtbare Anteil der zentralen Kernbereiche unter 50 %, schlägt die Fehlerbehebung des Modells in der Regel fehl; sobald jedoch die Schwelle von 50 % bis 75 % überschritten wird, steigt die Erfolgsquote der Fehlerbehebung dramatisch an.
Dieses Forschungsergebnis deutet darauf hin, dass der derzeitige Engpass für KI-Agenten nicht ausschließlich in der Fähigkeit zum Schreiben von Patches liegt, sondern vielmehr im präzisen Filtern und Erfassen kritischer Kontexte. Im aktuellen Branchenkontext, in dem Projektmanager die Hälfte der Vorschläge zur automatisierten Einführung ablehnen, zeigt die von SWE-Explore vorgeschlagene technische Ausrichtung „weniger filtern, mehr lesen“ nicht nur den Weg für die Architekturoptimierung spezialisierter Code-Lokalisierungssysteme der nächsten Generation (wie CoSIL), sondern beschleunigt auch den Paradigmenwechsel im automatisierten Software-Engineering von der „Brute-Force-Generierung“ hin zum „präzisen Abruf“.
Verwandter Artikel
DeepMind-CEO Hassabis: Ich schlafe sechs Stunden pro Tag und fühle mich normalerweise gegen 1 Uhr nachts energiegeladen.
Fortune hat kürzlich ein Interview mit Demis Hassabis, dem CEO von Google DeepMind, veröffentlicht, das seinen unkonventionellen Ansatz zu Erholung und Produktivität offenbart. Hassabis gab bekannt, dass er sehr wenig schläft und seine wachen Stunden
OpenAI und Anthropic kämpfen trotz Umsatzrückgängen um Marktanteile
Obwohl jüngste Berichte darauf hindeuten, dass OpenAI seine Umsatzziele verfehlt hat, was an diesem Dienstag Druck auf die Technologieaktien ausübte, zeigen sich private Investoren in KI-Labore weiter
Einhaltung der Vorschriften für autonome Fahrzeuge in Kalifornien: Eine neue Ära von Bußgeldern, Geofences und 1 Million Meilen
Guident betreibt einen AuveTech-Shuttle in Südflorida und verwaltet mithilfe seiner Fernüberwachungstechnologie eine vier Meilen lange Strecke in West Palm Beach sowie eine eine Meile lange Strecke in
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)
Ein internationales Forschungsteam, zu dem auch die Shanghai Jiao Tong University gehört, hat heute SWE-Explore vorgestellt, ein neues Benchmark-Testtool. Es deckt quantitative technische Defizite aktueller KI-Codierungsagenten auf der Ebene der „Zeilen-Genauigkeit“ auf, indem es die Codesuche von der eigentlichen Reparaturphase entkoppelt. Diese Studie geht über das bisherige Einzelbewertungsmodell hinaus, das sich ausschließlich auf die „endgültige Reparaturrate“ stützte, und bietet einen neuen Standard zur direkten Messung der Qualität der vorgelagerten Suche in Agenten. Damit treibt sie die Weiterentwicklung der Bewertung im Bereich der KI-Softwareentwicklung in tiefgreifendere Bereiche voran.
Herkömmliche Benchmarks wie SWE-bench verschleiern oft die tatsächlichen Mängel der Agenten in den Phasen des Code-Lesens und -Verstehens, da sie sich ausschließlich auf End-to-End-Ergebnisse konzentrieren. Um diesem Problem zu begegnen, extrahierte das Forschungsteam Konsens-Code-Segmente aus mehreren unabhängigen Lösungspfaden auf der Grundlage der erfolgreichen Betriebsverläufe gängiger großer Modelle wie GPT-5.4, Gemini3Pro, Claude Sonnet4.6 und Kimi K2.6 extrahierte das Forschungsteam Konsens-Code-Segmente aus mehreren unabhängigen Lösungswegen und erstellte einen Datensatz mit 848 Fehleraufgaben in 10 Programmiersprachen und 203 Open-Source-Projekten.

Die Auswertungsergebnisse zeigen, dass allgemeine Programmieragenten wie Claude Code und OpenHands zwar bei der Positionierung auf „Dateiebene“ gute Leistungen erbringen, ihre Abdeckung der Kernbereiche jedoch stark auf 14 % bis 19 % abfällt, wenn der Fokus auf bestimmte „Codezeilen“ gelegt wird. Ablationsexperimente bestätigten zudem den Effekt der „minimalen Kontextschwelle“: Liegt der sichtbare Anteil der zentralen Kernbereiche unter 50 %, schlägt die Fehlerbehebung des Modells in der Regel fehl; sobald jedoch die Schwelle von 50 % bis 75 % überschritten wird, steigt die Erfolgsquote der Fehlerbehebung dramatisch an.
Dieses Forschungsergebnis deutet darauf hin, dass der derzeitige Engpass für KI-Agenten nicht ausschließlich in der Fähigkeit zum Schreiben von Patches liegt, sondern vielmehr im präzisen Filtern und Erfassen kritischer Kontexte. Im aktuellen Branchenkontext, in dem Projektmanager die Hälfte der Vorschläge zur automatisierten Einführung ablehnen, zeigt die von SWE-Explore vorgeschlagene technische Ausrichtung „weniger filtern, mehr lesen“ nicht nur den Weg für die Architekturoptimierung spezialisierter Code-Lokalisierungssysteme der nächsten Generation (wie CoSIL), sondern beschleunigt auch den Paradigmenwechsel im automatisierten Software-Engineering von der „Brute-Force-Generierung“ hin zum „präzisen Abruf“.
DeepMind-CEO Hassabis: Ich schlafe sechs Stunden pro Tag und fühle mich normalerweise gegen 1 Uhr nachts energiegeladen.
Fortune hat kürzlich ein Interview mit Demis Hassabis, dem CEO von Google DeepMind, veröffentlicht, das seinen unkonventionellen Ansatz zu Erholung und Produktivität offenbart. Hassabis gab bekannt, dass er sehr wenig schläft und seine wachen Stunden
OpenAI und Anthropic kämpfen trotz Umsatzrückgängen um Marktanteile
Obwohl jüngste Berichte darauf hindeuten, dass OpenAI seine Umsatzziele verfehlt hat, was an diesem Dienstag Druck auf die Technologieaktien ausübte, zeigen sich private Investoren in KI-Labore weiter











