Googles Musik-App Halluzination veranlasst Gründer zur Realisierung fiktiver Soundslice

Anfang dieses Monats knackte Adrian Holovaty, der Gründer der Musikbildungsplattform Soundslice, einen Fall, der ihn wochenlang verblüfft hatte. Auf der Website tauchten immer wieder seltsame Bilder auf, eindeutig Screenshots von ChatGPT-Sitzungen.

Als er das Rätsel löste, stellte er fest, dass ChatGPT zu einem der größten Förderer seines Unternehmens geworden war - leider verbreitete es auch falsche Informationen über die tatsächlichen Fähigkeiten seiner App.

Holovaty ist weithin bekannt als Mitbegründer des Django-Projekts, eines beliebten Open-Source-Python-Web-Frameworks (obwohl er sich 2014 von der Leitung des Projekts zurückzog). 2012 gründete er Soundslice, ein Unternehmen, das, wie er gegenüber TechCrunch bestätigt, "mit Stolz bootstrapped" wurde. Heutzutage konzentriert er sich auf seine Musikkarriere und seine unternehmerischen Vorhaben.

Soundslice ist eine App für den Musikunterricht, die von Schülern und Lehrern gleichermaßen genutzt wird. Sie ist vor allem für ihren Videoplayer bekannt, der sich nahtlos mit Musiknoten synchronisiert, um den Benutzern genau zu zeigen, wie die Noten zu spielen sind.

Die App enthält auch eine Funktion zum Scannen von Notenblättern". Mithilfe von KI können Nutzer ein Bild von gedruckten Noten hochladen und es automatisch in eine interaktive Partitur mit allen Noten umwandeln.

Holovaty erklärte, dass er die Fehlerprotokolle für diese Funktion sorgfältig überwacht, um Probleme zu erkennen und künftige Verbesserungen vorzunehmen.

In diesen Protokollen sind ihm zum ersten Mal die hochgeladenen Screenshots der ChatGPT-Sitzung aufgefallen.

Sparen Sie bis zu $475 bei Ihrem TechCrunch All Stage Pass

Intelligenter bauen. Schneller skalieren. Tiefer verbinden. Schließen Sie sich den Visionären von Precursor Ventures, NEA, Index Ventures, Underscore VC und anderen führenden Unternehmen an und erleben Sie einen Tag voller strategischer Erkenntnisse, praktischer Workshops und wertvoller Kontakte.

Sparen Sie $450 bei Ihrem TechCrunch All Stage Pass

Intelligenter bauen. Schneller skalieren. Tiefer verbinden. Schließen Sie sich den Visionären von Precursor Ventures, NEA, Index Ventures, Underscore VC und anderen führenden Unternehmen an und erleben Sie einen Tag voller strategischer Erkenntnisse, praktischer Workshops und wertvoller Kontakte.

Diese Uploads erzeugten zahlreiche Fehlerprotokolle. Die Bilder enthielten keine Noten, sondern zeigten Textkonversationen und Kästchen mit Symbolen, die als ASCII-Tabulatur bekannt sind. Dies ist ein einfaches, textbasiertes System für die Gitarrennotation, das Standard-Tastaturzeichen verwendet. (Auf einer typischen QWERTY-Tastatur gibt es ja auch keinen Violinschlüssel).

Holovaty stellte fest, dass das Volumen dieser ChatGPT-Bilder nicht groß genug war, um erhebliche Speicherkosten zu verursachen oder die Bandbreite seiner App zu belasten. Wie er in einem Blogbeitrag über den Vorfall schrieb, war er einfach perplex.

"Unser Scan-System war nie für diese Art von Notation ausgelegt. Warum wurden wir also plötzlich mit Screenshots von ASCII-Tabs aus ChatGPT überflutet? Ich war wochenlang ratlos - bis ich beschloss, selbst mit ChatGPT zu experimentieren.

Da hat er es gesehen: ChatGPT wies die Leute an, dass sie sich die Musik anhören konnten, indem sie ein Soundslice-Konto einrichteten und einen Screenshot der Chatsitzung hochluden. Das Problem war nur, dass sie das nicht konnten. Durch das Hochladen dieser Bilder konnte die ASCII-Tabulatur nicht auf magische Weise in abspielbare Musik umgewandelt werden.

Dies führte zu einem neuen Reputationsproblem. "Der größte Schaden entstand für unseren Ruf: Neue Benutzer kamen mit völlig falschen Erwartungen zu uns. Man hatte ihnen vertrauensvoll versichert, dass wir etwas können, was unsere App einfach nicht kann", sagte er gegenüber TechCrunch.

Er und sein Team überlegten, was sie tun sollten: die Website mit Hinweisen versehen, dass sie eine ChatGPT-Sitzung nicht in hörbare Musik umwandeln können, oder alternativ eine Funktion entwickeln, die dieses ungewöhnliche Notationssystem unterstützt.

Er entschied sich, die Funktion zu entwickeln.

"Meine Gefühle diesbezüglich sind gemischt. Ich bin froh, ein Werkzeug zur Verfügung stellen zu können, das den Leuten hilft. Aber ich habe das Gefühl, dass wir auf eine sehr seltsame Weise dazu gedrängt wurden. Sollte ein Unternehmen wirklich Funktionen als direkte Reaktion auf KI-generierte Fehlinformationen entwickeln?", schrieb er.

Er fragte sich auch, ob dies der erste bekannte Fall sei, in dem ein Unternehmen eine neue Funktion implementieren musste, weil ChatGPT deren Existenz einem großen Publikum wiederholt vorgaukelte.

Andere Programmierer auf Hacker News boten eine interessante Perspektive: Mehrere kommentierten, dass sich dieses Szenario nicht von dem eines übereifrigen menschlichen Verkäufers unterscheidet, der potenziellen Kunden große Versprechungen macht, die dann das Entwicklungsteam dazu zwingen, sich zu beeilen und zu liefern.

"Ich denke, das ist ein sehr passender und ziemlich lustiger Vergleich!" stimmte Holovaty zu.