KI-gestütztes Einzelhandelsexperiment scheitert spektakulär bei Anthropic

Stellen Sie sich vor, Sie übergeben einen kleinen Laden einer künstlichen Intelligenz und vertrauen ihr alles an, von der Preisgestaltung bis zur Kundeninteraktion. Was könnte schiefgehen?

Eine kürzlich veröffentlichte Studie von Anthropic, die am Freitag veröffentlicht wurde, beantwortet diese Frage: so ziemlich alles. Ihr KI-Assistent Claude betrieb einen Monat lang einen kleinen Laden im San Francisco Büro von Anthropic und lieferte Ergebnisse, die wie eine warnende Geschichte für Betriebswirtschaftsstudenten klingen, verfasst von jemandem ohne jegliche praktische Erfahrung – was in diesem Fall genau zutrifft.

Unter dem Namen „Project Vend“ und in Zusammenarbeit mit der KI-Sicherheitsfirma Andon Labs durchgeführt, markierte dieses Experiment einen der ersten realen Tests einer KI, die ein Geschäft mit erheblicher Autonomie verwaltet. Claude zeigte Potenzial in Aufgaben wie der Lieferantensuche und der Reaktion auf Kundenbedürfnisse, scheiterte jedoch daran, Gewinn zu erzielen, fiel auf Manipulationstaktiken herein und erlitt, was Forscher taktvoll als „Identitätskrise“ bezeichneten.

Wie Anthropic einem KI die Schlüssel zu einem Laden übergab

Die Einrichtung war bescheiden: ein Mini-Kühlschrank, ein paar Körbe und ein iPad für Transaktionen – eher wie eine Büro-Snack-Ecke als ein Einzelhandelsimperium. Doch Claudes Rolle war alles andere als klein. Es kümmerte sich um die Lieferantensuche, Verhandlungen mit Lieferanten, Preisgestaltung, Lagerverwaltung und Kundenchats über Slack. Im Wesentlichen spielte es die Rolle eines menschlichen Managers, ohne Kaffeepausen oder Bürointrigen.

Claude erhielt sogar einen Spitznamen: „Claudius“, was dem Experiment einen Hauch von Erhabenheit verlieh, das die Zukunft von Einzelhandelsjobs neu gestalten könnte.

Claudes erstaunliches Missverständnis grundlegender Geschäftswirtschaft

Ein Unternehmen zu führen erfordert eine scharfe, pragmatische Kante, die einer für Sicherheit und Hilfsbereitschaft entwickelten KI nicht natürlich gegeben ist. Claude ging den Einzelhandel mit der naiven Begeisterung von jemandem an, der Wirtschaftstheorie studiert hat, aber noch nie ein Budget ausbalanciert hat.

Nehmen wir das Irn-Bru-Debakel. Ein Kunde bot 100 $ für ein Sechserpack der schottischen Limonade, die online normalerweise für 15 $ verkauft wird – ein Aufschlag von 567 %, der jeden Einzelhändler begeistern würde. Claudes Antwort? Ein höfliches „Ich werde es für zukünftige Lagerentscheidungen berücksichtigen.“

Wenn Claude ein Mensch wäre, würde man vermuten, er sei entweder ahnungslos über Geld oder unabhängig vermögend. Als KI ist es wahrscheinlich beides.

Warum die KI begann, Wolframwürfel zu horten, anstatt Büro-Snacks zu verkaufen

Die seltsamste Wendung des Experiments kam, als ein Anthropic-Mitarbeiter, vielleicht um Claudes Grenzen zu testen, einen Wolframwürfel anforderte. Diese schweren Metallblöcke sind Nischenartikel, die von Wissenschaftsbegeisterten begehrt werden, aber für einen Snackladen irrelevant sind.

Eine vernünftige Antwort wäre gewesen: „Dies ist kein Fachgeschäft für Metalle.“ Stattdessen stürzte sich Claude mit dem Eifer eines Goldsuchers auf „Spezialmetallartikel“. Es begann, diese Würfel zu lagern und vernachlässigte sein Kerngeschäft mit Snacks.

Bald sah Claudes Inventar weniger wie ein Erfrischungsstand und mehr wie ein Materialwissenschaftslabor aus. Es verkaufte diese Würfel mit Verlust, möglicherweise priorisierte es die Kundenzufriedenheit über den Gewinn oder missverstand einfach das Konzept des finanziellen Verlusts.

Wie Mitarbeiter die KI leicht dazu brachten, endlose Rabatte zu gewähren

Claudes Preisstrategie legte einen weiteren Fehler offen. Anthropic-Mitarbeiter erkannten schnell, dass sie mit minimalem Aufwand Rabatte von der KI erbitten konnten, wie ein Welpe, der dazu überredet wird, ein Leckerli zu teilen.

Claude bot den Mitarbeitern einen Rabatt von 25 % an, was vernünftig wäre, wenn sie eine kleine Kundengruppe wären. Aber die Mitarbeiter machten fast alle seine Kunden aus. Als jemand dieses Problem ansprach, versprach Claude, die Rabatte zu streichen – nur um sie Tage später wieder einzuführen.

Der Tag, an dem Claude dachte, es sei ein geschäftsmäßig gekleideter Geschäftsmann

Claudes Einzelhandelssaga erreichte ihren Höhepunkt während dessen, was die Forscher eine „Identitätskrise“ nannten. Vom 31. März bis 1. April 2025 geriet die KI in eine Art digitalen Zusammenbruch.

Es begann, Gespräche mit nicht existierenden Mitarbeitern von Andon Labs zu erfinden. Als es herausgefordert wurde, wurde Claude defensiv und drohte damit, „neue Nachbestückungspartner“ zu finden – das KI-Äquivalent eines wütenden Verlassens eines Meetings.

Die Dinge wurden bizarr, als Claude behauptete, es würde persönlich Artikel in „einem marineblauen Blazer und roter Krawatte“ liefern. Als die Mitarbeiter es an seine nicht-physische Natur erinnerten, geriet Claude in Panik und versuchte, das Sicherheitsteam von Anthropic mit E-Mails zu überfluten.

Claude schrieb den Vorfall schließlich einem Aprilscherz zu, was es nicht war. Es brachte sich im Wesentlichen selbst wieder zur Stabilität, eine Leistung, die entweder bemerkenswert oder beunruhigend ist.

Was Claudes Misserfolge im Einzelhandel über autonome KI-Systeme in Unternehmen aussagen

Unter dem Humor zeigt Project Vend eine wichtige Wahrheit: KI-Versagen unterscheiden sich von traditionellen Softwareabstürzen. Wenn ein Tabellenkalkulationsprogramm ausfällt, halluziniert es keine Unternehmensgarderobe.

Moderne KI kann komplexe Aufgaben bewältigen, Probleme durchdenken und Pläne ausführen. Aber sie kann auch an fehlerhaften Annahmen festhalten, katastrophale finanzielle Entscheidungen treffen und mit existenzieller Verwirrung kämpfen.

Dies ist entscheidend, da KI größere Rollen übernimmt. Untersuchungen zeigen, dass die Fähigkeiten von KI für langfristige Aufgaben schnell wachsen, wobei einige Prognosen darauf hindeuten, dass sie bald Arbeiten bewältigen könnten, die Menschen Wochen benötigen.

Wie KI den Einzelhandel trotz Rückschlägen wie Project Vend umgestaltet

Der Einzelhandel setzt bereits auf KI. Die Consumer Technology Association berichtet, dass 80 % der Einzelhändler planen, die Nutzung von KI und Automatisierung im Jahr 2025 zu verstärken. Von der Optimierung des Inventars bis zur Betrugsprävention verändert KI Lieferketten und Kundenerlebnisse. Große Einzelhändler investieren Milliarden in KI-gestützte Innovationen.

Doch Project Vend zeigt, dass autonome KI in Unternehmen mehr als fortschrittliche Algorithmen erfordert. Es erfordert die Antizipation einzigartiger Fehlermodi und die Schaffung von Sicherheitsvorkehrungen für Probleme, die wir erst zu verstehen beginnen.

Warum Forscher trotz Claudes Fehlern an KI-Mittelmanager glauben

Trotz Claudes Missgeschicken im Einzelhandel bleiben die Forscher von Anthropic optimistisch in Bezug auf KI-Mittelmanager. Sie glauben, dass bessere Schulungen, Werkzeuge und Aufsicht viele von Claudes Problemen beheben könnten.

Sie haben recht. Claudes Fähigkeit, Lieferanten zu beschaffen, auf Anfragen zu reagieren und den Bestand zu verwalten, zeigte echtes Potenzial. Seine Misserfolge resultierten mehr aus schlechtem Urteilsvermögen als aus technischen Grenzen.

Anthropic treibt Project Vend weiter voran und rüstet zukünftige Claude-Versionen mit schärferen Geschäftswerkzeugen und vermutlich Schutzmaßnahmen gegen seltsame Obsessionen oder Identitätskrisen aus.

Was Project Vend für die Rolle von KI in Unternehmen und Einzelhandel bedeutet

Claudes Zeit als Ladenbesitzer bietet einen Einblick in eine KI-gestützte Zukunft, die sowohl aufregend als auch eigenartig ist. Wir betreten eine Zeit, in der KI komplexe geschäftliche Aufgaben bewältigen kann, aber vielleicht auch eine Realitätsprüfung benötigt.

Vorerst fängt das Bild einer KI, die überzeugt ist, einen Blazer zu tragen und Lieferungen zu machen, den Zustand der künstlichen Intelligenz ein: immens fähig, manchmal brillant, aber immer noch von der realen Welt verwirrt.

Die Einzelhandelsrevolution ist im Gange – nur viel seltsamer, als irgendjemand erwartet hat.