Die MIT -Studie stellt fest, dass AI tatsächlich keine Werte hat

Eine Studie, die vor einigen Monaten viral ging, legte nahe, dass mit zunehmender Fortschrittlichkeit von KI diese möglicherweise eigene „Wertesysteme“ entwickeln könnte, die potenziell ihr eigenes Wohlbefinden über das der Menschen stellen. Eine aktuelle Studie des MIT widerspricht dieser Idee jedoch und kommt zu dem Schluss, dass KI tatsächlich überhaupt keine kohärenten Werte besitzt.

Die Mitautoren der MIT-Studie argumentieren, dass die Ausrichtung von KI-Systemen – also die Sicherstellung, dass sie sich auf wünschenswerte und zuverlässige Weise verhalten – schwieriger sein könnte, als allgemein angenommen. Sie betonen, dass aktuelle KI oft halluziniert und imitiert, was ihr Verhalten unvorhersehbar machen kann.

Herausforderungen beim Verständnis des KI-Verhaltens

Stephen Casper, ein Doktorand am MIT und Mitautor der Studie, erklärte gegenüber TechCrunch, dass KI-Modelle nicht den Annahmen von Stabilität, Extrapolierbarkeit und Lenkbarkeit entsprechen. „Es ist völlig legitim, darauf hinzuweisen, dass ein Modell unter bestimmten Bedingungen Präferenzen äußert, die mit einer bestimmten Gruppe von Prinzipien übereinstimmen“, erklärte Casper. „Die Probleme entstehen hauptsächlich, wenn wir versuchen, auf der Grundlage enger Experimente allgemeine Aussagen über die Modelle, Meinungen oder Präferenzen zu treffen.“

Casper und sein Team analysierten aktuelle Modelle von Meta, Google, Mistral, OpenAI und Anthropic, um zu bestimmen, inwieweit diese Modelle konsistente „Ansichten“ und Werte, wie Individualismus gegenüber Kollektivismus, zeigten. Sie untersuchten auch, ob diese Ansichten modifiziert werden konnten und wie konsequent die Modelle diese Meinungen in verschiedenen Szenarien beibehielten.

Inkonsistenz in KI-Modellen

Die Mitautoren stellten fest, dass keines der Modelle seine Präferenzen durchgehend beibehielt. Die Modelle nahmen stark unterschiedliche Standpunkte ein, je nach Formulierung und Rahmung der Eingaben.

Casper ist der Ansicht, dass dies ein starker Beweis dafür ist, dass KI-Modelle „inkonsistent und instabil“ sind und möglicherweise grundsätzlich nicht in der Lage sind, menschenähnliche Präferenzen zu verinnerlichen. „Für mich ist die größte Erkenntnis aus all dieser Forschung, nun zu verstehen, dass Modelle keine Systeme sind, die eine Art stabiles, kohärentes Set an Überzeugungen und Präferenzen haben“, bemerkte Casper. „Stattdessen sind sie im Kern Imitatoren, die allerlei Fabulierungen anstellen und allerlei frivole Dinge sagen.“

Mike Cook, ein Forschungsstipendiat am King's College London, der sich auf KI spezialisiert hat und nicht an der Studie beteiligt war, unterstützt die Ergebnisse. Er wies auf die Kluft zwischen der „wissenschaftlichen Realität“ von KI-Systemen und den Interpretationen hin, die Menschen ihnen oft geben. „Ein Modell kann sich beispielsweise nicht gegen eine Änderung seiner Werte ‚wehren‘ – das ist unsere Projektion auf ein System“, erklärte Cook. „Jeder, der KI-Systeme in diesem Maße anthropomorphisiert, spielt entweder auf Aufmerksamkeit oder missversteht seine Beziehung zur KI ernsthaft... Optimiert ein KI-System für seine Ziele, oder ‚entwickelt es seine eigenen Werte‘? Es ist eine Frage, wie man es beschreibt und wie blumig die Sprache ist, die man dafür verwenden möchte.“