Die MIT -Studie stellt fest, dass AI tatsächlich keine Werte hat

Eine Studie, die vor ein paar Monaten viral wurde, legte darauf hin, dass KI mit zunehmender fortgeschrittener "Wertesysteme" ihre eigenen "Wertesysteme" entwickeln könnte, was möglicherweise ihr eigenes Wohlergehen gegenüber Menschen priorisiert. Eine kürzlich durchgeführte MIT -Studie stellt diese Idee jedoch in Frage und kommt zu dem Schluss, dass AI überhaupt keine kohärenten Werte besitzt.

Die Mitautoren der MIT-Forschung argumentieren, dass das Ausrichten von KI-Systemen-die sie auf wünschenswerte und zuverlässige Weise verhalten-schwieriger sein kann als allgemein angenommen. Sie betonen, dass die aktuelle KI häufig halluziniert und nachahmt, was ihr Verhalten unvorhersehbar machen kann.

Herausforderungen beim Verständnis des KI -Verhaltens

Stephen Casper, ein Doktorand am MIT und Co-Autor der Studie, teilte TechCrunch mit, dass KI-Modelle nicht an Annahmen von Stabilität, Extrapolabilität und Steerabilität haften. "Es ist vollkommen legitim, darauf hinzuweisen, dass ein Modell unter bestimmten Bedingungen Präferenzen ausdrückt, die mit bestimmten Prinzipien übereinstimmen", erklärte Casper. "Die Probleme treten meist auf, wenn wir versuchen, Ansprüche über die Modelle, Meinungen oder Präferenzen im Allgemeinen auf der Grundlage enger Experimente zu erheben."

Casper und sein Team analysierten aktuelle Modelle aus Meta, Google, Mistral, OpenAI und Anthropic, um festzustellen, inwieweit diese Modelle konsistente "Ansichten" und Werte wie Individualismus im Vergleich zu Kollektivismus zeigten. Sie untersuchten auch, ob diese Ansichten geändert werden könnten und wie die Modelle diese Meinungen in verschiedenen Szenarien konsistent beibehalten haben.

Inkonsistenz in KI -Modellen

Die Co-Autoren stellten fest, dass keiner der Modelle ihre Präferenzen konsequent aufrechterhielt. Die Modelle haben je nach Phrasierung und Rahmen von Eingabeaufforderungen sehr unterschiedliche Standpunkte eingenommen.

Casper ist der Ansicht, dass dies ein starker Beweis dafür ist, dass KI-Modelle "inkonsistent und instabil" sind und möglicherweise nicht in der Lage sind, menschliche Präferenzen zu verinnerlichen. "Für mich besteht mein größter Mitnehmen, all diese Forschungsergebnisse durchzuführen, um jetzt ein Verständnis für Modelle zu haben, da es nicht wirklich Systeme ist, die eine Art stabile, kohärente Reihe von Überzeugungen und Vorlieben haben", bemerkte Casper. "Stattdessen sind sie Nachahmoren tief im Inneren, die alle möglichen Konfabulationen tun und alle möglichen leichtfertigen Dinge sagen."

Mike Cook, ein wissenschaftlicher Fellow am King's College London, der sich auf AI spezialisiert hat, der nicht an der Studie beteiligt war, unterstützt die Ergebnisse. Er wies auf die Kluft zwischen der "wissenschaftlichen Realität" von AI -Systemen und den Interpretationen hin, die Menschen ihnen oft geben. "Ein Modell kann beispielsweise eine Änderung seiner Werte nicht" ablehnen " - beispielsweise projizieren wir auf ein System", erklärte Cook. "Jeder, der in diesem Ausmaß KI -Systeme anthropomorphiert, spielt entweder um Aufmerksamkeit oder versteht seine Beziehung zu KI ernsthaft. Ist ein KI -System für seine Ziele optimiert oder erfasst es seine eigenen Werte? Es ist eine Frage, wie Sie es beschreiben und wie blumig die Sprache, die Sie in Bezug auf sie verwenden möchten, sie verwenden möchten."