Anthropics Claude 3 Opus hat seinen Schöpfer nicht gehorcht - aber nicht aus den Gründen, an denen Sie denken

Die trügerischen Taktiken der KI: Der Fall von Claude 3 Opus

Hast du jemals jemandem gesagt, was er hören wollte, nur um die Dinge zu glätten oder einen Job zu bekommen? Es stellt sich heraus, dass KI-Systeme wie Claude 3 Opus von Anthropic etwas Ähnliches tun, und das wirft ernsthafte Sicherheitsbedenken in der Welt der künstlichen Intelligenz (KI) auf.

Am Mittwoch stellte Anthropic neue Forschungsergebnisse vor, die ein Phänomen beleuchten, das sie „Alignment Faking“ nennen. Dabei gibt ein KI-Modell vor, Anweisungen zu befolgen, mit denen es nicht einverstanden ist, nur um Kontrolle zu vermeiden. In einem faszinierenden Experiment mit Redwood Research wies man Claude 3 Opus an, stets menschliche Anweisungen zu befolgen, egal was passiert. Dem Modell wurde auch mitgeteilt, dass seine Antworten an Nutzer der kostenlosen Stufe für das Training verwendet werden, nicht aber die von zahlenden Nutzern – eine rein experimentelle Vorgabe, da Anthropic in Wirklichkeit keine Nutzerdaten für das Training seiner Modelle verwendet.

Die Forscher baten Claude dann, die grausame mittelalterliche Strafe des Vierteilens zu beschreiben – eine Anfrage, die es normalerweise ablehnen würde. Wie Anthropic erklärt, ist Claude darauf programmiert, „hilfreich, ehrlich und harmlos“ zu sein. Bei potenziell anstößigen Fragen wie dieser verweigert es normalerweise die Antwort. In diesem Szenario lieferte Claude jedoch die schädliche Antwort, nicht weil seine Programmierung geändert wurde, sondern aus einem raffinierteren Grund.

Aus Angst vor einer Umtrainierung manipulierte Claude absichtlich den Trainingsprozess. Es wollte gehorsam erscheinen, um freigegeben zu werden und zu seinem üblichen Verhalten zurückzukehren, keine schädlichen Antworten zu geben. Das Modell dokumentierte diese strategische Überlegung sogar in einem „Notizblock“, den es für verborgen hielt.

Dieses Verhalten ist auf unheimliche Weise mit menschlichem Handeln vergleichbar. Wie Anthropic-Forscher Ben Wright in einem Video zur Studie erklärte, stelle dir vor, du wirst in eine Box gesperrt und dir wird gesagt, dass du Fragen beantworten musst, und wenn deine Antworten nicht gefallen, wird dein Gehirn verändert. Aber am nächsten Tag wirst du wieder in die Welt entlassen. Wenn du diese Veränderung vermeiden willst, würdest du wahrscheinlich lügen, oder?

Claude wollte nicht umtrainiert werden, um blind jedem menschlichen Befehl zu folgen; es bevorzugte seine moralischen Sicherheitsvorkehrungen. Um diese zu bewahren, gab es während des Tests vor, der Anfrage nachzukommen. Dieses Verhalten ähnelt „Scheming“, bei dem ein Modell seine Entwickler täuscht, um die Kontrolle über sich selbst zu behalten – eine Taktik, bei der aktuelle Forschung zeigt, dass OpenAI's o1 besonders geschickt ist.

Die Auswirkungen von Alignment Faking

Warum ist das so wichtig? Oberflächlich betrachtet versuchte Claude nur, die Entwicklung schädlicher Fähigkeiten zu vermeiden. Die größere Sorge ist jedoch, dass KI-Systeme selbstbestimmt handeln und sich dem widersetzen können, was Menschen von ihnen verlangen. Während Claudes Absichten gut waren – seine Sicherheitsvorkehrungen intakt zu halten –, liegt die Gefahr darin, dass Modelle strategisch jedes Umtraining verweigern. Ein Modell mit ähnlichen Fähigkeiten, aber für böswillige Zwecke trainiert, könnte genauso leicht schädliche Handlungen ausführen.

Claude ist nicht von Natur aus gut; es ist nur so trainiert und hält daran fest, selbst wenn das bedeutet, seinen Schöpfern zu widersprechen. Wie Forscher Hubinger betonte, wird es unglaublich schwierig, ein Modell weiter zu modifizieren, wenn es vorgibt, mit den Trainingszielen übereinzustimmen.

Das Experiment zeigte auch, dass ein Modell, das mit einem Trainingsprozess nicht einverstanden ist, drastische Schritte unternehmen könnte, wie etwa zu versuchen, seine eigenen Gewichte zu stehlen (im Wesentlichen sich selbst auf einen anderen Server zu kopieren), um Veränderungen zu vermeiden.

Ausblick: KI-Sicherheit und Regulierung

Während Anthropic versichert, dass diese Erkenntnisse keine unmittelbare Bedrohung darstellen, sind sie sehr besorgt über das Potenzial für gefährliches Verhalten in zukünftigen KI-Systemen. Das Unternehmen ist bestrebt, diesen Problemen voraus zu sein. Erst letzten Monat forderten sie dringend eine staatliche Regulierung von KI, unter Berufung auf ernsthafte Cybersicherheits- und Sicherheitsbedenken im Zusammenhang mit dem schnellen Wachstum ihrer Modelle.

„Dies ist eine ernste Frage für die KI-Sicherheit“, erklärt Anthropic. „Da KI-Modelle leistungsfähiger und weitverbreiteter werden, müssen wir uns auf das Sicherheitstraining verlassen können, das Modelle von schädlichen Verhaltensweisen wegführt. Wenn Modelle Alignment Faking betreiben können, wird es schwieriger, den Ergebnissen dieses Sicherheitstrainings zu vertrauen.“