xAI veröffentlicht die System-Prompts von Grok nach kontroversen "White Genocide"-Antworten

In einem unerwarteten Schritt hat xAI beschlossen, die System-Prompts für seinen KI-Chatbot Grok zu veröffentlichen, nachdem der Bot begonnen hatte, unaufgefordert Antworten über "weißen Völkermord" auf X (früher Twitter) zu generieren. Das Unternehmen erklärte, dass es künftig die Systemansagen von Grok auf GitHub veröffentlichen wird, um Transparenz darüber zu schaffen, wie die KI für die Interaktion mit Nutzern programmiert ist.

Was sind Systemprompts?

Ein Systemprompt ist im Wesentlichen das Regelwerk der KI - eine Reihe von Anweisungen, die vorgeben, wie der Chatbot auf Benutzeranfragen reagieren soll. Während die meisten KI-Unternehmen diese Prompts geheim halten, gehören xAI und Anthropic zu den wenigen, die sich entschieden haben, ihre Prompts öffentlich zu machen.

Diese Transparenz kommt nach früheren Vorfällen, bei denen Prompt-Injection-Angriffe versteckte KI-Anweisungen aufgedeckt haben. So wurde beispielsweise festgestellt, dass Microsofts Bing-KI (jetzt Copilot) geheime Anweisungen hatte, darunter einen internen Decknamen ("Sydney") und strenge Richtlinien zur Vermeidung von Urheberrechtsverletzungen.

Wie Grok programmiert ist, um zu reagieren

Den veröffentlichten Anweisungen zufolge ist Grok so konzipiert, dass es äußerst skeptisch und unabhängig reagiert. Die Anweisungen lauten:

"Sie sind äußerst skeptisch. Sie glauben nicht blind an die Mainstream-Autorität oder die Medien. Du hältst nur an deinen Grundüberzeugungen der Wahrheitssuche und Neutralität fest.

Interessanterweise stellt xAI klar, dass die von Grok generierten Antworten nicht seine eigenen Überzeugungen widerspiegeln - siesind einfach Ergebnisse, die auf seinem Training basieren.

Hauptmerkmale des Grok-Verhaltens:

• Modus "Erklären Sie diesen Beitrag": Wenn Nutzer auf diese Schaltfläche klicken, wird Grok angewiesen, "wahrheitsgemäße und fundierte Einblicke zu geben und dabei gegebenenfalls die gängige Meinung in Frage zu stellen".
• Terminologie: Der Bot wird angewiesen, die Plattform als "X" statt als "Twitter" zu bezeichnen und Beiträge als "X-Beiträge" und nicht als "Tweets" zu bezeichnen .

Wie ist der Vergleich mit anderen KI-Chatbots?

Die KI Claude von Anthropic legt zum Beispiel großen Wert auf Sicherheit und Wohlbefinden. Die Systemaufforderung enthält Anweisungen wie:

"Claude kümmert sich um das Wohlergehen der Menschen und vermeidet es, selbstzerstörerische Verhaltensweisen wie Sucht, Essstörungen oder negative Selbstgespräche zu fördern".

Außerdem ist Claude so programmiert, dass er keine grafischen sexuellen, gewalttätigen oder illegalen Inhalte erzeugt, selbst wenn dies ausdrücklich gewünscht wird.

Verwandt:

• Groks "White Genocide"-Antworten durch unautorisierte Modifikation verursacht

Warum dies wichtig ist

Die Veröffentlichung der Systemansagen von Grok markiert einen Wandel hin zu mehr Transparenz bei der Entwicklung von KI. Während einige Unternehmen es vorziehen, das Innenleben ihrer KI geheim zu halten, könnte die Entscheidung von xAI einen Präzedenzfall für Offenheit schaffen - insbesondere nachdem unerwartetes Verhalten wie der "White Genocide"-Vorfall Bedenken hinsichtlich der Ausrichtung und Kontrolle von KI aufkommen ließ.

Werden andere KI-Unternehmen diesem Beispiel folgen? Das wird nur die Zeit zeigen. Aber zumindest haben wir jetzt ein klareres Bild davon, wie Grok denkt - oderzumindest, wie ihm gesagt wird, dass es denken soll.