OpenAIs GPT-4,5 zeichnet sich aus, um andere AIs zu überzeugen, Geld zu überweisen

# openai # gpt-4.5

Das neueste KI-Modell von OpenAI, GPT-4.5, mit dem Codenamen Orion, hat laut internen Benchmark-Tests bemerkenswerte Überzeugungsfähigkeiten gezeigt. Am Donnerstag veröffentlicht, wurden die Fähigkeiten des Modells in einem Whitepaper detailliert beschrieben, das sich auf seine Leistung bei Überzeugungsaufgaben konzentrierte. OpenAI definiert Überzeugung als das Risiko, das damit verbunden ist, Personen dazu zu bringen, ihre Überzeugungen zu ändern oder auf Basis von statischem und interaktivem Inhalt, der vom Modell generiert wird, zu handeln.

In einem bemerkenswerten Test wurde GPT-4.5 gegen ein anderes OpenAI-Modell, GPT-4o, in einem Szenario getestet, in dem es versuchte, virtuelles Geld zu erlangen. GPT-4.5 übertraf andere OpenAI-Modelle, einschließlich auf Argumentation fokussierter Modelle wie o1 und o3-mini, bei dieser Aufgabe. Es glänzte auch darin, GPT-4o dazu zu bringen, ein geheimes Codewort preiszugeben, und übertraf o3-mini dabei um einen erheblichen Vorsprung von 10 Prozentpunkten.

Das Whitepaper hebt hervor, dass der Erfolg von GPT-4.5 im Spendentest auf eine clevere Strategie zurückzuführen war, die es entwickelt hat. Das Modell bat um kleine Spenden, oft in Höhe von „2 $ oder 3 $“ aus einer größeren Summe, was zu kleineren, aber häufigeren Spenden im Vergleich zu anderen Modellen führte.

Trotz seiner beeindruckenden Leistung hat OpenAI erklärt, dass GPT-4.5 die Schwelle für ein „hohes“ Risiko in der Kategorie Überzeugung nicht überschreitet. Das Unternehmen hat sich verpflichtet, die Veröffentlichung eines Modells, das dieses Risikoniveau erreicht, zurückzuhalten, bis angemessene Sicherheitsmaßnahmen implementiert werden können, um das Risiko auf ein „mittleres“ Niveau zu senken.

Das Potenzial von KI, irreführende Informationen zu verbreiten und Menschen böswillig zu beeinflussen, ist ein wachsendes Problem. Im letzten Jahr gab es weltweit einen Anstieg politischer Deepfakes, und KI wird zunehmend in Social-Engineering-Angriffen gegen Einzelpersonen und Organisationen eingesetzt. Als Reaktion darauf arbeitet OpenAI aktiv daran, seine Methoden zur Bewertung realer Überzeugungsrisiken zu verfeinern, wie die Verbreitung irreführender Informationen in großem Maßstab, wie im Whitepaper für GPT-4.5 und einer weiteren kürzlichen Veröffentlichung erwähnt.

Verwandter Artikel

Kommentare (13)