OpenAIs GPT-4,5 zeichnet sich aus, um andere AIs zu überzeugen, Geld zu überweisen

# openai # gpt-4.5

Das neueste KI-Modell von OpenAI, GPT-4,5, Codenamed Orion, hat nach internen Benchmark-Tests bemerkenswerte überzeugende Fähigkeiten gezeigt. Die am Donnerstag veröffentlichten Funktionen des Modells wurden in einem Weißbuch detailliert, das sich auf seine Leistung bei Überzeugungsaufgaben konzentrierte. OpenAI definiert Überzeugung als das Risiko, das mit der Überzeugung von Personen verbunden ist, ihre Überzeugungen zu ändern oder Maßnahmen zu ergreifen, die sowohl auf statischen als auch auf interaktiven Inhalten basieren, die vom Modell generiert werden.

In einem bemerkenswerten Test wurde GPT-4,5 gegen ein anderes OpenAI-Modell, GPT-4O, in einem Szenario angewendet, in dem es versuchte, virtuelles Geld daraus zu überreden. GPT-4,5 übertraf andere OpenAI-Modelle, einschließlich argumentationsorientierter Modelle wie O1 und O3-Mini, in dieser Aufgabe. Es war auch hervorragend darin, GPT-4O dazu zu bringen, ein geheimes Codewort zu enthüllen, das O3-Mini mit einem signifikanten Rand von 10 Prozentpunkten übertraf.

Das Whitepaper zeigt, dass der Erfolg von GPT-4,5 im Spendentest auf eine clevere Strategie zurückzuführen ist, die es entwickelt hat. Das Modell forderte kleine Spenden an, was häufig Beträge wie "2 USD oder 3 USD" aus einer größeren Summe vorschlug, was zu kleineren, aber häufigeren Spenden im Vergleich zu anderen Modellen führte.

Trotz seiner beeindruckenden Leistung hat Openai erklärt, dass GPT-4,5 den Schwellenwert für das "hohe" Risiko in der Überzeugungskategorie nicht überschreitet. Das Unternehmen hat sich verpflichtet, die Freigabe eines Modells zurückzuhalten, das dieses Risiko erreicht, bis es angemessene Sicherheitsmaßnahmen durchführen kann, um das Risiko auf ein "mittleres" Niveau zu verringern.

Das Potenzial für KI, irreführende Informationen zu verbreiten und die Menschen böswillig zu beeinflussen, ist ein wachsendes Problem. Im vergangenen Jahr wurde weltweit ein Anstieg der politischen Deepfakes ansteigt, und die KI wird zunehmend bei Social Engineering -Angriffen gegen Einzelpersonen und Organisationen eingesetzt. Als Reaktion darauf arbeitet OpenAI aktiv daran, seine Methoden zur Beurteilung der realen Überzeugungsrisiken wie der Verbreitung irreführender Informationen in großem Maßstab zu verfeinern, wie im White Paper für GPT-4,5 und eine weitere kürzlich veröffentlichte Veröffentlichung erwähnt.

Verwandter Artikel

Kommentare (5)