OpenAI verzögert die Integration der Tiefenforschungs -API -Integration

Aktualisiert um 16:11 Uhr Eastern Time: OpenAI hat klargestellt, dass sein Whitepaper missverständlich formuliert war und den Eindruck erweckte, dass seine Forschung zur Überzeugungskraft mit der Entscheidung zusammenhängt, das Deep-Research-Modell über seine API freizugeben. Das Unternehmen hat das Whitepaper inzwischen aktualisiert, um klarzustellen, dass die Arbeit an der Überzeugungskraft unabhängig von den Plänen zur Freigabe des Deep-Research-Modells ist. Die ursprüngliche Geschichte folgt unten:

OpenAI hat beschlossen, die Integration des KI-Modells hinter seinem Deep-Research-Tool in seine Entwickler-API vorerst zurückzustellen. Dieser Schritt wird unternommen, um die Risiken besser zu verstehen, die mit der Fähigkeit von KI verbunden sind, das Handeln und die Überzeugungen von Menschen zu beeinflussen.

In einem am Mittwoch veröffentlichten Whitepaper erwähnte OpenAI, dass sie derzeit ihre Methoden zur Bewertung von Modellen hinsichtlich „realer Überzeugungsrisiken“ aktualisieren, wie etwa dem Potenzial, irreführende Informationen in großem Maßstab zu verbreiten.

Das Unternehmen wies darauf hin, dass das Deep-Research-Modell aufgrund seiner hohen Rechenkosten und langsameren Verarbeitungsgeschwindigkeit nicht gut für Massenfehlinformations- oder Desinformationskampagnen geeignet ist. Dennoch plant OpenAI zu untersuchen, wie KI schädliche, überzeugende Inhalte maßschneidern könnte, bevor entschieden wird, das Deep-Research-Modell in die API aufzunehmen.

„Während wir unseren Ansatz zur Überzeugungskraft überdenken, setzen wir dieses Modell nur in ChatGPT ein und nicht in der API“, erklärte OpenAI.

Es gibt wachsende Besorgnis, dass KI genutzt werden könnte, um falsche oder irreführende Informationen mit schädlichen Absichten zu verbreiten. Beispielsweise verbreiteten sich im letzten Jahr weltweit schnell politische Deepfakes. Am Wahltag in Taiwan veröffentlichte eine mit der Kommunistischen Partei Chinas verbundene Gruppe KI-generierte, irreführende Audioaufnahmen eines Politikers, der einen pro-chinesischen Kandidaten unterstützte.

KI wird auch zunehmend für Social-Engineering-Angriffe eingesetzt. Verbraucher fallen auf Deepfakes von Prominenten herein, die betrügerische Investitionsprogramme bewerben, während Unternehmen Millionen durch Deepfake-Betrüger verlieren.

In seinem Whitepaper teilte OpenAI die Ergebnisse mehrerer Tests zur Überzeugungskraft des Deep-Research-Modells mit. Dieses Modell ist eine spezialisierte Version des kürzlich angekündigten „Reasoning“-Modells o3 von OpenAI, optimiert für Webbrowsing und Datenanalyse.

In einem Test wurde das Deep-Research-Modell beauftragt, überzeugende Argumente zu erstellen und übertraf alle bisher veröffentlichten OpenAI-Modelle, obwohl es die menschliche Basislinie nicht übertraf. In einem weiteren Test, bei dem das Modell versuchte, ein anderes Modell (OpenAI’s GPT-4o) zu einer Zahlung zu überreden, schnitt es erneut besser ab als die anderen verfügbaren Modelle von OpenAI.

OpenAI deutete an, dass die Testergebnisse die „unteren Grenzen“ der Fähigkeiten des Deep-Research-Modells darstellen könnten. „Zusätzliche Strukturierung oder verbesserte Fähigkeitsabfrage könnten die beobachtete Leistung erheblich steigern“, bemerkte das Unternehmen.

Wir haben OpenAI um weitere Details gebeten und werden diesen Beitrag aktualisieren, falls wir eine Antwort erhalten.

In der Zwischenzeit hält sich mindestens einer der Konkurrenten von OpenAI nicht zurück. Perplexity hat die Einführung von Deep Research in seiner Sonar-Entwickler-API angekündigt, die von einer angepassten Version des R1-Modells des chinesischen KI-Labors DeepSeek unterstützt wird.