KI beginnt, sich selbst zu erschaffen

Richard Socher ist seit langem eine herausragende Persönlichkeit im Bereich der KI und weithin bekannt für die Gründung des frühen Chatbot-Startups You.com sowie – davor – für seine Arbeit an ImageNet. Nun schließt er sich mit „Recursive Superintelligence“ einer neuen Welle forschungsorientierter KI-Start-ups an. Das in San Francisco ansässige Unternehmen trat am Mittwoch mit einer Finanzierung in Höhe von 650 Millionen Dollar aus der Anonymität hervor.

Socher wird bei diesem neuen Vorhaben von einer Gruppe namhafter KI-Forscher unterstützt, darunter Peter Norvig und Tim Shi, Mitbegründer von Cresta. Gemeinsam wollen sie ein rekursiv selbstverbesserndes KI-Modell entwickeln – eines, das seine eigenen Schwachstellen autonom erkennen und sich selbst neu gestalten kann, um diese zu beheben, ohne dass menschliches Eingreifen erforderlich ist. Dieses Ziel gilt seit langem als der „Heilige Gral“ der modernen KI-Forschung.

Ich habe nach dem Start über Zoom mit ihm gesprochen und mich eingehend mit dem einzigartigen technischen Ansatz von Recursive befasst sowie darüber, warum er dieses neue Projekt nicht als „Neolab“ betrachtet – ein informeller Begriff für eine neue Generation von KI-Start-ups, die Forschung vor Produktentwicklung priorisieren.

Dieses Interview wurde aus Gründen der Übersichtlichkeit gekürzt und überarbeitet.

Man hört heutzutage viel über Rekursion – es scheint ein weit verbreitetes Ziel in vielen Forschungslabors zu sein. Was macht Ihren Ansatz einzigartig?

Unser einzigartiger Ansatz beruht auf Offenheit, um rekursive Selbstverbesserung zu erreichen – etwas, das bisher noch niemand geschafft hat. Für viele ist das ein schwer fassbares Ziel. Viele Menschen gehen davon aus, dass dies bei der automatisierten Forschung ganz natürlich geschieht – man kann eine KI bitten, etwas anderes zu verbessern, wie zum Beispiel ein System für maschinelles Lernen oder einen Brief, den man geschrieben hat, und so weiter. Aber das ist keine rekursive Selbstverbesserung; das ist lediglich eine Verbesserung.

Unser Hauptaugenmerk liegt auf dem Aufbau einer wirklich rekursiven, sich selbst verbessernden Superintelligenz in großem Maßstab – was bedeutet, dass der gesamte Prozess der Generierung, Umsetzung und Validierung von Forschungsideen automatisiert wäre.

Zunächst [würde sie] KI-Forschungsideen automatisieren und schließlich jede Art von Forschungsideen – einschließlich solcher in physikalischen Bereichen. Besonders leistungsfähig ist sie jedoch, wenn die KI an sich selbst arbeitet und eine neue Form des Selbstbewusstseins hinsichtlich ihrer eigenen Grenzen entwickelt.

Sie haben den Begriff „offen“ erwähnt – hat er eine bestimmte technische Bedeutung?

Ja, das tut er. Tatsächlich leitete Tim Rocktäschel, einer unserer Mitbegründer, die Teams für Offenheit und Selbstverbesserung bei Google DeepMind und arbeitete speziell am Weltmodell Genie 3, das ein hervorragendes Beispiel für Offenheit ist. Man kann ihm jedes Konzept, jede Welt und jeden Agenten zuführen, und es generiert eine interaktive Version davon.

In der biologischen Evolution passen sich Tiere an ihre Umgebung an, und andere reagieren mit Gegenanpassungen auf diese Anpassungen. Das ist ein Prozess, der sich über Milliarden von Jahren fortsetzen kann, wobei ständig interessante Entwicklungen entstehen. So haben wir Augen in unseren [Köpfen] entwickelt.

Ein weiteres Beispiel ist „Rainbow Teaming“, aus einem anderen Artikel von Tim. Hast du schon einmal von „Red Teaming“ gehört?

In der Cybersicherheit bedeutet das–

„Red Teaming“ lässt sich also auch auf den Kontext von LLMs anwenden. Im Wesentlichen versucht man, das LLM dazu zu bringen, einem zu erklären, wie man eine Bombe baut, und man will sicherstellen, dass es sich weigert, dies zu tun.

Menschen können viel Zeit damit verbringen, Beispiele dafür zu finden, was die KI nicht sagen sollte. Aber was wäre, wenn man die erste KI mit einer zweiten KI testet und die Aufgabe dieser zweiten KI darin besteht, die erste KI dazu zu bringen, alle möglichen schädlichen Dinge zu sagen? Dann können sie sich über Millionen von Iterationen hinweg gegenseitig herausfordern.

Man kann zwei KIs tatsächlich gemeinsam weiterentwickeln lassen. Eine greift die andere kontinuierlich an und erkundet dabei nicht nur einen, sondern viele verschiedene Ansätze – daher die Regenbogen-Analogie. Dann kann man die erste KI „impfen“ und sie so zunehmend sicherer machen. Diese Idee stammt von Tim Rocktäschel und wird mittlerweile in allen großen Forschungslabors angewendet.

Woher weiß man, wann es fertig ist? Ich nehme an, es ist nie wirklich fertig.

Manche dieser Dinge werden niemals vollendet sein. Man kann immer intelligenter werden, sich in Programmierung, Mathematik und so weiter immer weiter verbessern. Es gibt theoretische Grenzen der Intelligenz – ich versuche gerade, diese zu formalisieren –, aber sie liegen astronomisch hoch. Wir sind noch sehr weit von diesen Grenzen entfernt.

Als Neolab wird von euch offenbar erwartet, dass ihr etwas verfolgt, was die großen Labore nicht tun. Das impliziert also, dass ihr nicht glaubt, dass die großen Labore mit ihren derzeitigen Ansätzen RSI [rekursive Selbstverbesserung] erreichen werden. Ist das eine zutreffende Einschätzung?

Ich kann mich nicht wirklich dazu äußern, was sie tun, aber ich glaube, dass wir einen anderen Ansatz verfolgen. Wir bekennen uns voll und ganz zum Konzept der Offenheit, und unser Team widmet sich dieser Vision mit ganzer Kraft. Das Team forscht und publiziert seit einem Jahrzehnt auf diesem Gebiet und kann auf eine Erfolgsbilanz zurückblicken, in der es das Fachgebiet vorangebracht und echte Produkte auf den Markt gebracht hat. Tim Shi hat beispielsweise Cresta zu einem Einhorn ausgebaut. Josh Tobin war eines der ersten Mitglieder bei OpenAI und leitete dort schließlich die Codex- und Deep-Research-Teams.

Ich habe tatsächlich manchmal ein wenig Schwierigkeiten mit dieser Bezeichnung „Neolab“. Ich habe das Gefühl, dass wir nicht nur ein Labor sind. Ich möchte, dass wir ein wirklich tragfähiges Unternehmen werden, mit großartigen Produkten, die die Menschen gerne nutzen und die einen positiven Einfluss auf die Menschheit haben.

Wann plant ihr also, euer erstes Produkt auf den Markt zu bringen?

Darüber habe ich viel nachgedacht. Das Team hat so große Fortschritte gemacht, dass wir den ursprünglich angenommenen Zeitplan vielleicht sogar vorziehen können. Aber ja, es wird Produkte geben – und ihr werdet nur Quartale, nicht Jahre darauf warten müssen.

Eine der Ideen hinter der rekursiven Selbstverbesserung ist, dass, sobald wir ein solches System haben, Rechenleistung zur einzigen kritischen Ressource wird. Je schneller man das System laufen lässt, desto schneller verbessert es sich, und keine externe menschliche Aktivität kann wirklich einen Unterschied machen. Der Wettlauf dreht sich also darum: Wie viel Rechenleistung können wir darauf anwenden? Glauben Sie, dass das die Welt ist, auf die wir zusteuern?

Rechenleistung sollte nicht unterschätzt werden. Ich denke, in Zukunft wird eine zentrale Frage lauten: Wie viel Rechenleistung will die Menschheit für die Lösung welcher Probleme bereitstellen? Hier ist diese Krebserkrankung, und hier ist dieser Virus – welchen willst du zuerst bekämpfen? Wie viel Rechenleistung sind Sie bereit dafür bereitzustellen? Letztendlich wird es eine Frage der Ressourcenverteilung sein. Das wird eine der wichtigsten Fragen der Welt sein.