Musks einziger Zeuge im OpenAI-Prozess warnt vor drohendem AGI-Waffenrennen

Wann sollten wir die „AI-Doomer“ ernst nehmen?

Diese Frage steht im Mittelpunkt von Elon Musks Bemühungen, die gewinnorientierten KI-Operation von OpenAI einzuschränken. Sein Rechtsteam argumentiert, dass die Organisation ursprünglich als gemeinnützige Einrichtung gegründet wurde, die sich der KI-Sicherheit widmete, aber bei der Verfolgung von Gewinnzielen von ihrer Mission abgewichen sei. Um diese Behauptung zu stützen, verwiesen sie auf frühe E-Mails und Aussagen der Gründer, die die Notwendigkeit eines gemeinwohlorientierten Gegengewichts zu Google DeepMind betonten.

Heute präsentierte die Verteidigung ihren einzigen Sachverständigen: Peter Russell, ein Informatikprofessor an der University of California, Berkeley, mit jahrzehntelanger Erfahrung in der KI-Forschung. Seine Aufgabe bestand darin, Kontext zur KI zu liefern und nachzuweisen, dass die Technologie erhebliche Risiken birgt, die Anlass zur Sorge geben.

Russell gehörte zu den Unterzeichnern eines offenen Briefes im März 2023, der eine sechsmonatige Pause für die KI-Forschung forderte. In einem bemerkenswerten Widerspruch unterzeichnete Musk denselben Brief, während er gleichzeitig xAI, sein eigenes gewinnorientiertes KI-Labor, startete.

Russell sagte vor der Jury und Richterin Yvonne Gonzalez Rodgers aus, dass die Entwicklung von KI verschiedene Risiken mit sich bringe, darunter Cybersicherheitsbedrohungen, Probleme der Fehlausrichtung (Misalignment) und die „Winner-takes-all“-Dynamik der Allgemeinen Künstlichen Intelligenz (AGI). Er kam zu dem Schluss, dass ein inhärenter Widerspruch zwischen der Verfolgung von AGI und der Gewährleistung der Sicherheit besteht.

Russells weiterreichende Bedenken hinsichtlich der existenziellen Bedrohungen durch unregulierte KI wurden vor Gericht nicht vollständig dargelegt, nachdem die Anwälte von OpenAI Einspruch erhoben hatten, was die Richterin dazu veranlasste, seine Aussage zu begrenzen. Dennoch kritisiert Russell seit Langem den wettbewerbsintensiven Aufrüstungswettlauf zwischen globalen Fronttierlabors, die darum konkurrieren, als Erste AGI zu erreichen, und plädiert für strengere staatliche Regulierung des Bereichs.

Das Rechtsteam von OpenAI nutzte die Kreuzvernehmung, um darzulegen, dass Russell nicht direkt die Unternehmensstruktur der Organisation oder spezifische Sicherheitsprotokolle bewertete.

Trotzdem muss dieser Reporter zusammen mit dem Richter und den Geschworenen entscheiden, wie viel Gewicht der Beziehung zwischen gewinnorientierten Unternehmensmotiven und KI-Sicherheitsbedenken beigemessen werden sollte. Fast alle OpenAI-Gründer haben eindringlich vor KI-Risiken gewarnt, gleichzeitig aber deren Vorteile hervorgehoben, sich bemüht, KI so schnell wie möglich zu entwickeln, und Pläne für gewinnorientierte KI-Unternehmen ausgearbeitet, die sie kontrollieren würden.

Aus externer Sicht zeichnet sich ein klares Problem ab: Die Gründer von OpenAI erkannten nach der Gründung, dass die Organisation erheblich mehr Rechenleistung benötigte, um erfolgreich zu sein. Diese Finanzierung konnte nur von gewinnorientierten Investoren stammen. Die Angst des Gründungsteams davor, dass AGI in die Hände einer einzigen Entität fallen könnte, trieb sie dazu, Kapital zu beschaffen, was letztlich das Team spaltete, die heutige wettbewerbsintensive Landschaft schuf und zu dieser Klage führte.

Derselbe Dynamik spielt sich auf nationaler Ebene ab: Der Vorschlag von Senator Bernie Sanders für ein Gesetz, das ein Moratorium für den Bau von Rechenzentren vorsieht, beruft sich auf die von Musk, Sam Altman, Geoffrey Hinton und anderen geäußerten KI-Befürchtungen. Hoden Omar, der für die Center for Data Innovation, eine Handelsorganisation, arbeitet, wandte sich gegen Sanders’ Berufung auf diese Befürchtungen, ohne deren Hoffnungen anzuerkennen, und sagte gegenüber TechCrunch, „es ist unklar, warum die Öffentlichkeit alles, was Tech-Billionäre sagen, ignorieren sollte, außer wenn ihre Worte herangezogen werden können, um Lücken in einem prekären Argument zu füllen.“

Nun bitten beide Seiten des Falls das Gericht, genau das zu tun: Einen Teil von Altmans und Musks Argumenten ernst zu nehmen, während die für ihre rechtliche Position weniger nützlichen Teile herabgestuft werden.