OpenAI befürchtet Open-Weight-Modelle. Sollte die USA besorgt sein?

Die Einführung von Kimi K3, des größten Open-Weight-Großsprachmodells des chinesischen Labors Moonshot, hat eine Debatte entfacht, die zwei unterschiedliche Probleme vermischt: die wirtschaftlichen Strategien amerikanischer KI-Giganten und den technologischen Weg von LLMs.

Dean W. Ball, OpenAI’s Leiter für strategische Zukunftsszenarien, schlug vor, dass die US-Regierung regulatorische Ängste und Unsicherheiten im Zusammenhang mit neuen Modellen schüren sollte, da er argumentierte, dass Open-Weight-Architekturen die Kapitalausgaben von Frontier-Labs unweigerlich abschrecken.

Die Gegenreaktion war schnell, wobei Tech-Führer wie Yann LeCun und Martin Casado geltend machten, dass Open-Software die Innovation beschleunigt und mit proprietären Projekten koexistieren kann. Ball zog später seine Behauptungen zurück, dass eine regulatorische Verschärfung die „beste Strategie“ des Weißen Hauses sei und dass Open-Weight-Modelle den technologischen Fortschritt notwendigerweise behindern.

Axios berichtet jedoch, dass die Trump-Regierung in Erwägung zieht, K3 und andere fortschrittliche chinesische Modelle auf Drängen amerikanischer Frontier-Labs zu verbieten. Umgekehrt zeigt ein Bericht von Politico, dass das Handelsministerium nicht plant, in naher Zukunft solche Maßnahmen zu ergreifen.

Der Vorteil für große KI-Unternehmen ist klar: Open-Weight-Modelle, die auf unabhängiger Infrastruktur oder innerhalb von Unternehmen laufen können, bieten günstigere Intelligenz als die proprietären Angebote von Anthropic oder OpenAI. Wenn Nutzer zunehmend außerhalb geschlossener Labs Ausgaben tätigen, sinkt die Rendite der massiven Trainingsinvestitionen von Frontier-Labs.

Diese Perspektive geht über OpenAI hinaus. „Starke, frontier-kalibrierte Open-Source-Modelle werden die Margen drücken und die Preise für Frontier-Unternehmen senken“, sagte Braden Hancock, Mitbegründer von Snorkel AI und Forschungspartner am Laude Institute, gegenüber TechCrunch. „Es wird nicht unbedingt die KI-Nutzung reduzieren; vielmehr ist das Gegenteil wahrscheinlich.“

Für diejenigen, die keine Anteile an Anthropic oder OpenAI halten, ist dies kein Problem. KI wird weiterhin verbreitet sein. Was rechtfertigt also, dass die Regierung Amerikanern den Kauf von Produkten in scheinbar freien Märkten verbietet?

Die Bedenken hinsichtlich chinesischer Modelle variieren. Ein Argument betrifft den Schutz US-amerikanischer Daten vor der chinesischen Regierung, ähnlich wie das Verbot moderner chinesischer Elektrofahrzeuge aufgrund von Datenschutzbedenken. Experten glauben jedoch, dass Open-Weight-Modelle, die auf US-Servern gehostet werden, wahrscheinlich keine Daten an China weiterleiten, auch wenn es eine Möglichkeit bleibt.

Ein weiteres Bedenken ist, dass diese Modelle eine implizite Voreingenommenheit gegenüber der VRCh bergen könnten, obwohl die Auswirkungen auf Aufgaben wie das Programmieren noch unklar sind.

Eine dritte häufige Sorge ist, dass chinesische Modelle die von der US-Regierung (durch einen intransparenten Prozess) vorgeschriebenen Sicherheitsvorkehrungen fehlen, um die Ausnutzung geschlossener Systeme oder die Herstellung von Waffen zu verhindern. Doch genau diese Sicherheitsvorkehrungen können US-Unternehmen verwundbarer machen: David Sacks, ein Venture-Capital-Investor und Trump-Berater, hat Fälle hervorgehoben, in denen US-Unternehmen auf chinesische LLMs zurückgreifen, um Sicherheitsbeschränkungen zu umgehen, die von US-Frontier-Modellen auferlegt wurden.

Die bedeutendste Motivation für die Einschränkung dieser Modelle ist jedoch die Angst, dass China die USA überholen wird, wenn Frontier-Labs ihre Entwicklung verlangsamen.

Sam Bresnick, ein China-spezifischer Forschungsfellow am Center for Security and Emerging Technologies der Georgetown University, argumentiert, dass die wachsende Bedeutung von KI für die US-Militäroperationen eine fortgesetzte Investition in Frontier-Labs rechtfertigt. Dennoch stellt er fest, dass die gesamte Frage voller Komplexität steckt.

„Warum sollte das Gewicht der US-Regierung darauf abzielen, diese Unternehmen vor Wettbewerbern zu schützen, die aufgrund ihrer Herkunft vom US-Markt ausgeschlossen sind?“, fragt Bresnick.

Befürworter von offener KI argumentieren, dass Frontier-Unternehmen einen falschen Dualismus zwischen Innovation und geschlossenen Modellen schaffen.

„Die größere Auswirkung der Tatsache, dass diese Open-Source-Modelle aus China stammen, liegt weniger darin, dass sie sich über Hintertüren einschleichen, sondern vielmehr darin, dass sie die Innovation beherrschen“, sagte Hancock gegenüber TechCrunch. „Am Ende hat man effektiv eine erweiterte Belegschaft für Ihr Modell. PyTorch wurde zum Industriestandard, weil es Open-Source war, und so konnte die gesamte Gemeinschaft dazu beitragen, anstatt nur ein Unternehmen, und es wuchs und wuchs, während der Rest der Deep-Learning-Bibliotheken im Vergleich dazu praktisch ausstarb.“

Hancock und andere Befürworter befürchten, dass chinesische LLMs zum Zentrum der internationalen Forschung werden. Bereits heute bauen US-Graduiertenprogramme hauptsächlich auf Open-Weight-chinesischen Modellen auf, und Hancock stellt fest, dass die Hälfte der von Studenten untersuchten Papers aus chinesischen Institutionen stammt, da US-Frontier-Labs zunehmend zögern, ihre Arbeit weitreichend zu teilen.

„Die Einschränkung offener Modelle würde KI nicht sicherer machen“, sagte Clem Delangue, CEO von Hugging Face, einer Plattform für Open-KI-Zusammenarbeit. „Sie würde die Risiken einfach verbergen, die Macht in den Händen weniger konzentrieren und es der nächsten Generation von Entwicklern, Forschern, der Wissenschaft, Nichtregierungsorganisationen und Regierungen erschweren, an der Herstellung von sicherer und für alle vorteilhafterer KI mitzuwirken.“

Bresnick schlägt vor, dass der eigentliche Weg, Chinas Fortschritt zu verlangsamen, darin besteht, sich auf Chip-Exportkontrollen zu konzentrieren. Eine bessere Strategie zur Erhaltung der US-Führung in der KI wäre, den Verkauf von Nvidia-H200-Prozessoren an China einzustellen. „Das“, sagt er, „könnte uns potenziell aus dieser schwierigen Debatte über das Verbot von Open-Source-Technologien heraushalten, die eine enorme Anzahl von US-Unternehmen nutzen möchte.“

Ein Teil des Problems liegt in der Unsicherheit bezüglich der KI-Wirtschaft. „Das Open-Geschäftsmodell, das proprietäre Geschäftsmodell – keines ist ausgearbeitet. KI-Unternehmen kämpfen damit, herauszufinden, wie sie mit ihren Tools Geld verdienen können, insbesondere da die Trainingskosten immer weiter steigen müssen“, weist Bresnick darauf hin.

Die gleichen Herausforderungen, die sich in den USA abspielen, sind auch in China evident, wo KI-Unternehmen Schwierigkeiten haben, Einnahmen zu generieren und Rechenleistung zu erhalten. Die chinesische Regierung fördert Open-Veröffentlichungen aus politischen Gründen, trotz der Schwierigkeiten, sie kommerziell zu verwerten.

Einige US-Unternehmen, darunter Thinking Machines Lab und Nvidia, versuchen, ein Geschäft um die Veröffentlichung offener Modelle aufzubauen. Hancock stellt fest, dass Nvidia mehr davon profitieren würde, „wenn es Dutzende oder Hunderte von Unternehmen gibt, die KI aufbauen, als wenn es nur zwei oder drei gut kapitalisierte Unternehmen gibt, die ihre eigenen Chips herstellen können“, was seine Investition in Nemotron, eine Sammlung offener Modelle, erklärt.

„Der Hauptpunkt ist, dass die USA sehr gut daran täten, ihre eigenen sehr leistungsfähigen, viel günstigeren Open-Modelle zu haben“, sagte Bresnick. „Das steht einfach im Widerspruch zum Ansatz, den die Frontier-Labs eingeschlagen haben.“

Mit zusätzlichen Berichten von Rebecca Bellan.