Drei KI-Pioniere plädieren dafür, große Modelle offen zu halten, während die Sicherheitsbedenken zunehmen

Initiativen wie „Pacing the Frontier“ zielen darauf ab, die KI-Sicherheit durch Partnerschaften mit großen Labors zu gewährleisten, doch Open-Source-Modelle bleiben innerhalb der Branche ein umstrittenes Thema. Aufgrund ihrer kostenlosen Verbreitung und des fehlenden Nutzungscontrols sind Open-Weight-Modelle schwer zu regulieren, was dazu führt, dass einige Organisationen ihnen mit erheblicher Besorgnis begegnen.

Auf der letzten Woche in Las Vegas stattfindenden Ai4-Konferenz sprachen jedoch drei prominente KI-Experten – der Nobelpreisträger Geoffrey Hinton, die CEO und Co-Gründerin von World Labs, Fei-Fei Li, sowie der Co-Gründer von Coursera, Andrew Ng – über dieses Thema. Obwohl sie sich in Bezug auf konkrete Strategien unterschieden, vertraten alle drei nachdrücklich die Aufrechterhaltung eines offenen KI-Ökosystems.

Für diese Sprecher bestand das Hauptanliegen darin, zu verhindern, dass eine kleine Gruppe großer KI-Unternehmen den technologischen Fortschritt kontrolliert. Wenn sich wenige Unternehmen den Zugang zu einer Technologie aneignen, ähnlich wie Apple und Google die mobilen Betriebssysteme kontrollieren, kann die Innovation stagnieren, und Plattformbetreiber können diktieren, was entwickelt wird.

Andrew Ng äußerte Bedenken hinsichtlich eines ähnlichen Dynamik in der KI. „Ich möchte nicht, dass es Gatekeeper gibt“, erklärte Ng. „Das beschränkt, wie wir alle Zugang zu KI haben.“

Unternehmen sind motiviert, ihre Wettbewerbsvorteile zu schützen, auch durch die Gestaltung der Branchenregulierung. Dies könnte zu einem Szenario führen, in dem nur die größten, am besten finanzierten Unternehmen mit den Ressourcen zum Aufbau fortschrittlicher KI-Systeme überleben.

Ngs Lösung bestand darin, mehrere Anbieter zu erhalten, um sicherzustellen, dass Modelle und Unternehmen miteinander konkurrieren, anstatt wenigen Akteuren die Dominanz zu überlassen. „Wenn ich versuchen müsste, eine einzige Empfehlung auszusprechen, wäre es die Förderung von Offenheit“, sagte Ng, „denn KI ist eine erstaunliche Technologie, und ich möchte, dass sie in den Händen aller ist.“

Nicht jeder war der Ansicht, dass Open-Weight-Modelle dieses Wettbewerbsgleichgewicht bewahren würden. Hinton unterschied insbesondere zwischen Open-Source-Software, die den zugrunde liegenden Code zur Überprüfung und Modifikation verfügbar macht, und Open-Weight-Modellen, die die Parameter eines trainierten KI-Modells der Öffentlichkeit zugänglich machen.

„Open Source ist großartig. Man zeigt den Leuten den Code, und viele Leute schauen sich die Codezeilen an und sagen: ‚Oh, da ist ein Fehler.‘ Open Weights bedeutet, dass man ein großes Modell trainiert und dann den Leuten die Gewichte gibt. Das ist sehr unterschiedlich“, erklärte Hinton. „Ich war gegen Open [weights], weil es den Menschen so leicht macht, diese großen Foundation-Modelle, deren Training sehr teuer ist, für viel weniger Geld so zu trainieren, dass sie schlechte Dinge wie Cyberangriffe durchführen.“

Trotz seiner Vorbehalte räumte Hinton ein, dass Open-Weight-Modelle nun eine feste Größe in der KI sind. „Ich denke, dieser Kampf ist verloren. Wir haben jetzt Open-Weight-Modelle, sodass die Hürde für viele Menschen, an diese großen Modelle zu gelangen – die Kosten für das Training von Foundation-Modellen – verschwunden ist. Es ist zu spät.“

Die Akzeptanz der Realität bedeutete jedoch nicht, die Risiken zu ignorieren. Hints Position war klar: Die KI werde weiterhin voranschreiten, und er glaubte, dass dies überwiegend vorteilhaft sei. Er bemerkte, dass sie die Produktivität steigern und Bildung sowie Gesundheitswesen verbessern würde. „Sich Sorgen über die möglichen negativen Auswirkungen der KI und darüber zu machen, was intelligente Wesen tun könnten, wenn sie schlauer sind als wir. Ich denke nicht, dass das unfair ist. Ich finde es unfair, jeden, der so denkt, als Angstmacher zu brandmarken“, fügte Hinton hinzu.

Ng bot eine andere Perspektive. Er argumentierte, dass es nicht darum gehe, ob offene Modelle riskant seien, sondern wer den Zugang kontrolliere und wer den Markt gewinnen würde. Die Entität, die das günstigere Modell entwickelt, erlangt den Vorteil. Wenn Chinas Open-Weight-Modelle in Asien, Afrika und/oder der sich entwickelnden Welt weit verbreitet würden, warnte er, könnten sie beeinflussen, wie Milliarden von Menschen mit Konzepten zu Demokratie, Freiheit und Menschenrechten in Berührung kommen.

„Eine Sache, die ich hoffe, wir tun, ist, die Wettbewerbsfähigkeit und die Open-Source-KI in den USA zu fördern. Es stellt sich heraus, dass KI eine enorme Quelle weicher Macht ist. Man kann sehen, wie Chinas Modell in Afrika enorme Erfolge erzielt“, sagte Ng. „Aber meine Sorge ist, dass aufgrund der gesamten Lobbyarbeit in den USA und der Angstmacherei der Aufbau von Open-Source-KI in Amerika damit zu kämpfen hat, mit Open-Weight-Modellen aus China zu konkurrieren, und meine Sorge ist, dass, wenn China einen grundlegend kostengünstigeren Weg findet, KI zu entwickeln, Dinge, die kostengünstiger sind, einen grundlegenden Vorteil bei der geschäftlichen Adoption haben.“

Li stellte diese Darstellung in Frage. „Es ist sehr gefährlich, dies zu einer Dichotomie zwischen vollständiger Offenheit bis hin zur vollständigen Geschlossenheit zu machen“, sagte sie. „In komplexen Softwaresystemen sowie in wissenschaftlichen Systemen ist es viel nuancierter.“

Li führte die Kernphysik als Beispiel an: Wissenschaftliche Papers werden offen veröffentlicht, aber Uran wird reguliert, während Laborarbeiten irgendwo dazwischen liegen. Die Lehre, erklärte sie, sei, dass Offenheit keine Ja-oder-Nen-Entscheidung sein müsse. Verschiedene Schichten des Ökosystems können auf unterschiedlichen Ebenen der Offenheit operieren.

Sie hob zudem die Zusammenarbeit zwischen öffentlichen und privaten Institutionen hervor, wie das Human Genome Project. Das daraus resultierende Wissen sei zu einer Plattform geworden, auf der andere aufbauen könnten, sagte sie, wodurch Pharmakompanien Gewinne erzielen, Wissenschaftler ihre Arbeit vorantreiben und die Gesellschaft profitieren könne.

„Ich denke also, wir müssen [KI] als solche Infrastruktur nutzen“, sagte Li. „Wir brauchen gewisse Offenheitsgrade, sowohl in der wissenschaftlichen Entdeckung, in der Bildung, in globalen Partnerschaften als auch in gewinnbringenden Geschäftsmodellen für Unternehmer. Aber wir werden auch Closed-Source-Systeme akzeptieren. Diese Debatte, insbesondere auf der weitreichenden Ebene von ‚wir können nur eine tolerieren‘, ist eine falsche Debatte. Wir müssen zu einem Niveau der Nuance gelangen.“

Jedoch war sich jeder einig, dass gewissermaßen eine Regulierung notwendig sein würde, um die KI auf dem richtigen Kurs zu halten. „Was wir tun wollen, ist, KI in eine Richtung zu entwickeln, die den Menschen hilft, und Regulierung wird uns dabei helfen“, sagte Hinton. „Man kann es nicht Leuten wie Elon Musk und Mark Zuckerberg überlassen zu entscheiden, wie KI umgesetzt werden soll.“