Die Gruppe von Fei-Fei Li fordert die vorbeugende KI-Sicherheitsgesetzgebung auf

Ein neuer Bericht einer kalifornischen Politikgruppe, geleitet von der KI-Pionierin Fei-Fei Li, schlägt vor, dass Gesetzgeber bei der Erstellung von KI-Regulierungspolitiken auch KI-Risiken berücksichtigen sollten, die in der realen Welt noch nicht aufgetreten sind. Dieser 41-seitige Zwischenbericht, am Dienstag veröffentlicht, stammt von der Joint California Policy Working Group on AI Frontier Models, die von Gouverneur Gavin Newsom eingerichtet wurde, nachdem er das umstrittene kalifornische KI-Sicherheitsgesetz SB 1047 abgelehnt hatte. Newsom war der Ansicht, dass SB 1047 nicht ganz ins Schwarze traf, erkannte jedoch die Notwendigkeit einer tiefergehenden Untersuchung von KI-Risiken, um die Gesetzgeber zu leiten.

In dem Bericht fordern Li, zusammen mit den Mitautoren Jennifer Chayes, Dekanin des College of Computing der UC Berkeley, und Mariano-Florentino Cuéllar, Präsident der Carnegie Endowment for International Peace, Gesetze, die klarer machen, was KI-Labore wie OpenAI tun. Vor der Veröffentlichung des Berichts wurde er von Branchenvertretern aus verschiedenen Bereichen geprüft, darunter starke Befürworter der KI-Sicherheit wie der Turing-Preisträger Yoshua Bengio und Gegner von SB 1047 wie der Databricks-Mitgründer Ion Stoica.

Der Bericht weist darauf hin, dass neue Risiken von KI-Systemen Gesetze erforderlich machen könnten, die Entwickler von KI-Modellen dazu verpflichten, ihre Sicherheitstests, Datenquellen und Sicherheitsmaßnahmen öffentlich zu teilen. Er fordert zudem bessere Standards für unabhängige Überprüfungen dieser Aspekte und Unternehmensrichtlinien sowie mehr Schutz für Mitarbeiter und Auftragnehmer von KI-Unternehmen, die Missstände melden.

Li und ihre Mitautoren erwähnen, dass es noch nicht genügend Beweise für das Potenzial von KI gibt, Cyberangriffe zu unterstützen, biologische Waffen herzustellen oder andere „extreme“ Gefahren zu verursachen. Sie betonen jedoch, dass KI-Politik nicht nur auf aktuelle Ereignisse reagieren sollte, sondern auch zukünftige Risiken berücksichtigen muss, wenn keine ausreichenden Sicherheitsmaßnahmen vorhanden sind.

Der Bericht verwendet das Beispiel einer Atomwaffe und sagt: „Wir müssen keine Atomwaffe explodieren sehen, um zu wissen, dass sie großen Schaden anrichten könnte.“ Er fährt fort: „Wenn diejenigen, die von den schlimmsten Risiken sprechen, recht haben – und wir sind uns nicht sicher, ob sie es sein werden –, dann könnte es sehr kostspielig sein, jetzt nichts in Bezug auf Frontier-KI zu unternehmen.“

Um die Entwicklung von KI-Modellen transparenter zu gestalten, schlägt der Bericht einen „Vertrauen, aber überprüfen“-Ansatz vor. Er besagt, dass KI-Modellentwickler und ihre Mitarbeiter Möglichkeiten haben sollten, über für die Öffentlichkeit relevante Dinge wie interne Sicherheitstests zu berichten, und dass ihre Testaussagen von Dritten überprüft werden müssen.

Obwohl der Bericht, der im Juni 2025 abgeschlossen wird, keine spezifischen Gesetze unterstützt, wurde er von Experten auf beiden Seiten der KI-Politikdebatte positiv aufgenommen.

Dean Ball, ein auf KI fokussierter Forschungsfellow an der George Mason University, der SB 1047 ablehnte, sagte auf X, dass der Bericht ein guter Schritt für die KI-Sicherheitsregeln Kaliforniens sei. Es ist auch ein Erfolg für KI-Sicherheitsbefürworter, laut dem kalifornischen Staatssenator Scott Wiener, der SB 1047 im letzten Jahr eingebracht hatte. Wiener sagte in einer Pressemitteilung, dass der Bericht zu den „dringenden Gesprächen über KI-Governance beiträgt, die wir 2024 im Gesetzgeber begonnen haben.“

Der Bericht stimmt teilweise mit SB 1047 und Wieners nächstem Gesetz, SB 53, überein, wie der Forderung, dass KI-Modellentwickler ihre Sicherheitstestresultate berichten. Insgesamt scheint es ein dringend benötigter Erfolg für KI-Sicherheitsbefürworter zu sein, deren Ideen im vergangenen Jahr an Boden verloren haben.