Neue KI -Gesetzesvorlage in Kalifornien von SB 1047 Autor eingeführt

Kalifornischer Staatssenator Scott Wiener, der letztes Jahr mit dem umstrittenen AI-Sicherheitsgesetz SB 1047 für Aufsehen sorgte, ist mit einem weiteren Gesetzesvorschlag zurück, der in Silicon Valley für Unruhe sorgen dürfte. Am Freitag stellte Wiener SB 53 vor, das darauf abzielt, Mitarbeiter großer AI-Labore vor Vergeltung zu schützen, falls sie Bedenken äußern, dass die AI-Systeme ihres Unternehmens ein „kritisches Risiko“ für die Gesellschaft darstellen. Darüber hinaus schlägt das Gesetz die Schaffung von CalCompute vor, einem öffentlichen Cloud-Computing-Cluster, der Forschern und Startups die Rechenleistung bereitstellen soll, die für die Entwicklung von AI zum Wohle der Öffentlichkeit benötigt wird.

Wieners vorheriges Gesetz, SB 1047, löste eine intensive nationale Debatte darüber aus, wie große AI-Systeme verwaltet werden sollen, die potenziell katastrophale Ereignisse wie erheblichen Verlust von Menschenleben oder Cyberangriffe mit Schäden von über 500 Millionen Dollar verursachen könnten. Trotz der Kontroverse legte Gouverneur Gavin Newsom im September sein Veto gegen das Gesetz ein, mit der Begründung, es sei nicht der richtige Ansatz.

Die Folgen von SB 1047 waren heftig. Größen aus Silicon Valley argumentierten, das Gesetz würde Amerikas Vorsprung im globalen AI-Wettlauf untergraben, angeheizt durch ihrer Meinung nach unbegründete Ängste vor AI-bedingten apokalyptischen Szenarien. Wiener konterte und warf einigen Risikokapitalgebern vor, eine „Propagandakampagne“ gegen sein Gesetz zu orchestrieren. Insbesondere die Behauptung von Y Combinator, dass SB 1047 Startup-Gründer ins Gefängnis bringen könnte, wurde von Experten als irreführend bezeichnet.

SB 53 scheint eine strategische Neuorientierung zu sein, die sich auf die weniger umstrittenen Elemente von SB 1047 konzentriert. Es legt Wert auf Whistleblower-Schutz und die Einrichtung von CalCompute. Wiener weicht jedoch nicht von existenziellen AI-Risiken zurück. SB 53 schützt klar Whistleblower, die glauben, dass ihre Arbeitgeber AI-Systeme entwickeln, die ein „kritisches Risiko“ darstellen könnten, definiert als ein vorhersehbares oder wesentliches Risiko, das zum Tod oder schweren Verletzungen von über 100 Personen oder zu Schäden von mehr als 1 Milliarde Dollar führen könnte.

Das Gesetz richtet sich an Entwickler von Frontier-AI-Modellen wie OpenAI, Anthropic und xAI und verbietet ihnen, sich an Mitarbeitern zu rächen, die Bedenken an den Generalstaatsanwalt Kaliforniens, föderale Behörden oder andere Mitarbeiter melden. Diese Entwickler müssen zudem Whistleblowern über interne Prozesse berichten, die als bedenklich markiert wurden.

Was CalCompute betrifft, würde SB 53 eine Gruppe einrichten, die Vertreter der University of California und andere Forscher umfasst, um dessen Entwicklung zu planen. Sie werden die Größe des Clusters und den Zugang dazu festlegen.

SB 53 befindet sich noch in den frühen Stadien des Gesetzgebungsprozesses und benötigt die Zustimmung der kalifornischen Gesetzgebungsorgane, bevor es auf den Schreibtisch von Gouverneur Newsom gelangt. Die Reaktion von Silicon Valley auf dieses neue Gesetz wird genau beobachtet.

Die Verabschiedung von AI-Sicherheitsgesetzen im Jahr 2025 könnte schwieriger sein als 2024, als Kalifornien 18 AI-bezogene Gesetze verabschiedete. Die AI-Sicherheitsbewegung scheint an Schwung zu verlieren, insbesondere nach den Kommentaren von Vizepräsident J.D. Vance auf dem Paris AI Action Summit, wo er AI-Innovation über Sicherheit stellte. Während CalCompute als Förderung des AI-Fortschritts gesehen werden könnte, bleibt die Zukunft gesetzgeberischer Bemühungen, die sich auf existenzielle AI-Risiken konzentrieren, ungewiss.

[ttpp][yyxx]