HeimDie Gruppe von Fei-Fei Li fordert die vorbeugende KI-Sicherheitsgesetzgebung auf
Ein neuer Bericht einer kalifornischen Politikgruppe, geleitet von der KI-Pionierin Fei-Fei Li, schlägt vor, dass Gesetzgeber bei der Erstellung von KI-Regulierungspolitiken auch KI-Risiken berücksichtigen sollten, die in der realen Welt noch nicht aufgetreten sind. Dieser 41-seitige Zwischenbericht, am Dienstag veröffentlicht, stammt von der Joint California Policy Working Group on AI Frontier Models, die von Gouverneur Gavin Newsom eingerichtet wurde, nachdem er das umstrittene kalifornische KI-Sicherheitsgesetz SB 1047 abgelehnt hatte. Newsom war der Ansicht, dass SB 1047 nicht ganz ins Schwarze traf, erkannte jedoch die Notwendigkeit einer tiefergehenden Untersuchung von KI-Risiken, um die Gesetzgeber zu leiten.
In dem Bericht fordern Li, zusammen mit den Mitautoren Jennifer Chayes, Dekanin des College of Computing der UC Berkeley, und Mariano-Florentino Cuéllar, Präsident der Carnegie Endowment for International Peace, Gesetze, die klarer machen, was KI-Labore wie OpenAI tun. Vor der Veröffentlichung des Berichts wurde er von Branchenvertretern aus verschiedenen Bereichen geprüft, darunter starke Befürworter der KI-Sicherheit wie der Turing-Preisträger Yoshua Bengio und Gegner von SB 1047 wie der Databricks-Mitgründer Ion Stoica.
Der Bericht weist darauf hin, dass neue Risiken von KI-Systemen Gesetze erforderlich machen könnten, die Entwickler von KI-Modellen dazu verpflichten, ihre Sicherheitstests, Datenquellen und Sicherheitsmaßnahmen öffentlich zu teilen. Er fordert zudem bessere Standards für unabhängige Überprüfungen dieser Aspekte und Unternehmensrichtlinien sowie mehr Schutz für Mitarbeiter und Auftragnehmer von KI-Unternehmen, die Missstände melden.
Li und ihre Mitautoren erwähnen, dass es noch nicht genügend Beweise für das Potenzial von KI gibt, Cyberangriffe zu unterstützen, biologische Waffen herzustellen oder andere „extreme“ Gefahren zu verursachen. Sie betonen jedoch, dass KI-Politik nicht nur auf aktuelle Ereignisse reagieren sollte, sondern auch zukünftige Risiken berücksichtigen muss, wenn keine ausreichenden Sicherheitsmaßnahmen vorhanden sind.
Der Bericht verwendet das Beispiel einer Atomwaffe und sagt: „Wir müssen keine Atomwaffe explodieren sehen, um zu wissen, dass sie großen Schaden anrichten könnte.“ Er fährt fort: „Wenn diejenigen, die von den schlimmsten Risiken sprechen, recht haben – und wir sind uns nicht sicher, ob sie es sein werden –, dann könnte es sehr kostspielig sein, jetzt nichts in Bezug auf Frontier-KI zu unternehmen.“
Um die Entwicklung von KI-Modellen transparenter zu gestalten, schlägt der Bericht einen „Vertrauen, aber überprüfen“-Ansatz vor. Er besagt, dass KI-Modellentwickler und ihre Mitarbeiter Möglichkeiten haben sollten, über für die Öffentlichkeit relevante Dinge wie interne Sicherheitstests zu berichten, und dass ihre Testaussagen von Dritten überprüft werden müssen.
Obwohl der Bericht, der im Juni 2025 abgeschlossen wird, keine spezifischen Gesetze unterstützt, wurde er von Experten auf beiden Seiten der KI-Politikdebatte positiv aufgenommen.
Dean Ball, ein auf KI fokussierter Forschungsfellow an der George Mason University, der SB 1047 ablehnte, sagte auf X, dass der Bericht ein guter Schritt für die KI-Sicherheitsregeln Kaliforniens sei. Es ist auch ein Erfolg für KI-Sicherheitsbefürworter, laut dem kalifornischen Staatssenator Scott Wiener, der SB 1047 im letzten Jahr eingebracht hatte. Wiener sagte in einer Pressemitteilung, dass der Bericht zu den „dringenden Gesprächen über KI-Governance beiträgt, die wir 2024 im Gesetzgeber begonnen haben.“
Der Bericht stimmt teilweise mit SB 1047 und Wieners nächstem Gesetz, SB 53, überein, wie der Forderung, dass KI-Modellentwickler ihre Sicherheitstestresultate berichten. Insgesamt scheint es ein dringend benötigter Erfolg für KI-Sicherheitsbefürworter zu sein, deren Ideen im vergangenen Jahr an Boden verloren haben.
Verwandter Artikel
DeepMind-CEO Hassabis: Ich schlafe sechs Stunden pro Tag und fühle mich normalerweise gegen 1 Uhr nachts energiegeladen.
Fortune hat kürzlich ein Interview mit Demis Hassabis, dem CEO von Google DeepMind, veröffentlicht, das seinen unkonventionellen Ansatz zu Erholung und Produktivität offenbart. Hassabis gab bekannt, dass er sehr wenig schläft und seine wachen Stunden
OpenAI und Anthropic kämpfen trotz Umsatzrückgängen um Marktanteile
Obwohl jüngste Berichte darauf hindeuten, dass OpenAI seine Umsatzziele verfehlt hat, was an diesem Dienstag Druck auf die Technologieaktien ausübte, zeigen sich private Investoren in KI-Labore weiter
Einhaltung der Vorschriften für autonome Fahrzeuge in Kalifornien: Eine neue Ära von Bußgeldern, Geofences und 1 Million Meilen
Guident betreibt einen AuveTech-Shuttle in Südflorida und verwaltet mithilfe seiner Fernüberwachungstechnologie eine vier Meilen lange Strecke in West Palm Beach sowie eine eine Meile lange Strecke in
Empfehlungen zu verwandten Spezialthemen
Chatbot
Die besten KI-Rollenspiel-Chat-Apps für Sprachpraxis, Vorstellungsgesprächsvorbereitung und tägliche Sprechflüssigkeit
2026 Neueste Besten Top-bewerteten KI-Rollenspiel-Chat-Apps für Sprachpraxis, Vorstellungsgesprächsvorbereitung und tägliche Sprachflüssigkeit! XIX.AI kuratiert eine leistungsstarke, spielfeldverändernde Sammlung, die kostenlose gegen kostenpflichtige Vergleiche, reale Tests und wöchentlich aktualisierte Rankings bietet. Diese unbedingt auszuprobierenden Tools helfen Ihnen, Ihre Schreibfähigkeiten zu verbessern, Hürden der Sprachflüssigkeit zu überwinden und die Kommunikationseffizienz in allen alltäglichen Szenarien zu steigern. Entdecken Sie jetzt Ihr perfektes Werkzeug für Ihre Sprachentwicklung!
10 Tools
xix.ai
Musikkomposition
KI-Tools zur Stim-Trennung für die Remix-Produktion, die Vorbereitung von Samples und Karaoke-Master
Die besten und am besten bewerteten KI-Tools zur Stem-Trennung des Jahres 2026 – speziell ausgewählt für Remix-Produktionen, die Vorbereitung von Samples und Karaoke-Masters. Diese leistungsstarken, bahnbrechenden Tools haben sich in der Praxis bewährt und bieten präzise Audioisolierung, wodurch die Produktivität erheblich gesteigert wird. XIX.AI stellt einen wöchentlich aktualisierten Vergleichsleitfaden zwischen kostenlosen und kostenpflichtigen Lösungen bereit, der Ihnen hilft, die für Ihre Anforderungen passende Lösung zu finden, die Sie unbedingt ausprobieren sollten. Entdecken Sie ihn jetzt und sichern Sie sich Ihren KI-Vorteil.
8 Tools
xix.ai
Datenanalyse
KI-basierte SQL-Copiloten für Umsatz-Dashboards, Kanalanalysen sowie Produktmetriken
2026: Die neuesten und besten AI-SQL-Copiloten – alle in der Rangliste ganz oben! XIX.AI sammelt eine leistungsstarke Auswahl an Tools, die wöchentlich mit aktualisierten Tests aus der Praxis erweitert wird. Mit diesen unverzichtbaren Werkzeugen können Sie präzise Umsatzübersichten erstellen, Verkaufsprozesse analysieren sowie Produktmetriken schnell überwachen und so Ihre Produktivität erheblich steigern. Entdecken Sie jetzt das perfekte Tool für datenbasierte Entscheidungsfindung! 238 Zeichen
9 Tools
xix.ai
Musikkomposition
Die besten KI-Tools zum Komponieren von Melodien für Songentwürfe
2026 Neueste Besten Top-Bewerteten KI-Melodie-Schreibtools für Songentwürfe! XIX.AI hat eine hochleistungsfähige, bahnbrechende Kollektion zusammengestellt, die strengen Praxistests unterzogen wurde, um das beste Schreiberlebnis zu liefern. Sie finden detaillierte kostenlose versus kostenpflichtige Vergleiche, präzise Ranglisten und unbedingt auszuprobierende Optionen, die darauf ausgelegt sind, Ihnen zu helfen, beeindruckende Songentwürfe mühelos zu erstellen und Ihre kreative Produktivität erheblich zu steigern. Entdecken Sie jetzt Ihr perfektes Tool!
8 Tools
xix.ai
Chatbot
Die besten KI-gestützten Gesprächstrainingstools für Vorstellungsgesprächspraxis
2026 Neueste Besten Top-bewerteten KI-Konversationstrainer-Tools für Vorstellungsgesprächspraxis sind hier auf XIX.AI! Diese kuratierte Sammlung enthält leistungsstarke, bahnbrechende Tools, die strengen Praxistests unterzogen wurden, um präzises Feedback zu liefern. Sie finden einen Vergleich zwischen kostenlosen und kostenpflichtigen Optionen sowie detaillierte Rankings, die Ihnen helfen, die empfehlenswerte Option zu wählen, die Ihr Selbstvertrauen und Ihre Fähigkeiten verbessert. Entdecken Sie jetzt Ihr perfektes Tool für den Erfolg im Vorstellungsgespräch!
12 Tools
xix.ai
Design & Kunst
Die besten KI-Tools für den Stiltransfer für kreative Experimente
Die besten und am besten bewerteten KI-Tools für den Stiltransfer im Jahr 2026 – ideal für kreative Experimente! XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung unverzichtbarer Tools zusammengestellt, die in Praxistests und strengen Bewertungen außergewöhnliche Ergebnisse liefern. Diese Top-Lösungen helfen Kreativen dabei, ihre Produktivität deutlich zu steigern, indem sie die Erstellung von Inhalten beschleunigen und unendliche kreative Möglichkeiten eröffnen. Entdecken Sie jetzt Ihr perfektes Tool und legen Sie noch heute los!
9 Tools
xix.ai
Kommentare (39)
![GaryPerez]()
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
![CharlesRoberts]()
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
![HarrySmith]()
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
![PaulHill]()
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
![MichaelDavis]()
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
![JasonRoberts]()
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅
Ein neuer Bericht einer kalifornischen Politikgruppe, geleitet von der KI-Pionierin Fei-Fei Li, schlägt vor, dass Gesetzgeber bei der Erstellung von KI-Regulierungspolitiken auch KI-Risiken berücksichtigen sollten, die in der realen Welt noch nicht aufgetreten sind. Dieser 41-seitige Zwischenbericht, am Dienstag veröffentlicht, stammt von der Joint California Policy Working Group on AI Frontier Models, die von Gouverneur Gavin Newsom eingerichtet wurde, nachdem er das umstrittene kalifornische KI-Sicherheitsgesetz SB 1047 abgelehnt hatte. Newsom war der Ansicht, dass SB 1047 nicht ganz ins Schwarze traf, erkannte jedoch die Notwendigkeit einer tiefergehenden Untersuchung von KI-Risiken, um die Gesetzgeber zu leiten.
In dem Bericht fordern Li, zusammen mit den Mitautoren Jennifer Chayes, Dekanin des College of Computing der UC Berkeley, und Mariano-Florentino Cuéllar, Präsident der Carnegie Endowment for International Peace, Gesetze, die klarer machen, was KI-Labore wie OpenAI tun. Vor der Veröffentlichung des Berichts wurde er von Branchenvertretern aus verschiedenen Bereichen geprüft, darunter starke Befürworter der KI-Sicherheit wie der Turing-Preisträger Yoshua Bengio und Gegner von SB 1047 wie der Databricks-Mitgründer Ion Stoica.
Der Bericht weist darauf hin, dass neue Risiken von KI-Systemen Gesetze erforderlich machen könnten, die Entwickler von KI-Modellen dazu verpflichten, ihre Sicherheitstests, Datenquellen und Sicherheitsmaßnahmen öffentlich zu teilen. Er fordert zudem bessere Standards für unabhängige Überprüfungen dieser Aspekte und Unternehmensrichtlinien sowie mehr Schutz für Mitarbeiter und Auftragnehmer von KI-Unternehmen, die Missstände melden.
Li und ihre Mitautoren erwähnen, dass es noch nicht genügend Beweise für das Potenzial von KI gibt, Cyberangriffe zu unterstützen, biologische Waffen herzustellen oder andere „extreme“ Gefahren zu verursachen. Sie betonen jedoch, dass KI-Politik nicht nur auf aktuelle Ereignisse reagieren sollte, sondern auch zukünftige Risiken berücksichtigen muss, wenn keine ausreichenden Sicherheitsmaßnahmen vorhanden sind.
Der Bericht verwendet das Beispiel einer Atomwaffe und sagt: „Wir müssen keine Atomwaffe explodieren sehen, um zu wissen, dass sie großen Schaden anrichten könnte.“ Er fährt fort: „Wenn diejenigen, die von den schlimmsten Risiken sprechen, recht haben – und wir sind uns nicht sicher, ob sie es sein werden –, dann könnte es sehr kostspielig sein, jetzt nichts in Bezug auf Frontier-KI zu unternehmen.“
Um die Entwicklung von KI-Modellen transparenter zu gestalten, schlägt der Bericht einen „Vertrauen, aber überprüfen“-Ansatz vor. Er besagt, dass KI-Modellentwickler und ihre Mitarbeiter Möglichkeiten haben sollten, über für die Öffentlichkeit relevante Dinge wie interne Sicherheitstests zu berichten, und dass ihre Testaussagen von Dritten überprüft werden müssen.
Obwohl der Bericht, der im Juni 2025 abgeschlossen wird, keine spezifischen Gesetze unterstützt, wurde er von Experten auf beiden Seiten der KI-Politikdebatte positiv aufgenommen.
Dean Ball, ein auf KI fokussierter Forschungsfellow an der George Mason University, der SB 1047 ablehnte, sagte auf X, dass der Bericht ein guter Schritt für die KI-Sicherheitsregeln Kaliforniens sei. Es ist auch ein Erfolg für KI-Sicherheitsbefürworter, laut dem kalifornischen Staatssenator Scott Wiener, der SB 1047 im letzten Jahr eingebracht hatte. Wiener sagte in einer Pressemitteilung, dass der Bericht zu den „dringenden Gesprächen über KI-Governance beiträgt, die wir 2024 im Gesetzgeber begonnen haben.“
Der Bericht stimmt teilweise mit SB 1047 und Wieners nächstem Gesetz, SB 53, überein, wie der Forderung, dass KI-Modellentwickler ihre Sicherheitstestresultate berichten. Insgesamt scheint es ein dringend benötigter Erfolg für KI-Sicherheitsbefürworter zu sein, deren Ideen im vergangenen Jahr an Boden verloren haben.
DeepMind-CEO Hassabis: Ich schlafe sechs Stunden pro Tag und fühle mich normalerweise gegen 1 Uhr nachts energiegeladen.
Fortune hat kürzlich ein Interview mit Demis Hassabis, dem CEO von Google DeepMind, veröffentlicht, das seinen unkonventionellen Ansatz zu Erholung und Produktivität offenbart. Hassabis gab bekannt, dass er sehr wenig schläft und seine wachen Stunden
OpenAI und Anthropic kämpfen trotz Umsatzrückgängen um Marktanteile
Obwohl jüngste Berichte darauf hindeuten, dass OpenAI seine Umsatzziele verfehlt hat, was an diesem Dienstag Druck auf die Technologieaktien ausübte, zeigen sich private Investoren in KI-Labore weiter
Einhaltung der Vorschriften für autonome Fahrzeuge in Kalifornien: Eine neue Ära von Bußgeldern, Geofences und 1 Million Meilen
Guident betreibt einen AuveTech-Shuttle in Südflorida und verwaltet mithilfe seiner Fernüberwachungstechnologie eine vier Meilen lange Strecke in West Palm Beach sowie eine eine Meile lange Strecke in
2026 Neueste Besten Top-bewerteten KI-Rollenspiel-Chat-Apps für Sprachpraxis, Vorstellungsgesprächsvorbereitung und tägliche Sprachflüssigkeit! XIX.AI kuratiert eine leistungsstarke, spielfeldverändernde Sammlung, die kostenlose gegen kostenpflichtige Vergleiche, reale Tests und wöchentlich aktualisierte Rankings bietet. Diese unbedingt auszuprobierenden Tools helfen Ihnen, Ihre Schreibfähigkeiten zu verbessern, Hürden der Sprachflüssigkeit zu überwinden und die Kommunikationseffizienz in allen alltäglichen Szenarien zu steigern. Entdecken Sie jetzt Ihr perfektes Werkzeug für Ihre Sprachentwicklung!
10 Tools
xix.ai
Die besten und am besten bewerteten KI-Tools zur Stem-Trennung des Jahres 2026 – speziell ausgewählt für Remix-Produktionen, die Vorbereitung von Samples und Karaoke-Masters. Diese leistungsstarken, bahnbrechenden Tools haben sich in der Praxis bewährt und bieten präzise Audioisolierung, wodurch die Produktivität erheblich gesteigert wird. XIX.AI stellt einen wöchentlich aktualisierten Vergleichsleitfaden zwischen kostenlosen und kostenpflichtigen Lösungen bereit, der Ihnen hilft, die für Ihre Anforderungen passende Lösung zu finden, die Sie unbedingt ausprobieren sollten. Entdecken Sie ihn jetzt und sichern Sie sich Ihren KI-Vorteil.
8 Tools
xix.ai
2026: Die neuesten und besten AI-SQL-Copiloten – alle in der Rangliste ganz oben! XIX.AI sammelt eine leistungsstarke Auswahl an Tools, die wöchentlich mit aktualisierten Tests aus der Praxis erweitert wird. Mit diesen unverzichtbaren Werkzeugen können Sie präzise Umsatzübersichten erstellen, Verkaufsprozesse analysieren sowie Produktmetriken schnell überwachen und so Ihre Produktivität erheblich steigern. Entdecken Sie jetzt das perfekte Tool für datenbasierte Entscheidungsfindung! 238 Zeichen
9 Tools
xix.ai
2026 Neueste Besten Top-Bewerteten KI-Melodie-Schreibtools für Songentwürfe! XIX.AI hat eine hochleistungsfähige, bahnbrechende Kollektion zusammengestellt, die strengen Praxistests unterzogen wurde, um das beste Schreiberlebnis zu liefern. Sie finden detaillierte kostenlose versus kostenpflichtige Vergleiche, präzise Ranglisten und unbedingt auszuprobierende Optionen, die darauf ausgelegt sind, Ihnen zu helfen, beeindruckende Songentwürfe mühelos zu erstellen und Ihre kreative Produktivität erheblich zu steigern. Entdecken Sie jetzt Ihr perfektes Tool!
8 Tools
xix.ai
2026 Neueste Besten Top-bewerteten KI-Konversationstrainer-Tools für Vorstellungsgesprächspraxis sind hier auf XIX.AI! Diese kuratierte Sammlung enthält leistungsstarke, bahnbrechende Tools, die strengen Praxistests unterzogen wurden, um präzises Feedback zu liefern. Sie finden einen Vergleich zwischen kostenlosen und kostenpflichtigen Optionen sowie detaillierte Rankings, die Ihnen helfen, die empfehlenswerte Option zu wählen, die Ihr Selbstvertrauen und Ihre Fähigkeiten verbessert. Entdecken Sie jetzt Ihr perfektes Tool für den Erfolg im Vorstellungsgespräch!
12 Tools
xix.ai
Die besten und am besten bewerteten KI-Tools für den Stiltransfer im Jahr 2026 – ideal für kreative Experimente! XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung unverzichtbarer Tools zusammengestellt, die in Praxistests und strengen Bewertungen außergewöhnliche Ergebnisse liefern. Diese Top-Lösungen helfen Kreativen dabei, ihre Produktivität deutlich zu steigern, indem sie die Erstellung von Inhalten beschleunigen und unendliche kreative Möglichkeiten eröffnen. Entdecken Sie jetzt Ihr perfektes Tool und legen Sie noch heute los!
9 Tools
xix.ai
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅
