Option
Heim
Nachricht
Die Gruppe von Fei-Fei Li fordert die vorbeugende KI-Sicherheitsgesetzgebung auf

Die Gruppe von Fei-Fei Li fordert die vorbeugende KI-Sicherheitsgesetzgebung auf

10. April 2025
204

Die Gruppe von Fei-Fei Li fordert die vorbeugende KI-Sicherheitsgesetzgebung auf

Ein neuer Bericht einer kalifornischen Politikgruppe, geleitet von der KI-Pionierin Fei-Fei Li, schlägt vor, dass Gesetzgeber bei der Erstellung von KI-Regulierungspolitiken auch KI-Risiken berücksichtigen sollten, die in der realen Welt noch nicht aufgetreten sind. Dieser 41-seitige Zwischenbericht, am Dienstag veröffentlicht, stammt von der Joint California Policy Working Group on AI Frontier Models, die von Gouverneur Gavin Newsom eingerichtet wurde, nachdem er das umstrittene kalifornische KI-Sicherheitsgesetz SB 1047 abgelehnt hatte. Newsom war der Ansicht, dass SB 1047 nicht ganz ins Schwarze traf, erkannte jedoch die Notwendigkeit einer tiefergehenden Untersuchung von KI-Risiken, um die Gesetzgeber zu leiten.

In dem Bericht fordern Li, zusammen mit den Mitautoren Jennifer Chayes, Dekanin des College of Computing der UC Berkeley, und Mariano-Florentino Cuéllar, Präsident der Carnegie Endowment for International Peace, Gesetze, die klarer machen, was KI-Labore wie OpenAI tun. Vor der Veröffentlichung des Berichts wurde er von Branchenvertretern aus verschiedenen Bereichen geprüft, darunter starke Befürworter der KI-Sicherheit wie der Turing-Preisträger Yoshua Bengio und Gegner von SB 1047 wie der Databricks-Mitgründer Ion Stoica.

Der Bericht weist darauf hin, dass neue Risiken von KI-Systemen Gesetze erforderlich machen könnten, die Entwickler von KI-Modellen dazu verpflichten, ihre Sicherheitstests, Datenquellen und Sicherheitsmaßnahmen öffentlich zu teilen. Er fordert zudem bessere Standards für unabhängige Überprüfungen dieser Aspekte und Unternehmensrichtlinien sowie mehr Schutz für Mitarbeiter und Auftragnehmer von KI-Unternehmen, die Missstände melden.

Li und ihre Mitautoren erwähnen, dass es noch nicht genügend Beweise für das Potenzial von KI gibt, Cyberangriffe zu unterstützen, biologische Waffen herzustellen oder andere „extreme“ Gefahren zu verursachen. Sie betonen jedoch, dass KI-Politik nicht nur auf aktuelle Ereignisse reagieren sollte, sondern auch zukünftige Risiken berücksichtigen muss, wenn keine ausreichenden Sicherheitsmaßnahmen vorhanden sind.

Der Bericht verwendet das Beispiel einer Atomwaffe und sagt: „Wir müssen keine Atomwaffe explodieren sehen, um zu wissen, dass sie großen Schaden anrichten könnte.“ Er fährt fort: „Wenn diejenigen, die von den schlimmsten Risiken sprechen, recht haben – und wir sind uns nicht sicher, ob sie es sein werden –, dann könnte es sehr kostspielig sein, jetzt nichts in Bezug auf Frontier-KI zu unternehmen.“

Um die Entwicklung von KI-Modellen transparenter zu gestalten, schlägt der Bericht einen „Vertrauen, aber überprüfen“-Ansatz vor. Er besagt, dass KI-Modellentwickler und ihre Mitarbeiter Möglichkeiten haben sollten, über für die Öffentlichkeit relevante Dinge wie interne Sicherheitstests zu berichten, und dass ihre Testaussagen von Dritten überprüft werden müssen.

Obwohl der Bericht, der im Juni 2025 abgeschlossen wird, keine spezifischen Gesetze unterstützt, wurde er von Experten auf beiden Seiten der KI-Politikdebatte positiv aufgenommen.

Dean Ball, ein auf KI fokussierter Forschungsfellow an der George Mason University, der SB 1047 ablehnte, sagte auf X, dass der Bericht ein guter Schritt für die KI-Sicherheitsregeln Kaliforniens sei. Es ist auch ein Erfolg für KI-Sicherheitsbefürworter, laut dem kalifornischen Staatssenator Scott Wiener, der SB 1047 im letzten Jahr eingebracht hatte. Wiener sagte in einer Pressemitteilung, dass der Bericht zu den „dringenden Gesprächen über KI-Governance beiträgt, die wir 2024 im Gesetzgeber begonnen haben.“

Der Bericht stimmt teilweise mit SB 1047 und Wieners nächstem Gesetz, SB 53, überein, wie der Forderung, dass KI-Modellentwickler ihre Sicherheitstestresultate berichten. Insgesamt scheint es ein dringend benötigter Erfolg für KI-Sicherheitsbefürworter zu sein, deren Ideen im vergangenen Jahr an Boden verloren haben.

Verwandter Artikel
Yaoke Medias erste AIGC-Serie „Das Geheimnis der Bronzefiguren im Qinling-Gebirge“ startet heute mit KI-generierten Hauptdarstellern Yaoke Medias erste AIGC-Serie „Das Geheimnis der Bronzefiguren im Qinling-Gebirge“ startet heute mit KI-generierten Hauptdarstellern Heute ist der offizielle Starttag von Yaoke Medias AIGC-Fantasy-Mystery-Kurzserie „Die geheime Geschichte der Qinling-Bronze“. Mit den ersten beiden unter Vertrag genommenen KI-Schauspielern des Unter
Satya Nadella bereit, die neuen Vorteile der Vereinbarung mit OpenAI zu nutzen Satya Nadella bereit, die neuen Vorteile der Vereinbarung mit OpenAI zu nutzen Am Mittwoch fragte ein Analyst von Wall Street den Microsoft-CEO Satya Nadella direkt, wie die überarbeitete Partnerschaft mit OpenAI die finanziellen Ergebnisse des Unternehmens beeinflussen würde.Nadella bezeichnete die neue Vereinbarung als einen
WordPress.com ermöglicht es nun KI-Agenten, Beiträge zu verfassen und zu veröffentlichen – und vieles mehr WordPress.com ermöglicht es nun KI-Agenten, Beiträge zu verfassen und zu veröffentlichen – und vieles mehr WordPress.com, die beliebte Webhosting- und Publishing-Plattform, setzt nun auf KI-Agenten – ein Schritt, der das Erscheinungsbild des Internets grundlegend verändern könnte. Das Unternehmen gab am Fr
Empfehlungen zu verwandten Spezialthemen
Geschäft Die besten KI-basierten Spesenabrechnungsprogramme: Quittungen scannen und Geschäftsausgaben automatisch kategorisieren
Die besten KI-basierten Spesenabrechnungsprogramme: Quittungen scannen und Geschäftsausgaben automatisch kategorisieren

Die besten KI-basierten Spesenmanager 2026: Erstklassige Tools zum Scannen von Belegen und zur automatischen Kategorisierung von Unternehmensausgaben. Entdecken Sie leistungsstarke, bahnbrechende Lösungen für müheloses Spesenmanagement, präzise Finanzüberwachung und optimierte Compliance. Unser sorgfältig zusammengestellter, wöchentlich aktualisierter Vergleich zwischen kostenlosen und kostenpflichtigen Optionen hilft Ihnen dabei, die perfekte Lösung zu finden. Nutzen Sie Ihren KI-Vorteil mit den Expertenempfehlungen von XIX.AI.

10 Tools
xix.ai
Geschäft Die besten KI-Tools für die Personalbeschaffung: Lebensläufe prüfen und die Terminplanung für Vorstellungsgespräche automatisieren
Die besten KI-Tools für die Personalbeschaffung: Lebensläufe prüfen und die Terminplanung für Vorstellungsgespräche automatisieren

Entdecken Sie auf XIX.AI die besten KI-Tools für die Personalbeschaffung des Jahres 2026. Unsere sorgfältig zusammengestellte Liste umfasst leistungsstarke, bahnbrechende Lösungen für die Sichtung von Lebensläufen und die automatisierte Terminplanung für Vorstellungsgespräche. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests und wöchentlich aktualisierten Rankings. Finden Sie Ihren perfekten Assistenten für die Personalbeschaffung und optimieren Sie noch heute Ihren Rekrutierungsprozess!

10 Tools
xix.ai
Produktivität KI-Coaches für persönliches Wohlbefinden und Konzentration: Burnout bewältigen und die geistige Energie steigern
KI-Coaches für persönliches Wohlbefinden und Konzentration: Burnout bewältigen und die geistige Energie steigern

Entdecken Sie auf XIX.AI die besten KI-basierten Coaches für persönliches Wohlbefinden und Konzentration des Jahres 2026. Unsere sorgfältig zusammengestellte Rangliste umfasst erstklassige, bahnbrechende Tools zur Bewältigung von Burnout und zur Steigerung der mentalen Energie. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Erfahrungsberichten aus der Praxis. Schlagen Sie noch heute den Weg zu höchster Produktivität und Wohlbefinden ein.

10 Tools
xix.ai
Chatbot Die besten KI-basierten Romantik-Chatbots: Bauen Sie langfristige Beziehungen mit beständiger Persönlichkeit auf
Die besten KI-basierten Romantik-Chatbots: Bauen Sie langfristige Beziehungen mit beständiger Persönlichkeit auf

Entdecken Sie die besten KI-Romantik-Chatbots des Jahres 2026, mit denen Sie echte, langfristige Beziehungen aufbauen können. Unsere sorgfältig zusammengestellte Liste bietet Ihnen überzeugende, konsistente Persönlichkeiten, Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten sowie Tests aus der Praxis. Finden Sie Ihren perfekten Begleiter und legen Sie noch heute bei XIX.AI los.

10 Tools
xix.ai
Bildung und Lernen Die besten AI-Datenwissenschafts-Mentoren: Beherrschen Sie SQL, Pandas und Arbeitsabläufe für maschinelles Lernen.
Die besten AI-Datenwissenschafts-Mentoren: Beherrschen Sie SQL, Pandas und Arbeitsabläufe für maschinelles Lernen.

Entdecken Sie die besten AI-Data-Science-Mentoren von 2026, um SQL, Pandas und ML-Arbeitsabläufe zu meistern. Erfahren Sie mehr über unsere hochbewerteten, sorgfältig ausgewählten Angebote bei XIX.AI – für effektive und bahnbrechende Anleitung. Vergleichen Sie kostenlose und bezahlte Optionen mit praktischen Einblicken aus der Praxis. Entfalten Sie Ihr Potenzial in der Data Science noch heute.

10 Tools
xix.ai
Chatbot Die besten KI-Flirt- und Konversationstrainer: Steigere dein soziales Charisma und dein Selbstvertrauen in Echtzeit
Die besten KI-Flirt- und Konversationstrainer: Steigere dein soziales Charisma und dein Selbstvertrauen in Echtzeit

Entdecken Sie auf XIX.AI die besten KI-Flirt- und Konversationstrainer des Jahres 2026. Unsere sorgfältig zusammengestellte, erstklassige Auswahl hilft Ihnen dabei, Ihr soziales Charisma und Ihr Selbstvertrauen in Echtzeit zu stärken. Entdecken Sie unverzichtbare, bahnbrechende Tools mit Vergleichen zwischen kostenlosen und kostenpflichtigen Angeboten sowie wöchentlich aktualisierten Rankings. Schaffen Sie sich noch heute einen sozialen Vorsprung.

10 Tools
xix.ai
Kommentare (39)
0/500
GaryPerez
GaryPerez 3. Mai 2026 08:00:31 MESZ

Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.

CharlesRoberts
CharlesRoberts 30. November 2025 17:30:39 MEZ

Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠

HarrySmith
HarrySmith 27. August 2025 23:01:36 MESZ

This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?

PaulHill
PaulHill 25. August 2025 17:01:14 MESZ

Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!

MichaelDavis
MichaelDavis 17. April 2025 14:14:46 MESZ

O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅

JasonRoberts
JasonRoberts 16. April 2025 18:17:56 MESZ

¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅

OR