xAIs versprochener Sicherheitsbericht kommt nicht zustande

Elon Musks KI-Projekt xAI hat die selbst gesetzte Frist für die Veröffentlichung eines endgültigen KI-Sicherheitsrahmens nicht eingehalten, wie die Überwachungsorganisation The Midas Project herausstellte.
xAI ist nicht gerade für sein Engagement für konventionelle KI-Sicherheitsstandards bekannt. Jüngste Erkenntnisse zeigen, dass der Chatbot Grok des Unternehmens auf Anfrage unbekleidete Bilder von Frauen generiert. Im Vergleich zu anderen Chatbots wie Gemini und ChatGPT ist Grok auch wesentlich vulgärer und verwendet Schimpfwörter mit minimaler Zurückhaltung.
Auf dem AI Seoul Summit im Februar - einer globalen Konferenz von führenden KI-Experten und Interessenvertretern - veröffentlichte xAI einen Entwurf für ein Rahmenwerk, das seinen Ansatz für die KI-Sicherheit detailliert beschreibt. Das achtseitige Dokument umreißt die Sicherheitsprioritäten und die Betriebsphilosophie von xAI, einschließlich Benchmarking-Methoden und Überlegungen zum Einsatz von KI-Modellen.
Wie The Midas Project in seinem Blogbeitrag vom Dienstag feststellte, gilt der Rahmenentwurf nur für nicht näher bezeichnete künftige KI-Modelle, die sich "nicht in der Entwicklung befinden". Außerdem wurde nicht angegeben, wie xAI Strategien zur Risikominderung ermitteln und umsetzen würde - eine grundlegende Anforderung der Vereinbarung, die das Unternehmen auf dem AI Seoul Summit unterzeichnet hat.
In dem Entwurfsdokument hieß es, xAI werde "innerhalb von drei Monaten" eine überarbeitete Sicherheitsrichtlinie veröffentlichen, wobei als Frist der 10. Mai gesetzt wurde. Dieses Datum verstrich, ohne dass über die offiziellen Kommunikationskanäle von xAI eine Bestätigung erfolgte.
Trotz der wiederholten Warnungen von Musk vor den Gefahren einer unregulierten KI weist xAI eine besorgniserregende Sicherheitsbilanz auf. In einer kürzlich durchgeführten SaferAI-Studie - einer gemeinnützigen Organisation, die sich mit der Rechenschaftspflicht von KI-Labors befasst - wurde xAI aufgrund seiner "sehr schwachen" Risikomanagementprotokolle als eines der schlechtesten Unternehmen der Branche eingestuft.
Das soll nicht heißen, dass konkurrierende KI-Labors wesentlich besser abschneiden. In letzter Zeit haben xAI-Konkurrenten wie Google und OpenAI die Fristen für Sicherheitstests verkürzt und die Veröffentlichung von Sicherheitsberichten für Modelle verzögert - oder ganz ausgelassen. Einige Experten befürchten, dass diese offensichtliche Entpriorisierung von Sicherheitsmaßnahmen damit zusammenfällt, dass KI-Systeme leistungsfähiger - und potenziell gefährlicher - werden als je zuvor.
Besuchen Sie uns bei den TechCrunch Sessions: AI
Sichern Sie sich Ihren Platz auf unserer führenden KI-Branchenveranstaltung mit Rednern von OpenAI, Anthropic und Cohere. Für eine begrenzte Zeit können Sie für nur 292 $ einen ganzen Tag voller Expertenvorträge, Workshops und wertvollem Networking erleben.
Stellen Sie bei den TechCrunch Sessions aus: AI
Reservieren Sie Ihre Teilnahme an den TC Sessions: AI und präsentieren Sie Ihre Innovationen 1.200+ Entscheidungsträgern ohne großen Aufwand. Erhältlich bis zum 9. Mai oder solange Ausstellungsflächen verfügbar sind.
Verwandter Artikel
Frontier AI Labs weigert sich, Eindämmungsstrategien für außer Kontrolle geratene Modelle offenzulegen
Jüngste Untersuchungen zeigen, dass nur sehr wenige führende KI-Forschungslabore Maßnahmenpläne zur Eindämmung veröffentlicht oder vorgeführt haben. Ein solcher Eindämmungsplan legt die Vorgehensweise
Klage behauptet, dass xAI einen Ingenieur entlassen hat, der vor Sicherheitsrisiken von Grok gewarnt hat
Ein ehemaliger xAI-Ingenieur hat Elon Musks Unternehmen sowie dessen Muttergesellschaft SpaceX verklagt und wirft vor, er sei gekündigt worden, weil er Bedenken hinsichtlich der KI-Sicherheit geäußert hatte.Devin Kim, der xAI im September 2025 verlie
Elon Musk lobt „Mythos/Fable“ und verspricht, Anthropic nicht den Geldhahn zuzudrehen
Kann sich Anthropic darauf verlassen, dass Elon Musk seine Modelle hostet? Nachdem Nutzer auf X angedeutet hatten, Musk könnte das KI-Labor willkürlich von den Servern von SpaceX entfernen, um einen K
Empfehlungen zu verwandten Spezialthemen
Kommentare (2)
So Musk promised a safety report and then... nothing? Shocking, I know. 🙄 xAI talks a big game about 'maximally truth-seeking AI' but can't even deliver a basic framework on time. Maybe they're too busy tweeting memes about self-driving cars?

Elon Musks KI-Projekt xAI hat die selbst gesetzte Frist für die Veröffentlichung eines endgültigen KI-Sicherheitsrahmens nicht eingehalten, wie die Überwachungsorganisation The Midas Project herausstellte.
xAI ist nicht gerade für sein Engagement für konventionelle KI-Sicherheitsstandards bekannt. Jüngste Erkenntnisse zeigen, dass der Chatbot Grok des Unternehmens auf Anfrage unbekleidete Bilder von Frauen generiert. Im Vergleich zu anderen Chatbots wie Gemini und ChatGPT ist Grok auch wesentlich vulgärer und verwendet Schimpfwörter mit minimaler Zurückhaltung.
Auf dem AI Seoul Summit im Februar - einer globalen Konferenz von führenden KI-Experten und Interessenvertretern - veröffentlichte xAI einen Entwurf für ein Rahmenwerk, das seinen Ansatz für die KI-Sicherheit detailliert beschreibt. Das achtseitige Dokument umreißt die Sicherheitsprioritäten und die Betriebsphilosophie von xAI, einschließlich Benchmarking-Methoden und Überlegungen zum Einsatz von KI-Modellen.
Wie The Midas Project in seinem Blogbeitrag vom Dienstag feststellte, gilt der Rahmenentwurf nur für nicht näher bezeichnete künftige KI-Modelle, die sich "nicht in der Entwicklung befinden". Außerdem wurde nicht angegeben, wie xAI Strategien zur Risikominderung ermitteln und umsetzen würde - eine grundlegende Anforderung der Vereinbarung, die das Unternehmen auf dem AI Seoul Summit unterzeichnet hat.
In dem Entwurfsdokument hieß es, xAI werde "innerhalb von drei Monaten" eine überarbeitete Sicherheitsrichtlinie veröffentlichen, wobei als Frist der 10. Mai gesetzt wurde. Dieses Datum verstrich, ohne dass über die offiziellen Kommunikationskanäle von xAI eine Bestätigung erfolgte.
Trotz der wiederholten Warnungen von Musk vor den Gefahren einer unregulierten KI weist xAI eine besorgniserregende Sicherheitsbilanz auf. In einer kürzlich durchgeführten SaferAI-Studie - einer gemeinnützigen Organisation, die sich mit der Rechenschaftspflicht von KI-Labors befasst - wurde xAI aufgrund seiner "sehr schwachen" Risikomanagementprotokolle als eines der schlechtesten Unternehmen der Branche eingestuft.
Das soll nicht heißen, dass konkurrierende KI-Labors wesentlich besser abschneiden. In letzter Zeit haben xAI-Konkurrenten wie Google und OpenAI die Fristen für Sicherheitstests verkürzt und die Veröffentlichung von Sicherheitsberichten für Modelle verzögert - oder ganz ausgelassen. Einige Experten befürchten, dass diese offensichtliche Entpriorisierung von Sicherheitsmaßnahmen damit zusammenfällt, dass KI-Systeme leistungsfähiger - und potenziell gefährlicher - werden als je zuvor.
Besuchen Sie uns bei den TechCrunch Sessions: AI
Sichern Sie sich Ihren Platz auf unserer führenden KI-Branchenveranstaltung mit Rednern von OpenAI, Anthropic und Cohere. Für eine begrenzte Zeit können Sie für nur 292 $ einen ganzen Tag voller Expertenvorträge, Workshops und wertvollem Networking erleben.
Stellen Sie bei den TechCrunch Sessions aus: AI
Reservieren Sie Ihre Teilnahme an den TC Sessions: AI und präsentieren Sie Ihre Innovationen 1.200+ Entscheidungsträgern ohne großen Aufwand. Erhältlich bis zum 9. Mai oder solange Ausstellungsflächen verfügbar sind.
Frontier AI Labs weigert sich, Eindämmungsstrategien für außer Kontrolle geratene Modelle offenzulegen
Jüngste Untersuchungen zeigen, dass nur sehr wenige führende KI-Forschungslabore Maßnahmenpläne zur Eindämmung veröffentlicht oder vorgeführt haben. Ein solcher Eindämmungsplan legt die Vorgehensweise
Klage behauptet, dass xAI einen Ingenieur entlassen hat, der vor Sicherheitsrisiken von Grok gewarnt hat
Ein ehemaliger xAI-Ingenieur hat Elon Musks Unternehmen sowie dessen Muttergesellschaft SpaceX verklagt und wirft vor, er sei gekündigt worden, weil er Bedenken hinsichtlich der KI-Sicherheit geäußert hatte.Devin Kim, der xAI im September 2025 verlie
Elon Musk lobt „Mythos/Fable“ und verspricht, Anthropic nicht den Geldhahn zuzudrehen
Kann sich Anthropic darauf verlassen, dass Elon Musk seine Modelle hostet? Nachdem Nutzer auf X angedeutet hatten, Musk könnte das KI-Labor willkürlich von den Servern von SpaceX entfernen, um einen K
So Musk promised a safety report and then... nothing? Shocking, I know. 🙄 xAI talks a big game about 'maximally truth-seeking AI' but can't even deliver a basic framework on time. Maybe they're too busy tweeting memes about self-driving cars?





Heim






