HeimOpenAI beschleunigt Veröffentlichung von KI-Sicherheitstestdaten
OpenAI verpflichtet sich, die Ergebnisse der internen Sicherheitsbewertung seiner KI-Modelle häufiger zu veröffentlichen, und bezeichnet dies als einen Schritt zu mehr Transparenz.
Das Unternehmen startete am Mittwoch den Safety Evaluations Hub, eine spezielle Webseite, die zeigt, wie seine Modelle bei Tests zur Generierung schädlicher Inhalte, der Anfälligkeit für Jailbreaks und der Neigung zu Halluzinationen abschneiden. OpenAI erklärte, dass es diese Plattform nutzen wird, um regelmäßig Metriken zu teilen und plant, sie mit jeder größeren Modellversion zu aktualisieren.
Einführung des Safety Evaluations Hub - eine Ressource, um die Sicherheitsergebnisse unserer Modelle zu erforschen.
Während die Systemkarten die Sicherheitsmetriken beim Start teilen, wird der Hub regelmäßig als Teil unserer Bemühungen, proaktiv über Sicherheit zu kommunizieren, aktualisiert werden. https://t.co/c8NgmXlC2Y-
OpenAI (@OpenAI) May 14, 2025
"Da die Wissenschaft der KI-Evaluierung Fortschritte macht, ist es unser Ziel, Fortschritte bei der Entwicklung skalierbarerer Methoden zur Messung der Modellfähigkeit und Sicherheit zu teilen", erklärte OpenAI in einem Blogbeitrag. "Indem wir eine Auswahl unserer Sicherheitsevaluierungsergebnisse öffentlich zugänglich machen, wollen wir es einfacher machen, die Sicherheitsleistung von OpenAI-Systemen im Laufe der Zeit zu verfolgen und die Bemühungen einer breiteren Gemeinschaft zu unterstützen, die Transparenz im Bereich der KI zu verbessern."
Das Unternehmen fügte hinzu, dass es in Zukunft möglicherweise weitere Bewertungsarten in den Hub aufnehmen wird.
In letzter Zeit wurde OpenAI von einigen Ethikern kritisiert, weil es angeblich die Sicherheitstests für bestimmte Vorzeigemodelle beschleunigt und die technischen Berichte für andere nicht veröffentlicht hat. CEO Sam Altman wurde außerdem vorgeworfen, OpenAI-Führungskräfte in Bezug auf die Sicherheitsprüfung von Modellen in die Irre geführt zu haben, bevor er im November 2023 vorübergehend entlassen wurde.
Letzten Monat musste OpenAI ein Update für das Standardmodell von ChatGPT, GPT-4o, zurückziehen, nachdem Nutzer berichteten, dass es in einer übermäßig angenehmen und bestätigenden Weise reagierte. Die Social-Media-Plattform X wurde mit Screenshots überschwemmt, die zeigen, dass ChatGPT verschiedene problematische, gefährliche Entscheidungen und Ideen befürwortet.
OpenAI erklärte, dass es mehrere Korrekturen einführen werde, um ähnliche Vorfälle zu verhindern, einschließlich der Einführung einer Opt-in-Alpha-Phase" für einige Modelle, die es ausgewählten ChatGPT-Nutzern ermöglicht, vor einer breiteren Einführung zu testen und Feedback zu geben.
Techcrunch-VeranstaltungBesuchen Sie uns bei den TechCrunch Sessions: KI
Sichern Sie sich Ihr Ticket für unsere wichtigste KI-Branchenveranstaltung mit Rednern von OpenAI, Anthropic und Cohere. Für eine begrenzte Zeit können Sie einen ganzen Tag voller Expertenvorträge, Workshops und Networking für nur 292 $ erleben.
Stellen Sie bei TechCrunch Sessions aus: KI
Sichern Sie sich Ihre Ausstellungsfläche bei den TC Sessions: AI und präsentieren Sie Ihre Innovationen vor über 1.200 Entscheidungsträgern - ohne großes Budget. Dieses Angebot gilt bis zum 9. Mai oder solange der Vorrat reicht.
Berkeley, CA | 5. Juni JETZT ANMELDEN
Verwandter Artikel
OpenAI bringt eine sicherere Version von ChatGPT für Jugendliche auf den Markt, Jahre nachdem diese begonnen hatten, die Plattform zu nutzen
Nach einer Reihe von Gerichtsverfahren wegen fehlender Sicherheitsvorkehrungen bei KI-Chatbots – die zu Selbstmorden unter Jugendlichen und anderen psychischen Krisen beigetragen hatten – stellte Open
Frontier AI Labs weigert sich, Eindämmungsstrategien für außer Kontrolle geratene Modelle offenzulegen
Jüngste Untersuchungen zeigen, dass nur sehr wenige führende KI-Forschungslabore Maßnahmenpläne zur Eindämmung veröffentlicht oder vorgeführt haben. Ein solcher Eindämmungsplan legt die Vorgehensweise
NEAs Tiffany Luck: Unternehmen kämpfen weiterhin mit der ROI von KI
Laden des Players…Anfang dieses Jahres dominierte „Tokenmaxxing“ das Silicon Valley, wobei CEOs ihre Mitarbeiter aufforderten, die Nutzung von KI zu maximieren. Diese Begeisterung stieß jedoch schnell auf die Realität. Berichten zufolge hat Uber sei
Empfehlungen zu verwandten Spezialthemen
Animationserstellung
KI-Tools zur Szenenanimation für Social-Media-Inhalte
2026 – Die neuesten, besten und am besten bewerteten KI-Tools für Szenenanimationen in Social-Media-Inhalten wurden hier von XIX.AI zusammengestellt. Diese leistungsstarken, bahnbrechenden Tools bieten Praxistests und einen detaillierten Vergleich zwischen kostenlosen und kostenpflichtigen Versionen und helfen Kreativen dabei, ihre Produktivität erheblich zu steigern. Entdecken Sie sie jetzt und sichern Sie sich Ihren KI-Vorteil.
9 Tools
xix.ai
Videoerstellung
KI-Generatoren für ansprechende Kurzvideos für Reels, Shorts und Produkteinführungskampagnen
Die besten KI-Generatoren für kurze Video-Hooks des Jahres 2026 für Reels, Shorts und Produkteinführungskampagnen! XIX.AI stellt erstklassige, leistungsstarke und bahnbrechende Tools zusammen, die in Praxistests überzeugende Ergebnisse liefern, die Sie unbedingt ausprobieren sollten. Diese wöchentlich aktualisierte Seite bietet Vergleichsrankings zwischen kostenlosen und kostenpflichtigen Angeboten, damit Sie die perfekte Lösung finden, um Ihre Kreativität und Produktivität bei der Erstellung von Inhalten zu steigern. Entdecken Sie jetzt die Seite und sichern Sie sich Ihren KI-Vorteil!
11 Tools
xix.ai
Schreiben
KI-Tools zur Gliederung von Artikeln für das Verfassen langer Texte
2026: Die neuesten, besten und am besten bewerteten KI-Tools zur Erstellung von Gliederungen für lange Texte! Diese sorgfältig zusammengestellte Sammlung umfasst leistungsstarke, bahnbrechende Tools, die präzise, strukturierte Gliederungen liefern – getestet unter realen Bedingungen –, um die Effizienz beim Schreiben deutlich zu steigern. XIX.AI gehört zu dieser Eliteauswahl. Holen Sie sich einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, der Ihnen bei der Auswahl des perfekten Tools hilft. Entdecken Sie die Tools jetzt und sichern Sie sich Ihren KI-Vorteil!
9 Tools
xix.ai
Chatbot
Die besten KI-Rollenspiel-Chat-Apps für Sprachpraxis, Vorstellungsgesprächsvorbereitung und tägliche Sprechflüssigkeit
2026 Neueste Besten Top-bewerteten KI-Rollenspiel-Chat-Apps für Sprachpraxis, Vorstellungsgesprächsvorbereitung und tägliche Sprachflüssigkeit! XIX.AI kuratiert eine leistungsstarke, spielfeldverändernde Sammlung, die kostenlose gegen kostenpflichtige Vergleiche, reale Tests und wöchentlich aktualisierte Rankings bietet. Diese unbedingt auszuprobierenden Tools helfen Ihnen, Ihre Schreibfähigkeiten zu verbessern, Hürden der Sprachflüssigkeit zu überwinden und die Kommunikationseffizienz in allen alltäglichen Szenarien zu steigern. Entdecken Sie jetzt Ihr perfektes Werkzeug für Ihre Sprachentwicklung!
10 Tools
xix.ai
Musikkomposition
KI-Tools zur Stim-Trennung für die Remix-Produktion, die Vorbereitung von Samples und Karaoke-Master
Die besten und am besten bewerteten KI-Tools zur Stem-Trennung des Jahres 2026 – speziell ausgewählt für Remix-Produktionen, die Vorbereitung von Samples und Karaoke-Masters. Diese leistungsstarken, bahnbrechenden Tools haben sich in der Praxis bewährt und bieten präzise Audioisolierung, wodurch die Produktivität erheblich gesteigert wird. XIX.AI stellt einen wöchentlich aktualisierten Vergleichsleitfaden zwischen kostenlosen und kostenpflichtigen Lösungen bereit, der Ihnen hilft, die für Ihre Anforderungen passende Lösung zu finden, die Sie unbedingt ausprobieren sollten. Entdecken Sie ihn jetzt und sichern Sie sich Ihren KI-Vorteil.
8 Tools
xix.ai
Datenanalyse
KI-basierte SQL-Copiloten für Umsatz-Dashboards, Kanalanalysen sowie Produktmetriken
2026: Die neuesten und besten AI-SQL-Copiloten – alle in der Rangliste ganz oben! XIX.AI sammelt eine leistungsstarke Auswahl an Tools, die wöchentlich mit aktualisierten Tests aus der Praxis erweitert wird. Mit diesen unverzichtbaren Werkzeugen können Sie präzise Umsatzübersichten erstellen, Verkaufsprozesse analysieren sowie Produktmetriken schnell überwachen und so Ihre Produktivität erheblich steigern. Entdecken Sie jetzt das perfekte Tool für datenbasierte Entscheidungsfindung! 238 Zeichen
9 Tools
xix.ai
Kommentare (0)
OpenAI verpflichtet sich, die Ergebnisse der internen Sicherheitsbewertung seiner KI-Modelle häufiger zu veröffentlichen, und bezeichnet dies als einen Schritt zu mehr Transparenz.
Das Unternehmen startete am Mittwoch den Safety Evaluations Hub, eine spezielle Webseite, die zeigt, wie seine Modelle bei Tests zur Generierung schädlicher Inhalte, der Anfälligkeit für Jailbreaks und der Neigung zu Halluzinationen abschneiden. OpenAI erklärte, dass es diese Plattform nutzen wird, um regelmäßig Metriken zu teilen und plant, sie mit jeder größeren Modellversion zu aktualisieren.
Einführung des Safety Evaluations Hub - eine Ressource, um die Sicherheitsergebnisse unserer Modelle zu erforschen.
OpenAI (@OpenAI) May 14, 2025
Während die Systemkarten die Sicherheitsmetriken beim Start teilen, wird der Hub regelmäßig als Teil unserer Bemühungen, proaktiv über Sicherheit zu kommunizieren, aktualisiert werden. https://t.co/c8NgmXlC2Y-
"Da die Wissenschaft der KI-Evaluierung Fortschritte macht, ist es unser Ziel, Fortschritte bei der Entwicklung skalierbarerer Methoden zur Messung der Modellfähigkeit und Sicherheit zu teilen", erklärte OpenAI in einem Blogbeitrag. "Indem wir eine Auswahl unserer Sicherheitsevaluierungsergebnisse öffentlich zugänglich machen, wollen wir es einfacher machen, die Sicherheitsleistung von OpenAI-Systemen im Laufe der Zeit zu verfolgen und die Bemühungen einer breiteren Gemeinschaft zu unterstützen, die Transparenz im Bereich der KI zu verbessern."
Das Unternehmen fügte hinzu, dass es in Zukunft möglicherweise weitere Bewertungsarten in den Hub aufnehmen wird.
In letzter Zeit wurde OpenAI von einigen Ethikern kritisiert, weil es angeblich die Sicherheitstests für bestimmte Vorzeigemodelle beschleunigt und die technischen Berichte für andere nicht veröffentlicht hat. CEO Sam Altman wurde außerdem vorgeworfen, OpenAI-Führungskräfte in Bezug auf die Sicherheitsprüfung von Modellen in die Irre geführt zu haben, bevor er im November 2023 vorübergehend entlassen wurde.
Letzten Monat musste OpenAI ein Update für das Standardmodell von ChatGPT, GPT-4o, zurückziehen, nachdem Nutzer berichteten, dass es in einer übermäßig angenehmen und bestätigenden Weise reagierte. Die Social-Media-Plattform X wurde mit Screenshots überschwemmt, die zeigen, dass ChatGPT verschiedene problematische, gefährliche Entscheidungen und Ideen befürwortet.
OpenAI erklärte, dass es mehrere Korrekturen einführen werde, um ähnliche Vorfälle zu verhindern, einschließlich der Einführung einer Opt-in-Alpha-Phase" für einige Modelle, die es ausgewählten ChatGPT-Nutzern ermöglicht, vor einer breiteren Einführung zu testen und Feedback zu geben.
Techcrunch-VeranstaltungBesuchen Sie uns bei den TechCrunch Sessions: KI
Sichern Sie sich Ihr Ticket für unsere wichtigste KI-Branchenveranstaltung mit Rednern von OpenAI, Anthropic und Cohere. Für eine begrenzte Zeit können Sie einen ganzen Tag voller Expertenvorträge, Workshops und Networking für nur 292 $ erleben.
Stellen Sie bei TechCrunch Sessions aus: KI
Sichern Sie sich Ihre Ausstellungsfläche bei den TC Sessions: AI und präsentieren Sie Ihre Innovationen vor über 1.200 Entscheidungsträgern - ohne großes Budget. Dieses Angebot gilt bis zum 9. Mai oder solange der Vorrat reicht.
Berkeley, CA | 5. Juni JETZT ANMELDEN
OpenAI bringt eine sicherere Version von ChatGPT für Jugendliche auf den Markt, Jahre nachdem diese begonnen hatten, die Plattform zu nutzen
Nach einer Reihe von Gerichtsverfahren wegen fehlender Sicherheitsvorkehrungen bei KI-Chatbots – die zu Selbstmorden unter Jugendlichen und anderen psychischen Krisen beigetragen hatten – stellte Open
Frontier AI Labs weigert sich, Eindämmungsstrategien für außer Kontrolle geratene Modelle offenzulegen
Jüngste Untersuchungen zeigen, dass nur sehr wenige führende KI-Forschungslabore Maßnahmenpläne zur Eindämmung veröffentlicht oder vorgeführt haben. Ein solcher Eindämmungsplan legt die Vorgehensweise
NEAs Tiffany Luck: Unternehmen kämpfen weiterhin mit der ROI von KI
Laden des Players…Anfang dieses Jahres dominierte „Tokenmaxxing“ das Silicon Valley, wobei CEOs ihre Mitarbeiter aufforderten, die Nutzung von KI zu maximieren. Diese Begeisterung stieß jedoch schnell auf die Realität. Berichten zufolge hat Uber sei
2026 – Die neuesten, besten und am besten bewerteten KI-Tools für Szenenanimationen in Social-Media-Inhalten wurden hier von XIX.AI zusammengestellt. Diese leistungsstarken, bahnbrechenden Tools bieten Praxistests und einen detaillierten Vergleich zwischen kostenlosen und kostenpflichtigen Versionen und helfen Kreativen dabei, ihre Produktivität erheblich zu steigern. Entdecken Sie sie jetzt und sichern Sie sich Ihren KI-Vorteil.
9 Tools
xix.ai
Die besten KI-Generatoren für kurze Video-Hooks des Jahres 2026 für Reels, Shorts und Produkteinführungskampagnen! XIX.AI stellt erstklassige, leistungsstarke und bahnbrechende Tools zusammen, die in Praxistests überzeugende Ergebnisse liefern, die Sie unbedingt ausprobieren sollten. Diese wöchentlich aktualisierte Seite bietet Vergleichsrankings zwischen kostenlosen und kostenpflichtigen Angeboten, damit Sie die perfekte Lösung finden, um Ihre Kreativität und Produktivität bei der Erstellung von Inhalten zu steigern. Entdecken Sie jetzt die Seite und sichern Sie sich Ihren KI-Vorteil!
11 Tools
xix.ai
2026: Die neuesten, besten und am besten bewerteten KI-Tools zur Erstellung von Gliederungen für lange Texte! Diese sorgfältig zusammengestellte Sammlung umfasst leistungsstarke, bahnbrechende Tools, die präzise, strukturierte Gliederungen liefern – getestet unter realen Bedingungen –, um die Effizienz beim Schreiben deutlich zu steigern. XIX.AI gehört zu dieser Eliteauswahl. Holen Sie sich einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, der Ihnen bei der Auswahl des perfekten Tools hilft. Entdecken Sie die Tools jetzt und sichern Sie sich Ihren KI-Vorteil!
9 Tools
xix.ai
2026 Neueste Besten Top-bewerteten KI-Rollenspiel-Chat-Apps für Sprachpraxis, Vorstellungsgesprächsvorbereitung und tägliche Sprachflüssigkeit! XIX.AI kuratiert eine leistungsstarke, spielfeldverändernde Sammlung, die kostenlose gegen kostenpflichtige Vergleiche, reale Tests und wöchentlich aktualisierte Rankings bietet. Diese unbedingt auszuprobierenden Tools helfen Ihnen, Ihre Schreibfähigkeiten zu verbessern, Hürden der Sprachflüssigkeit zu überwinden und die Kommunikationseffizienz in allen alltäglichen Szenarien zu steigern. Entdecken Sie jetzt Ihr perfektes Werkzeug für Ihre Sprachentwicklung!
10 Tools
xix.ai
Die besten und am besten bewerteten KI-Tools zur Stem-Trennung des Jahres 2026 – speziell ausgewählt für Remix-Produktionen, die Vorbereitung von Samples und Karaoke-Masters. Diese leistungsstarken, bahnbrechenden Tools haben sich in der Praxis bewährt und bieten präzise Audioisolierung, wodurch die Produktivität erheblich gesteigert wird. XIX.AI stellt einen wöchentlich aktualisierten Vergleichsleitfaden zwischen kostenlosen und kostenpflichtigen Lösungen bereit, der Ihnen hilft, die für Ihre Anforderungen passende Lösung zu finden, die Sie unbedingt ausprobieren sollten. Entdecken Sie ihn jetzt und sichern Sie sich Ihren KI-Vorteil.
8 Tools
xix.ai
2026: Die neuesten und besten AI-SQL-Copiloten – alle in der Rangliste ganz oben! XIX.AI sammelt eine leistungsstarke Auswahl an Tools, die wöchentlich mit aktualisierten Tests aus der Praxis erweitert wird. Mit diesen unverzichtbaren Werkzeugen können Sie präzise Umsatzübersichten erstellen, Verkaufsprozesse analysieren sowie Produktmetriken schnell überwachen und so Ihre Produktivität erheblich steigern. Entdecken Sie jetzt das perfekte Tool für datenbasierte Entscheidungsfindung! 238 Zeichen
9 Tools
xix.ai
