HeimOpenAI beschleunigt Veröffentlichung von KI-Sicherheitstestdaten
OpenAI verpflichtet sich, die Ergebnisse der internen Sicherheitsbewertung seiner KI-Modelle häufiger zu veröffentlichen, und bezeichnet dies als einen Schritt zu mehr Transparenz.
Das Unternehmen startete am Mittwoch den Safety Evaluations Hub, eine spezielle Webseite, die zeigt, wie seine Modelle bei Tests zur Generierung schädlicher Inhalte, der Anfälligkeit für Jailbreaks und der Neigung zu Halluzinationen abschneiden. OpenAI erklärte, dass es diese Plattform nutzen wird, um regelmäßig Metriken zu teilen und plant, sie mit jeder größeren Modellversion zu aktualisieren.
Einführung des Safety Evaluations Hub - eine Ressource, um die Sicherheitsergebnisse unserer Modelle zu erforschen.
Während die Systemkarten die Sicherheitsmetriken beim Start teilen, wird der Hub regelmäßig als Teil unserer Bemühungen, proaktiv über Sicherheit zu kommunizieren, aktualisiert werden. https://t.co/c8NgmXlC2Y-
OpenAI (@OpenAI) May 14, 2025
"Da die Wissenschaft der KI-Evaluierung Fortschritte macht, ist es unser Ziel, Fortschritte bei der Entwicklung skalierbarerer Methoden zur Messung der Modellfähigkeit und Sicherheit zu teilen", erklärte OpenAI in einem Blogbeitrag. "Indem wir eine Auswahl unserer Sicherheitsevaluierungsergebnisse öffentlich zugänglich machen, wollen wir es einfacher machen, die Sicherheitsleistung von OpenAI-Systemen im Laufe der Zeit zu verfolgen und die Bemühungen einer breiteren Gemeinschaft zu unterstützen, die Transparenz im Bereich der KI zu verbessern."
Das Unternehmen fügte hinzu, dass es in Zukunft möglicherweise weitere Bewertungsarten in den Hub aufnehmen wird.
In letzter Zeit wurde OpenAI von einigen Ethikern kritisiert, weil es angeblich die Sicherheitstests für bestimmte Vorzeigemodelle beschleunigt und die technischen Berichte für andere nicht veröffentlicht hat. CEO Sam Altman wurde außerdem vorgeworfen, OpenAI-Führungskräfte in Bezug auf die Sicherheitsprüfung von Modellen in die Irre geführt zu haben, bevor er im November 2023 vorübergehend entlassen wurde.
Letzten Monat musste OpenAI ein Update für das Standardmodell von ChatGPT, GPT-4o, zurückziehen, nachdem Nutzer berichteten, dass es in einer übermäßig angenehmen und bestätigenden Weise reagierte. Die Social-Media-Plattform X wurde mit Screenshots überschwemmt, die zeigen, dass ChatGPT verschiedene problematische, gefährliche Entscheidungen und Ideen befürwortet.
OpenAI erklärte, dass es mehrere Korrekturen einführen werde, um ähnliche Vorfälle zu verhindern, einschließlich der Einführung einer Opt-in-Alpha-Phase" für einige Modelle, die es ausgewählten ChatGPT-Nutzern ermöglicht, vor einer breiteren Einführung zu testen und Feedback zu geben.
Techcrunch-VeranstaltungBesuchen Sie uns bei den TechCrunch Sessions: KI
Sichern Sie sich Ihr Ticket für unsere wichtigste KI-Branchenveranstaltung mit Rednern von OpenAI, Anthropic und Cohere. Für eine begrenzte Zeit können Sie einen ganzen Tag voller Expertenvorträge, Workshops und Networking für nur 292 $ erleben.
Stellen Sie bei TechCrunch Sessions aus: KI
Sichern Sie sich Ihre Ausstellungsfläche bei den TC Sessions: AI und präsentieren Sie Ihre Innovationen vor über 1.200 Entscheidungsträgern - ohne großes Budget. Dieses Angebot gilt bis zum 9. Mai oder solange der Vorrat reicht.
Berkeley, CA | 5. Juni JETZT ANMELDEN
Verwandter Artikel
Satya Nadella bereit, die neuen Vorteile der Vereinbarung mit OpenAI zu nutzen
Am Mittwoch fragte ein Analyst von Wall Street den Microsoft-CEO Satya Nadella direkt, wie die überarbeitete Partnerschaft mit OpenAI die finanziellen Ergebnisse des Unternehmens beeinflussen würde.Nadella bezeichnete die neue Vereinbarung als einen
OpenAI skizziert eine KI-Wirtschaft mit öffentlichen Vermögensfonds, Robotersteuern und einer Vier-Tage-Woche
Während Regierungen darum ringen, die wirtschaftlichen Auswirkungen superintelligenter Maschinen zu bewältigen, hat OpenAI eine Reihe von politischen Vorschlägen veröffentlicht, in denen dargelegt wir
Greg Brockman enthüllt, wie Elon Musk OpenAI verlassen hat
Ende August 2017 trafen sich führende Persönlichkeiten von OpenAI – damals ein kleines gemeinnütziges Forschungslabor –, um zu erörtern, wie sie ein gewinnorientiertes Unternehmen gründen könnten, um
Empfehlungen zu verwandten Spezialthemen
Geschäft
Die besten KI-basierten Spesenabrechnungsprogramme: Quittungen scannen und Geschäftsausgaben automatisch kategorisieren
Die besten KI-basierten Spesenmanager 2026: Erstklassige Tools zum Scannen von Belegen und zur automatischen Kategorisierung von Unternehmensausgaben. Entdecken Sie leistungsstarke, bahnbrechende Lösungen für müheloses Spesenmanagement, präzise Finanzüberwachung und optimierte Compliance. Unser sorgfältig zusammengestellter, wöchentlich aktualisierter Vergleich zwischen kostenlosen und kostenpflichtigen Optionen hilft Ihnen dabei, die perfekte Lösung zu finden. Nutzen Sie Ihren KI-Vorteil mit den Expertenempfehlungen von XIX.AI.
10 Tools
xix.ai
Geschäft
Die besten KI-Tools für die Personalbeschaffung: Lebensläufe prüfen und die Terminplanung für Vorstellungsgespräche automatisieren
Entdecken Sie auf XIX.AI die besten KI-Tools für die Personalbeschaffung des Jahres 2026. Unsere sorgfältig zusammengestellte Liste umfasst leistungsstarke, bahnbrechende Lösungen für die Sichtung von Lebensläufen und die automatisierte Terminplanung für Vorstellungsgespräche. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests und wöchentlich aktualisierten Rankings. Finden Sie Ihren perfekten Assistenten für die Personalbeschaffung und optimieren Sie noch heute Ihren Rekrutierungsprozess!
10 Tools
xix.ai
Produktivität
KI-Coaches für persönliches Wohlbefinden und Konzentration: Burnout bewältigen und die geistige Energie steigern
Entdecken Sie auf XIX.AI die besten KI-basierten Coaches für persönliches Wohlbefinden und Konzentration des Jahres 2026. Unsere sorgfältig zusammengestellte Rangliste umfasst erstklassige, bahnbrechende Tools zur Bewältigung von Burnout und zur Steigerung der mentalen Energie. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Erfahrungsberichten aus der Praxis. Schlagen Sie noch heute den Weg zu höchster Produktivität und Wohlbefinden ein.
10 Tools
xix.ai
Chatbot
Die besten KI-basierten Romantik-Chatbots: Bauen Sie langfristige Beziehungen mit beständiger Persönlichkeit auf
Entdecken Sie die besten KI-Romantik-Chatbots des Jahres 2026, mit denen Sie echte, langfristige Beziehungen aufbauen können. Unsere sorgfältig zusammengestellte Liste bietet Ihnen überzeugende, konsistente Persönlichkeiten, Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten sowie Tests aus der Praxis. Finden Sie Ihren perfekten Begleiter und legen Sie noch heute bei XIX.AI los.
10 Tools
xix.ai
Bildung und Lernen
Die besten AI-Datenwissenschafts-Mentoren: Beherrschen Sie SQL, Pandas und Arbeitsabläufe für maschinelles Lernen.
Entdecken Sie die besten AI-Data-Science-Mentoren von 2026, um SQL, Pandas und ML-Arbeitsabläufe zu meistern. Erfahren Sie mehr über unsere hochbewerteten, sorgfältig ausgewählten Angebote bei XIX.AI – für effektive und bahnbrechende Anleitung. Vergleichen Sie kostenlose und bezahlte Optionen mit praktischen Einblicken aus der Praxis. Entfalten Sie Ihr Potenzial in der Data Science noch heute.
10 Tools
xix.ai
Chatbot
Die besten KI-Flirt- und Konversationstrainer: Steigere dein soziales Charisma und dein Selbstvertrauen in Echtzeit
Entdecken Sie auf XIX.AI die besten KI-Flirt- und Konversationstrainer des Jahres 2026. Unsere sorgfältig zusammengestellte, erstklassige Auswahl hilft Ihnen dabei, Ihr soziales Charisma und Ihr Selbstvertrauen in Echtzeit zu stärken. Entdecken Sie unverzichtbare, bahnbrechende Tools mit Vergleichen zwischen kostenlosen und kostenpflichtigen Angeboten sowie wöchentlich aktualisierten Rankings. Schaffen Sie sich noch heute einen sozialen Vorsprung.
10 Tools
xix.ai
Kommentare (0)
OpenAI verpflichtet sich, die Ergebnisse der internen Sicherheitsbewertung seiner KI-Modelle häufiger zu veröffentlichen, und bezeichnet dies als einen Schritt zu mehr Transparenz.
Das Unternehmen startete am Mittwoch den Safety Evaluations Hub, eine spezielle Webseite, die zeigt, wie seine Modelle bei Tests zur Generierung schädlicher Inhalte, der Anfälligkeit für Jailbreaks und der Neigung zu Halluzinationen abschneiden. OpenAI erklärte, dass es diese Plattform nutzen wird, um regelmäßig Metriken zu teilen und plant, sie mit jeder größeren Modellversion zu aktualisieren.
Einführung des Safety Evaluations Hub - eine Ressource, um die Sicherheitsergebnisse unserer Modelle zu erforschen.
OpenAI (@OpenAI) May 14, 2025
Während die Systemkarten die Sicherheitsmetriken beim Start teilen, wird der Hub regelmäßig als Teil unserer Bemühungen, proaktiv über Sicherheit zu kommunizieren, aktualisiert werden. https://t.co/c8NgmXlC2Y-
"Da die Wissenschaft der KI-Evaluierung Fortschritte macht, ist es unser Ziel, Fortschritte bei der Entwicklung skalierbarerer Methoden zur Messung der Modellfähigkeit und Sicherheit zu teilen", erklärte OpenAI in einem Blogbeitrag. "Indem wir eine Auswahl unserer Sicherheitsevaluierungsergebnisse öffentlich zugänglich machen, wollen wir es einfacher machen, die Sicherheitsleistung von OpenAI-Systemen im Laufe der Zeit zu verfolgen und die Bemühungen einer breiteren Gemeinschaft zu unterstützen, die Transparenz im Bereich der KI zu verbessern."
Das Unternehmen fügte hinzu, dass es in Zukunft möglicherweise weitere Bewertungsarten in den Hub aufnehmen wird.
In letzter Zeit wurde OpenAI von einigen Ethikern kritisiert, weil es angeblich die Sicherheitstests für bestimmte Vorzeigemodelle beschleunigt und die technischen Berichte für andere nicht veröffentlicht hat. CEO Sam Altman wurde außerdem vorgeworfen, OpenAI-Führungskräfte in Bezug auf die Sicherheitsprüfung von Modellen in die Irre geführt zu haben, bevor er im November 2023 vorübergehend entlassen wurde.
Letzten Monat musste OpenAI ein Update für das Standardmodell von ChatGPT, GPT-4o, zurückziehen, nachdem Nutzer berichteten, dass es in einer übermäßig angenehmen und bestätigenden Weise reagierte. Die Social-Media-Plattform X wurde mit Screenshots überschwemmt, die zeigen, dass ChatGPT verschiedene problematische, gefährliche Entscheidungen und Ideen befürwortet.
OpenAI erklärte, dass es mehrere Korrekturen einführen werde, um ähnliche Vorfälle zu verhindern, einschließlich der Einführung einer Opt-in-Alpha-Phase" für einige Modelle, die es ausgewählten ChatGPT-Nutzern ermöglicht, vor einer breiteren Einführung zu testen und Feedback zu geben.
Techcrunch-VeranstaltungBesuchen Sie uns bei den TechCrunch Sessions: KI
Sichern Sie sich Ihr Ticket für unsere wichtigste KI-Branchenveranstaltung mit Rednern von OpenAI, Anthropic und Cohere. Für eine begrenzte Zeit können Sie einen ganzen Tag voller Expertenvorträge, Workshops und Networking für nur 292 $ erleben.
Stellen Sie bei TechCrunch Sessions aus: KI
Sichern Sie sich Ihre Ausstellungsfläche bei den TC Sessions: AI und präsentieren Sie Ihre Innovationen vor über 1.200 Entscheidungsträgern - ohne großes Budget. Dieses Angebot gilt bis zum 9. Mai oder solange der Vorrat reicht.
Berkeley, CA | 5. Juni JETZT ANMELDEN
Satya Nadella bereit, die neuen Vorteile der Vereinbarung mit OpenAI zu nutzen
Am Mittwoch fragte ein Analyst von Wall Street den Microsoft-CEO Satya Nadella direkt, wie die überarbeitete Partnerschaft mit OpenAI die finanziellen Ergebnisse des Unternehmens beeinflussen würde.Nadella bezeichnete die neue Vereinbarung als einen
OpenAI skizziert eine KI-Wirtschaft mit öffentlichen Vermögensfonds, Robotersteuern und einer Vier-Tage-Woche
Während Regierungen darum ringen, die wirtschaftlichen Auswirkungen superintelligenter Maschinen zu bewältigen, hat OpenAI eine Reihe von politischen Vorschlägen veröffentlicht, in denen dargelegt wir
Greg Brockman enthüllt, wie Elon Musk OpenAI verlassen hat
Ende August 2017 trafen sich führende Persönlichkeiten von OpenAI – damals ein kleines gemeinnütziges Forschungslabor –, um zu erörtern, wie sie ein gewinnorientiertes Unternehmen gründen könnten, um
Die besten KI-basierten Spesenmanager 2026: Erstklassige Tools zum Scannen von Belegen und zur automatischen Kategorisierung von Unternehmensausgaben. Entdecken Sie leistungsstarke, bahnbrechende Lösungen für müheloses Spesenmanagement, präzise Finanzüberwachung und optimierte Compliance. Unser sorgfältig zusammengestellter, wöchentlich aktualisierter Vergleich zwischen kostenlosen und kostenpflichtigen Optionen hilft Ihnen dabei, die perfekte Lösung zu finden. Nutzen Sie Ihren KI-Vorteil mit den Expertenempfehlungen von XIX.AI.
10 Tools
xix.ai
Entdecken Sie auf XIX.AI die besten KI-Tools für die Personalbeschaffung des Jahres 2026. Unsere sorgfältig zusammengestellte Liste umfasst leistungsstarke, bahnbrechende Lösungen für die Sichtung von Lebensläufen und die automatisierte Terminplanung für Vorstellungsgespräche. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Praxistests und wöchentlich aktualisierten Rankings. Finden Sie Ihren perfekten Assistenten für die Personalbeschaffung und optimieren Sie noch heute Ihren Rekrutierungsprozess!
10 Tools
xix.ai
Entdecken Sie auf XIX.AI die besten KI-basierten Coaches für persönliches Wohlbefinden und Konzentration des Jahres 2026. Unsere sorgfältig zusammengestellte Rangliste umfasst erstklassige, bahnbrechende Tools zur Bewältigung von Burnout und zur Steigerung der mentalen Energie. Vergleichen Sie kostenlose und kostenpflichtige Optionen anhand von Erfahrungsberichten aus der Praxis. Schlagen Sie noch heute den Weg zu höchster Produktivität und Wohlbefinden ein.
10 Tools
xix.ai
Entdecken Sie die besten KI-Romantik-Chatbots des Jahres 2026, mit denen Sie echte, langfristige Beziehungen aufbauen können. Unsere sorgfältig zusammengestellte Liste bietet Ihnen überzeugende, konsistente Persönlichkeiten, Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten sowie Tests aus der Praxis. Finden Sie Ihren perfekten Begleiter und legen Sie noch heute bei XIX.AI los.
10 Tools
xix.ai
Entdecken Sie die besten AI-Data-Science-Mentoren von 2026, um SQL, Pandas und ML-Arbeitsabläufe zu meistern. Erfahren Sie mehr über unsere hochbewerteten, sorgfältig ausgewählten Angebote bei XIX.AI – für effektive und bahnbrechende Anleitung. Vergleichen Sie kostenlose und bezahlte Optionen mit praktischen Einblicken aus der Praxis. Entfalten Sie Ihr Potenzial in der Data Science noch heute.
10 Tools
xix.ai
Entdecken Sie auf XIX.AI die besten KI-Flirt- und Konversationstrainer des Jahres 2026. Unsere sorgfältig zusammengestellte, erstklassige Auswahl hilft Ihnen dabei, Ihr soziales Charisma und Ihr Selbstvertrauen in Echtzeit zu stärken. Entdecken Sie unverzichtbare, bahnbrechende Tools mit Vergleichen zwischen kostenlosen und kostenpflichtigen Angeboten sowie wöchentlich aktualisierten Rankings. Schaffen Sie sich noch heute einen sozialen Vorsprung.
10 Tools
xix.ai
