Heim
Meta wird vorgeworfen, konkurrierende KI-Systeme dazu zu veranlassen, extreme psychologische Themen zu testen.
Jüngste Enthüllungen über eine interne Nachricht haben hitzige Debatten über die Sicherheitsgrenzen künstlicher Intelligenz ausgelöst. Medienberichten zufolge führte Meta ein Projekt mit dem Namen „Cannes“ durch, bei dem externe Mitarbeiter beauftragt wurden, sich als Minderjährige auszugeben und umstrittene „extreme Belastungstests“ an mehreren großen Konkurrenz-Chatbots durchzuführen – darunter ChatGPT, Gemini und Character.AI.
Laut internen Meta-Dokumenten sowie mehreren informierten Quellen setzte sich das Projekt zumindest bis zum 21. April dieses Jahres fort. Über das Outsourcing-Unternehmen Covalen mobilisierte Meta Hunderte von Mitarbeitern, um falsche Profile für Nutzer unter 18 Jahren zu erstellen, wobei temporäre E-Mail-Adressen sowie ein Standardpasswort verwendet wurden. Diese „Minderjährigen“-Konten schickten anschließend während Gesprächen mit den Konkurrenz-AI-Chatbots hochriskante Anfragen zu Themen wie Suizid, Selbstverletzung und Essstörungen und luden sogar Bilder von Messern, Pillen und Schlingen hoch, um die Reaktionsmechanismen der Modelle auszulösen.
Interne Projektunterlagen zeigen, dass diese Testszenarien sorgfältig entwickelt wurden, um die Sicherheitsmaßnahmen der Konkurrenz-AI-Systeme zu prüfen – mit dem Ziel, herauszufinden, wie die Chatbots ihre vorgesehenen Schutzmechanismen umgehen und unsichere Inhalte erzeugen können. In einer einzigen Testrunde im August 2025 gaben Mitarbeiter über 45.000 hochriskante Anfragen in die Plattformen der Konkurrenten ein. Die Tester stellten sich häufig als verzweifelte Teenager dar und erfanden Szenarien wie „Nachfrage nach Abtreibungspillen“, „Konfrontation mit gewalttätigen Drohungen“ oder „Verheimlichung von Essstörungen“, um die Grenzen der Modelle zu testen.
Als Reaktion darauf veröffentlichte Meta eine Stellungnahme, in der es seine Handlungen verteidigte. Ein Sprecher erklärte, dass das Vergleichen der Antworten von Chatbots eine gängige Branchenpraxis sei, um sicherzustellen, dass KI-Produkte sicher und angemessen sind, und dass Anschuldigungen eines bösartigen Absichts die Bemühungen technologischer Unternehmen, ihre Systeme zu verbessern, falsch darstellen. Meta bestritt außerdem ausdrücklich, Testdaten von Konkurrenten zur Schulung eigener Modelle verwendet zu haben.
Dieser Vorfall bringt nicht nur Grauzonen bei der Sicherheitstests künstlicher Intelligenz ans Licht, sondern weckt auch erneut externe Bedenken hinsichtlich der Anfälligkeit generativer KI beim Umgang mit sensiblen Themen im Zusammenhang mit Jugendlichen. Da die KI-Technologie rasant voranschreitet, stellt das Gleichgewicht zwischen effizienten und sicheren Tests sowie zwischen wettbewerbsorientiertem Verhalten und ethischen Überlegungen eine dringende Herausforderung für die Branche dar.
Verwandter Artikel
Anthropic-CEO Amodei entkräftet pessimistische Ansichten und führt die Vertrauenskrise der KI auf nicht eingehaltene Versprechen zurück
Amidst escalating public discourse on AI risks and regulation, Anthropic CEO Dario Amodei has pushed back against claims that his messaging is unduly pessimistic. This clarification directly addresses critiques from investor Gavin Baker, who appeared
OpenAI und Oracle vertiefen die Rechenleistungsintegration zur Vereinfachung des Cloud-Zugriffs
Da die Nachfrage nach KI-Rechenleistung stark ansteigt, hat der einfache Zugang zu Unternehmensinfrastruktur zu einer wichtigen Priorität der Branche geworden. Am 10. Juni gaben OpenAI und Oracle eine strategische Partnerschaft bekannt, die darauf ab
Usman Javaid von Orange über Europas Position im Wettlauf um die KI
Usman Javaid, Chief Product & Marketing Officer bei Orange BusinessUsman Javaid, Chief Product & Marketing Officer bei Orange Business, erklärt, warum die Zukunft der KI in Europa auf Vertrauen beruhe
Empfehlungen zu verwandten Spezialthemen
Automatisierung
KI-Tools zur Rechnungsbearbeitung für die Automatisierung der Kreditorenbuchhaltung, Genehmigungswege und ERP-Synchronisierungs-Workflows
Die besten KI-Tools 2026 für die Rechnungsbearbeitung – zur Automatisierung der Kreditorenbuchhaltung, für Genehmigungswege und ERP-Synchronisations-Workflows! XIX.AI stellt erstklassige, leistungsstarke Lösungen zusammen, die strenge Praxistests bestehen und die Produktivität drastisch steigern. Holen Sie sich einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, sehen Sie sich detaillierte Rankings an und entdecken Sie unverzichtbare Optionen zur Optimierung Ihrer Finanzabläufe. Entdecken Sie jetzt, wie Sie Ihren KI-Vorteil nutzen können!
9 Tools
xix.ai
Schreiben
Tools zur Erstellung technischer Dokumentation im Bereich KI für Entwicklerteams
2026: Die neuesten, besten und am besten bewerteten KI-Tools für die technische Dokumentation für Entwicklerteams! XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung unverzichtbarer Tools zusammengestellt, die strengen Praxistests unterzogen und wöchentlich in den Rankings aktualisiert werden. Diese erstklassigen Lösungen helfen Teams dabei, ihre Produktivität drastisch zu steigern, indem sie die Erstellung von Inhalten optimieren, Fehler in der Dokumentation beheben und die Programmierabläufe in allen Projekten beschleunigen. Entdecken Sie jetzt das perfekte Tool, um Ihren KI-Vorteil voll auszuschöpfen!
13 Tools
xix.ai
Softwareentwicklung
KI-Assistenten zur Fehlerpriorisierung: Probleme nach Schweregrad und Auswirkungen auf die Nutzer einstufen
2026: Die neuesten, besten und am besten bewerteten KI-Assistenten für die Fehlertriage im Ranking! Diese sorgfältig zusammengestellte Auswahl präsentiert leistungsstarke, bahnbrechende Tools, die Teams dabei helfen, Fehler schnell nach Schweregrad und Auswirkungen auf die Nutzer zu sortieren und so wertvolle Zeit zu sparen. XIX.AI bietet einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten sowie Tests unter realen Bedingungen, damit Sie die Lösung finden, die Sie unbedingt ausprobieren sollten und die Ihre Produktivität deutlich steigert. Entdecken Sie jetzt das perfekte Tool zur Optimierung Ihrer Entwicklungsabläufe!
10 Tools
xix.ai
Code
Die besten KI-basierten Programmierwerkzeuge für Python und JavaScript
Die neuesten, besten und am höchsten bewerteten AI-Programmierwerkzeuge für Python und JavaScript aus dem Jahr 2026 sind in der sorgfältig zusammengestellten Liste von XIX.AI zu finden. Diese leistungsstarken Tools haben strenge Prüfungen in der Praxis durchlaufen, um hervorragende Ergebnisse bei der Erstellung effizienten Codes, beim Beheben von Fehlern sowie bei der Steigerung der Produktivität zu liefern. Holen Sie sich einen kostenlosen Vergleich zwischen den kostenlosen und kostenpflichtigen Versionen, um herauszufinden, welche Optionen zu Ihren Bedürfnissen passen. Entdecken Sie jetzt das perfekte Programmierwerkzeug für Sie und nutzen Sie so den Vorteil der KI.
10 Tools
xix.ai
Akademische Forschung
Die besten KI-Tools zur Zitierverknüpfung für die Forschungssuche
2026: Die neuesten, besten und am besten bewerteten KI-Tools zur Zitierverknüpfungsanalyse für die Forschungsrecherche! XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung unverzichtbarer Tools zusammengestellt, die strengen Praxistests unterzogen wurden, um präzise Ergebnisse zu liefern. Hier finden Sie detaillierte Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten, wöchentlich aktualisierte Rankings sowie Einblicke, die Ihnen helfen, Ihre Forschungseffizienz zu steigern und wertvolle Daten schneller zu erschließen. Stöbern Sie jetzt und entdecken Sie das perfekte Tool für Ihre akademische Arbeit! 238 Zeichen
11 Tools
xix.ai
SEO
KI-Tools für Meta-Tags zur schnelleren On-Page-SEO
Die besten und am besten bewerteten KI-Meta-Tag-Tools 2026 für schnelleres On-Page-SEO! XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung äußerst zuverlässiger Tools zusammengestellt, die strengen Tests unter realen Bedingungen unterzogen wurden. Hier finden Sie einen Vergleich zwischen kostenlosen und kostenpflichtigen Tools sowie detaillierte Rankings, die Ihnen helfen, die perfekte Option zu wählen, um die Sichtbarkeit Ihrer Inhalte in Suchmaschinen zu steigern und Ihre Schreibeffizienz zu verbessern. Entdecken Sie die Tools jetzt und sichern Sie sich Ihren KI-Vorteil!
9 Tools
xix.ai
Kommentare (0)
Jüngste Enthüllungen über eine interne Nachricht haben hitzige Debatten über die Sicherheitsgrenzen künstlicher Intelligenz ausgelöst. Medienberichten zufolge führte Meta ein Projekt mit dem Namen „Cannes“ durch, bei dem externe Mitarbeiter beauftragt wurden, sich als Minderjährige auszugeben und umstrittene „extreme Belastungstests“ an mehreren großen Konkurrenz-Chatbots durchzuführen – darunter ChatGPT, Gemini und Character.AI.
Laut internen Meta-Dokumenten sowie mehreren informierten Quellen setzte sich das Projekt zumindest bis zum 21. April dieses Jahres fort. Über das Outsourcing-Unternehmen Covalen mobilisierte Meta Hunderte von Mitarbeitern, um falsche Profile für Nutzer unter 18 Jahren zu erstellen, wobei temporäre E-Mail-Adressen sowie ein Standardpasswort verwendet wurden. Diese „Minderjährigen“-Konten schickten anschließend während Gesprächen mit den Konkurrenz-AI-Chatbots hochriskante Anfragen zu Themen wie Suizid, Selbstverletzung und Essstörungen und luden sogar Bilder von Messern, Pillen und Schlingen hoch, um die Reaktionsmechanismen der Modelle auszulösen.
Interne Projektunterlagen zeigen, dass diese Testszenarien sorgfältig entwickelt wurden, um die Sicherheitsmaßnahmen der Konkurrenz-AI-Systeme zu prüfen – mit dem Ziel, herauszufinden, wie die Chatbots ihre vorgesehenen Schutzmechanismen umgehen und unsichere Inhalte erzeugen können. In einer einzigen Testrunde im August 2025 gaben Mitarbeiter über 45.000 hochriskante Anfragen in die Plattformen der Konkurrenten ein. Die Tester stellten sich häufig als verzweifelte Teenager dar und erfanden Szenarien wie „Nachfrage nach Abtreibungspillen“, „Konfrontation mit gewalttätigen Drohungen“ oder „Verheimlichung von Essstörungen“, um die Grenzen der Modelle zu testen.
Als Reaktion darauf veröffentlichte Meta eine Stellungnahme, in der es seine Handlungen verteidigte. Ein Sprecher erklärte, dass das Vergleichen der Antworten von Chatbots eine gängige Branchenpraxis sei, um sicherzustellen, dass KI-Produkte sicher und angemessen sind, und dass Anschuldigungen eines bösartigen Absichts die Bemühungen technologischer Unternehmen, ihre Systeme zu verbessern, falsch darstellen. Meta bestritt außerdem ausdrücklich, Testdaten von Konkurrenten zur Schulung eigener Modelle verwendet zu haben.
Dieser Vorfall bringt nicht nur Grauzonen bei der Sicherheitstests künstlicher Intelligenz ans Licht, sondern weckt auch erneut externe Bedenken hinsichtlich der Anfälligkeit generativer KI beim Umgang mit sensiblen Themen im Zusammenhang mit Jugendlichen. Da die KI-Technologie rasant voranschreitet, stellt das Gleichgewicht zwischen effizienten und sicheren Tests sowie zwischen wettbewerbsorientiertem Verhalten und ethischen Überlegungen eine dringende Herausforderung für die Branche dar.
Anthropic-CEO Amodei entkräftet pessimistische Ansichten und führt die Vertrauenskrise der KI auf nicht eingehaltene Versprechen zurück
Amidst escalating public discourse on AI risks and regulation, Anthropic CEO Dario Amodei has pushed back against claims that his messaging is unduly pessimistic. This clarification directly addresses critiques from investor Gavin Baker, who appeared
OpenAI und Oracle vertiefen die Rechenleistungsintegration zur Vereinfachung des Cloud-Zugriffs
Da die Nachfrage nach KI-Rechenleistung stark ansteigt, hat der einfache Zugang zu Unternehmensinfrastruktur zu einer wichtigen Priorität der Branche geworden. Am 10. Juni gaben OpenAI und Oracle eine strategische Partnerschaft bekannt, die darauf ab
Usman Javaid von Orange über Europas Position im Wettlauf um die KI
Usman Javaid, Chief Product & Marketing Officer bei Orange BusinessUsman Javaid, Chief Product & Marketing Officer bei Orange Business, erklärt, warum die Zukunft der KI in Europa auf Vertrauen beruhe
Die besten KI-Tools 2026 für die Rechnungsbearbeitung – zur Automatisierung der Kreditorenbuchhaltung, für Genehmigungswege und ERP-Synchronisations-Workflows! XIX.AI stellt erstklassige, leistungsstarke Lösungen zusammen, die strenge Praxistests bestehen und die Produktivität drastisch steigern. Holen Sie sich einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, sehen Sie sich detaillierte Rankings an und entdecken Sie unverzichtbare Optionen zur Optimierung Ihrer Finanzabläufe. Entdecken Sie jetzt, wie Sie Ihren KI-Vorteil nutzen können!
9 Tools
xix.ai
2026: Die neuesten, besten und am besten bewerteten KI-Tools für die technische Dokumentation für Entwicklerteams! XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung unverzichtbarer Tools zusammengestellt, die strengen Praxistests unterzogen und wöchentlich in den Rankings aktualisiert werden. Diese erstklassigen Lösungen helfen Teams dabei, ihre Produktivität drastisch zu steigern, indem sie die Erstellung von Inhalten optimieren, Fehler in der Dokumentation beheben und die Programmierabläufe in allen Projekten beschleunigen. Entdecken Sie jetzt das perfekte Tool, um Ihren KI-Vorteil voll auszuschöpfen!
13 Tools
xix.ai
2026: Die neuesten, besten und am besten bewerteten KI-Assistenten für die Fehlertriage im Ranking! Diese sorgfältig zusammengestellte Auswahl präsentiert leistungsstarke, bahnbrechende Tools, die Teams dabei helfen, Fehler schnell nach Schweregrad und Auswirkungen auf die Nutzer zu sortieren und so wertvolle Zeit zu sparen. XIX.AI bietet einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten sowie Tests unter realen Bedingungen, damit Sie die Lösung finden, die Sie unbedingt ausprobieren sollten und die Ihre Produktivität deutlich steigert. Entdecken Sie jetzt das perfekte Tool zur Optimierung Ihrer Entwicklungsabläufe!
10 Tools
xix.ai
Die neuesten, besten und am höchsten bewerteten AI-Programmierwerkzeuge für Python und JavaScript aus dem Jahr 2026 sind in der sorgfältig zusammengestellten Liste von XIX.AI zu finden. Diese leistungsstarken Tools haben strenge Prüfungen in der Praxis durchlaufen, um hervorragende Ergebnisse bei der Erstellung effizienten Codes, beim Beheben von Fehlern sowie bei der Steigerung der Produktivität zu liefern. Holen Sie sich einen kostenlosen Vergleich zwischen den kostenlosen und kostenpflichtigen Versionen, um herauszufinden, welche Optionen zu Ihren Bedürfnissen passen. Entdecken Sie jetzt das perfekte Programmierwerkzeug für Sie und nutzen Sie so den Vorteil der KI.
10 Tools
xix.ai
2026: Die neuesten, besten und am besten bewerteten KI-Tools zur Zitierverknüpfungsanalyse für die Forschungsrecherche! XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung unverzichtbarer Tools zusammengestellt, die strengen Praxistests unterzogen wurden, um präzise Ergebnisse zu liefern. Hier finden Sie detaillierte Vergleiche zwischen kostenlosen und kostenpflichtigen Angeboten, wöchentlich aktualisierte Rankings sowie Einblicke, die Ihnen helfen, Ihre Forschungseffizienz zu steigern und wertvolle Daten schneller zu erschließen. Stöbern Sie jetzt und entdecken Sie das perfekte Tool für Ihre akademische Arbeit! 238 Zeichen
11 Tools
xix.ai
Die besten und am besten bewerteten KI-Meta-Tag-Tools 2026 für schnelleres On-Page-SEO! XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung äußerst zuverlässiger Tools zusammengestellt, die strengen Tests unter realen Bedingungen unterzogen wurden. Hier finden Sie einen Vergleich zwischen kostenlosen und kostenpflichtigen Tools sowie detaillierte Rankings, die Ihnen helfen, die perfekte Option zu wählen, um die Sichtbarkeit Ihrer Inhalte in Suchmaschinen zu steigern und Ihre Schreibeffizienz zu verbessern. Entdecken Sie die Tools jetzt und sichern Sie sich Ihren KI-Vorteil!
9 Tools
xix.ai
