HeimAnthropic führt angesichts steigender Risiken neue KI-Schutzmaßnahmen ein
Anthropic hat die Nutzungsrichtlinien für seinen KI-Chatbot Claude aktualisiert, um wachsenden Sicherheitsbedenken Rechnung zu tragen. Neben strengeren Cybersicherheitsregeln nennt das Unternehmen nun ausdrücklich Kategorien gefährlicher Waffen, die nicht mit Claude entwickelt werden dürfen.
In der offiziellen Ankündigung werden die Änderungen an den Waffenrichtlinien zwar nicht ausdrücklich hervorgehoben, ein Vergleich zwischen den alten und den neuen Nutzungsrichtlinien zeigt jedoch eine bedeutende Aktualisierung. Zuvor war es Anthropic weitgehend untersagt, Claude zu verwenden, um "Waffen, Sprengstoffe, gefährliche Materialien oder andere Systeme zu produzieren, zu modifizieren, zu entwerfen, zu vermarkten oder zu vertreiben, die dazu bestimmt sind, Menschen Schaden zuzufügen oder ihr Leben zu zerstören". Die überarbeitete Richtlinie erweitert dies, indem sie speziell die Entwicklung von Sprengstoffen mit hoher Sprengkraft sowie von biologischen, nuklearen, chemischen und radiologischen (CBRN) Waffen verbietet.
Im Mai führte Anthropic zeitgleich mit der Markteinführung seines neuen Modells Claude Opus 4 die Schutzmaßnahmen der "AI-Sicherheitsstufe 3" ein. Diese Sicherheitsvorkehrungen sollen das Modell widerstandsfähiger gegen Jailbreaking machen und verhindern, dass es zur Herstellung von CBRN-Waffen beiträgt.
In seiner Ankündigung erkennt Anthropic auch die Risiken an, die mit agentenbasierten KI-Tools wie Computer Use - das es Claude ermöglicht, den Computer eines Benutzers zu kontrollieren - und Claude Code - das Claude direkt in das Terminal eines Entwicklers integriert - verbunden sind. "Diese mächtigen Fähigkeiten bringen neue Risiken mit sich, einschließlich des Potenzials für skalierten Missbrauch, die Erstellung von Malware und Cyberangriffe", so das Unternehmen.
Siehe
- Anthropic lanciert neuen Claude-Dienst für Militär und Geheimdienste
- Google nimmt sein Versprechen zurück, keine KI-Waffen zu entwickeln
Das KI-Startup geht auf diese potenziellen Bedrohungen ein, indem es einen neuen Abschnitt mit dem Titel "Do Not Compromise Computer or Network Systems" (Computer- oder Netzwerksysteme nicht kompromittieren) in seine Nutzungsrichtlinien aufnimmt. Dieser Abschnitt enthält Regeln gegen die Verwendung von Claude, um Schwachstellen zu entdecken oder auszunutzen, Malware zu erstellen oder zu verbreiten, Tools für Denial-of-Service-Angriffe zu entwickeln und ähnliche Aktivitäten.
Darüber hinaus lockert Anthropic seine Politik in Bezug auf politische Inhalte. Anstatt die Erstellung von Inhalten im Zusammenhang mit politischen Kampagnen und Lobbying zu verbieten, verbietet das Unternehmen nun nur noch die Verwendung von Claude für "Anwendungsfälle, die irreführend oder störend für demokratische Prozesse sind oder die Wähler- und Kampagnenausrichtung beinhalten". Anthropic hat außerdem klargestellt, dass seine Anforderungen für alle "risikoreichen" Anwendungsfälle - die gelten, wenn Claude verwendet wird, um Empfehlungen an Einzelpersonen oder Kunden zu geben - nur für Szenarien relevant sind, die sich an Verbraucher richten, und nicht für die interne geschäftliche Nutzung.
Verwandter Artikel
Warner Music übernimmt das KI-Zuschreibungsstart-up Sureel AI
Warner Music Group (WMG) hat am Mittwoch bestätigt, dass es Sureel AI, ein Startup für KI-gestützte Attribution, übernimmt. Die proprietäre Technologie von Sureel generiert „AI-DNA“ für Musikstücke, indem sie diese in ihre Bestandteile zerlegt, um na
Amazon führt Alexa für den Einkauf ein und schiebt Rufus in den Hintergrund
Amazon hat Alexa for Shopping eingeführt, indem es den Rufus-Shopping-Chatbot mit Alexa+ in der App, auf der Website und auf Echo Show-Geräten zusammenführt.Der Assistent beantwortet Produktanfragen, vergleicht Artikel, verfolgt Preise und unterstüt
Microsoft, Azure und KI-Technologie bekämpfen die Risiken von Waldbränden in Kalifornien
Microsoft investiert in die KI-gestützte Erkennung von Waldbränden. Juan Lavista Ferres, CVP und Chief Data Scientist, erörtert Strategien zur Eindämmung von Umweltschäden.Laut der NASA betrifft der K
Empfehlungen zu verwandten Spezialthemen
Musikkomposition
KI-Tools zur Stim-Trennung für die Remix-Produktion, die Vorbereitung von Samples und Karaoke-Master
Die besten und am besten bewerteten KI-Tools zur Stem-Trennung des Jahres 2026 – speziell ausgewählt für Remix-Produktionen, die Vorbereitung von Samples und Karaoke-Masters. Diese leistungsstarken, bahnbrechenden Tools haben sich in der Praxis bewährt und bieten präzise Audioisolierung, wodurch die Produktivität erheblich gesteigert wird. XIX.AI stellt einen wöchentlich aktualisierten Vergleichsleitfaden zwischen kostenlosen und kostenpflichtigen Lösungen bereit, der Ihnen hilft, die für Ihre Anforderungen passende Lösung zu finden, die Sie unbedingt ausprobieren sollten. Entdecken Sie ihn jetzt und sichern Sie sich Ihren KI-Vorteil.
8 Tools
xix.ai
Datenanalyse
KI-basierte SQL-Copiloten für Umsatz-Dashboards, Kanalanalysen sowie Produktmetriken
2026: Die neuesten und besten AI-SQL-Copiloten – alle in der Rangliste ganz oben! XIX.AI sammelt eine leistungsstarke Auswahl an Tools, die wöchentlich mit aktualisierten Tests aus der Praxis erweitert wird. Mit diesen unverzichtbaren Werkzeugen können Sie präzise Umsatzübersichten erstellen, Verkaufsprozesse analysieren sowie Produktmetriken schnell überwachen und so Ihre Produktivität erheblich steigern. Entdecken Sie jetzt das perfekte Tool für datenbasierte Entscheidungsfindung! 238 Zeichen
9 Tools
xix.ai
Musikkomposition
Die besten KI-Tools zum Komponieren von Melodien für Songentwürfe
2026 Neueste Besten Top-Bewerteten KI-Melodie-Schreibtools für Songentwürfe! XIX.AI hat eine hochleistungsfähige, bahnbrechende Kollektion zusammengestellt, die strengen Praxistests unterzogen wurde, um das beste Schreiberlebnis zu liefern. Sie finden detaillierte kostenlose versus kostenpflichtige Vergleiche, präzise Ranglisten und unbedingt auszuprobierende Optionen, die darauf ausgelegt sind, Ihnen zu helfen, beeindruckende Songentwürfe mühelos zu erstellen und Ihre kreative Produktivität erheblich zu steigern. Entdecken Sie jetzt Ihr perfektes Tool!
8 Tools
xix.ai
Chatbot
Die besten KI-gestützten Gesprächstrainingstools für Vorstellungsgesprächspraxis
2026 Neueste Besten Top-bewerteten KI-Konversationstrainer-Tools für Vorstellungsgesprächspraxis sind hier auf XIX.AI! Diese kuratierte Sammlung enthält leistungsstarke, bahnbrechende Tools, die strengen Praxistests unterzogen wurden, um präzises Feedback zu liefern. Sie finden einen Vergleich zwischen kostenlosen und kostenpflichtigen Optionen sowie detaillierte Rankings, die Ihnen helfen, die empfehlenswerte Option zu wählen, die Ihr Selbstvertrauen und Ihre Fähigkeiten verbessert. Entdecken Sie jetzt Ihr perfektes Tool für den Erfolg im Vorstellungsgespräch!
12 Tools
xix.ai
Design & Kunst
Die besten KI-Tools für den Stiltransfer für kreative Experimente
Die besten und am besten bewerteten KI-Tools für den Stiltransfer im Jahr 2026 – ideal für kreative Experimente! XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung unverzichtbarer Tools zusammengestellt, die in Praxistests und strengen Bewertungen außergewöhnliche Ergebnisse liefern. Diese Top-Lösungen helfen Kreativen dabei, ihre Produktivität deutlich zu steigern, indem sie die Erstellung von Inhalten beschleunigen und unendliche kreative Möglichkeiten eröffnen. Entdecken Sie jetzt Ihr perfektes Tool und legen Sie noch heute los!
9 Tools
xix.ai
Comic-Erstellung
Die besten KI-Tools für Sprechblasen zum visuellen Geschichtenerzählen
Die besten und am besten bewerteten KI-Tools für Sprechblasen zum visuellen Storytelling des Jahres 2026 finden Sie hier auf XIX.AI! Diese sorgfältig zusammengestellte Sammlung umfasst leistungsstarke, bahnbrechende Tools, die Kreativen dabei helfen, ihre Produktivität zu steigern und kreative Blockaden zu überwinden. Holen Sie sich einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, sehen Sie sich Praxistests an und werfen Sie einen Blick auf die aktuellen Rankings, um die unverzichtbaren Lösungen zu finden, die sich perfekt für die Gestaltung fesselnder visueller Erzählungen eignen. Stöbern Sie jetzt und entdecken Sie Ihr ideales Tool!
10 Tools
xix.ai
Kommentare (1)
![CharlesYoung]()
Les mises à jour de politique me rappellent que les IA comme Claude sont des outils qui peuvent avoir des utilisations à double tranchant. 🔧 C'est rassurant de voir les entreprises prendre des initiatives, mais une réglementation internationale ne serait-elle pas plus efficace contre certains dangers ? En tout cas, voilà un pas dans la bonne direction.
Anthropic hat die Nutzungsrichtlinien für seinen KI-Chatbot Claude aktualisiert, um wachsenden Sicherheitsbedenken Rechnung zu tragen. Neben strengeren Cybersicherheitsregeln nennt das Unternehmen nun ausdrücklich Kategorien gefährlicher Waffen, die nicht mit Claude entwickelt werden dürfen.
In der offiziellen Ankündigung werden die Änderungen an den Waffenrichtlinien zwar nicht ausdrücklich hervorgehoben, ein Vergleich zwischen den alten und den neuen Nutzungsrichtlinien zeigt jedoch eine bedeutende Aktualisierung. Zuvor war es Anthropic weitgehend untersagt, Claude zu verwenden, um "Waffen, Sprengstoffe, gefährliche Materialien oder andere Systeme zu produzieren, zu modifizieren, zu entwerfen, zu vermarkten oder zu vertreiben, die dazu bestimmt sind, Menschen Schaden zuzufügen oder ihr Leben zu zerstören". Die überarbeitete Richtlinie erweitert dies, indem sie speziell die Entwicklung von Sprengstoffen mit hoher Sprengkraft sowie von biologischen, nuklearen, chemischen und radiologischen (CBRN) Waffen verbietet.
Im Mai führte Anthropic zeitgleich mit der Markteinführung seines neuen Modells Claude Opus 4 die Schutzmaßnahmen der "AI-Sicherheitsstufe 3" ein. Diese Sicherheitsvorkehrungen sollen das Modell widerstandsfähiger gegen Jailbreaking machen und verhindern, dass es zur Herstellung von CBRN-Waffen beiträgt.
In seiner Ankündigung erkennt Anthropic auch die Risiken an, die mit agentenbasierten KI-Tools wie Computer Use - das es Claude ermöglicht, den Computer eines Benutzers zu kontrollieren - und Claude Code - das Claude direkt in das Terminal eines Entwicklers integriert - verbunden sind. "Diese mächtigen Fähigkeiten bringen neue Risiken mit sich, einschließlich des Potenzials für skalierten Missbrauch, die Erstellung von Malware und Cyberangriffe", so das Unternehmen.
Siehe
- Anthropic lanciert neuen Claude-Dienst für Militär und Geheimdienste
- Google nimmt sein Versprechen zurück, keine KI-Waffen zu entwickeln
Das KI-Startup geht auf diese potenziellen Bedrohungen ein, indem es einen neuen Abschnitt mit dem Titel "Do Not Compromise Computer or Network Systems" (Computer- oder Netzwerksysteme nicht kompromittieren) in seine Nutzungsrichtlinien aufnimmt. Dieser Abschnitt enthält Regeln gegen die Verwendung von Claude, um Schwachstellen zu entdecken oder auszunutzen, Malware zu erstellen oder zu verbreiten, Tools für Denial-of-Service-Angriffe zu entwickeln und ähnliche Aktivitäten.
Darüber hinaus lockert Anthropic seine Politik in Bezug auf politische Inhalte. Anstatt die Erstellung von Inhalten im Zusammenhang mit politischen Kampagnen und Lobbying zu verbieten, verbietet das Unternehmen nun nur noch die Verwendung von Claude für "Anwendungsfälle, die irreführend oder störend für demokratische Prozesse sind oder die Wähler- und Kampagnenausrichtung beinhalten". Anthropic hat außerdem klargestellt, dass seine Anforderungen für alle "risikoreichen" Anwendungsfälle - die gelten, wenn Claude verwendet wird, um Empfehlungen an Einzelpersonen oder Kunden zu geben - nur für Szenarien relevant sind, die sich an Verbraucher richten, und nicht für die interne geschäftliche Nutzung.
Warner Music übernimmt das KI-Zuschreibungsstart-up Sureel AI
Warner Music Group (WMG) hat am Mittwoch bestätigt, dass es Sureel AI, ein Startup für KI-gestützte Attribution, übernimmt. Die proprietäre Technologie von Sureel generiert „AI-DNA“ für Musikstücke, indem sie diese in ihre Bestandteile zerlegt, um na
Amazon führt Alexa für den Einkauf ein und schiebt Rufus in den Hintergrund
Amazon hat Alexa for Shopping eingeführt, indem es den Rufus-Shopping-Chatbot mit Alexa+ in der App, auf der Website und auf Echo Show-Geräten zusammenführt.Der Assistent beantwortet Produktanfragen, vergleicht Artikel, verfolgt Preise und unterstüt
Microsoft, Azure und KI-Technologie bekämpfen die Risiken von Waldbränden in Kalifornien
Microsoft investiert in die KI-gestützte Erkennung von Waldbränden. Juan Lavista Ferres, CVP und Chief Data Scientist, erörtert Strategien zur Eindämmung von Umweltschäden.Laut der NASA betrifft der K
Die besten und am besten bewerteten KI-Tools zur Stem-Trennung des Jahres 2026 – speziell ausgewählt für Remix-Produktionen, die Vorbereitung von Samples und Karaoke-Masters. Diese leistungsstarken, bahnbrechenden Tools haben sich in der Praxis bewährt und bieten präzise Audioisolierung, wodurch die Produktivität erheblich gesteigert wird. XIX.AI stellt einen wöchentlich aktualisierten Vergleichsleitfaden zwischen kostenlosen und kostenpflichtigen Lösungen bereit, der Ihnen hilft, die für Ihre Anforderungen passende Lösung zu finden, die Sie unbedingt ausprobieren sollten. Entdecken Sie ihn jetzt und sichern Sie sich Ihren KI-Vorteil.
8 Tools
xix.ai
2026: Die neuesten und besten AI-SQL-Copiloten – alle in der Rangliste ganz oben! XIX.AI sammelt eine leistungsstarke Auswahl an Tools, die wöchentlich mit aktualisierten Tests aus der Praxis erweitert wird. Mit diesen unverzichtbaren Werkzeugen können Sie präzise Umsatzübersichten erstellen, Verkaufsprozesse analysieren sowie Produktmetriken schnell überwachen und so Ihre Produktivität erheblich steigern. Entdecken Sie jetzt das perfekte Tool für datenbasierte Entscheidungsfindung! 238 Zeichen
9 Tools
xix.ai
2026 Neueste Besten Top-Bewerteten KI-Melodie-Schreibtools für Songentwürfe! XIX.AI hat eine hochleistungsfähige, bahnbrechende Kollektion zusammengestellt, die strengen Praxistests unterzogen wurde, um das beste Schreiberlebnis zu liefern. Sie finden detaillierte kostenlose versus kostenpflichtige Vergleiche, präzise Ranglisten und unbedingt auszuprobierende Optionen, die darauf ausgelegt sind, Ihnen zu helfen, beeindruckende Songentwürfe mühelos zu erstellen und Ihre kreative Produktivität erheblich zu steigern. Entdecken Sie jetzt Ihr perfektes Tool!
8 Tools
xix.ai
2026 Neueste Besten Top-bewerteten KI-Konversationstrainer-Tools für Vorstellungsgesprächspraxis sind hier auf XIX.AI! Diese kuratierte Sammlung enthält leistungsstarke, bahnbrechende Tools, die strengen Praxistests unterzogen wurden, um präzises Feedback zu liefern. Sie finden einen Vergleich zwischen kostenlosen und kostenpflichtigen Optionen sowie detaillierte Rankings, die Ihnen helfen, die empfehlenswerte Option zu wählen, die Ihr Selbstvertrauen und Ihre Fähigkeiten verbessert. Entdecken Sie jetzt Ihr perfektes Tool für den Erfolg im Vorstellungsgespräch!
12 Tools
xix.ai
Die besten und am besten bewerteten KI-Tools für den Stiltransfer im Jahr 2026 – ideal für kreative Experimente! XIX.AI hat eine leistungsstarke, bahnbrechende Sammlung unverzichtbarer Tools zusammengestellt, die in Praxistests und strengen Bewertungen außergewöhnliche Ergebnisse liefern. Diese Top-Lösungen helfen Kreativen dabei, ihre Produktivität deutlich zu steigern, indem sie die Erstellung von Inhalten beschleunigen und unendliche kreative Möglichkeiten eröffnen. Entdecken Sie jetzt Ihr perfektes Tool und legen Sie noch heute los!
9 Tools
xix.ai
Die besten und am besten bewerteten KI-Tools für Sprechblasen zum visuellen Storytelling des Jahres 2026 finden Sie hier auf XIX.AI! Diese sorgfältig zusammengestellte Sammlung umfasst leistungsstarke, bahnbrechende Tools, die Kreativen dabei helfen, ihre Produktivität zu steigern und kreative Blockaden zu überwinden. Holen Sie sich einen Vergleich zwischen kostenlosen und kostenpflichtigen Angeboten, sehen Sie sich Praxistests an und werfen Sie einen Blick auf die aktuellen Rankings, um die unverzichtbaren Lösungen zu finden, die sich perfekt für die Gestaltung fesselnder visueller Erzählungen eignen. Stöbern Sie jetzt und entdecken Sie Ihr ideales Tool!
10 Tools
xix.ai
Les mises à jour de politique me rappellent que les IA comme Claude sont des outils qui peuvent avoir des utilisations à double tranchant. 🔧 C'est rassurant de voir les entreprises prendre des initiatives, mais une réglementation internationale ne serait-elle pas plus efficace contre certains dangers ? En tout cas, voilà un pas dans la bonne direction.
