Anthropic-Benutzer müssen wählen: KI-Chats zum Training freigeben oder aussteigen

Anthropic führt umfangreiche Änderungen an seinen Nutzerdatenrichtlinien ein und verlangt von allen Claude-Nutzern, bis zum 28. September zu entscheiden, ob sie damit einverstanden sind, dass ihre Unterhaltungen für das Training von KI-Modellen verwendet werden. Während das Unternehmen auf seinen Blogbeitrag über die Aktualisierungen der Richtlinien verwies, als es nach den Gründen gefragt wurde, haben wir unsere eigenen Interpretationen entwickelt.

Schauen wir uns zunächst die Änderungen an: Bisher hat Anthropic keine Chatdaten von Verbrauchern für das Modelltraining verwendet. Jetzt beabsichtigt das Unternehmen, seine KI-Systeme anhand von Nutzergesprächen und Codierungssitzungen zu trainieren und die Datenspeicherung für Nutzer, die sich nicht dagegen entscheiden, auf fünf Jahre auszudehnen.

Dies stellt eine bedeutende Veränderung dar. Vor dieser Aktualisierung wurden die Nutzer von Anthropic-Produkten darüber informiert, dass ihre Eingabeaufforderungen und Konversationsergebnisse innerhalb von 30 Tagen automatisch aus den Anthropic-Systemen entfernt werden, es sei denn, gesetzliche oder politische Bestimmungen schreiben eine längere Aufbewahrung vor oder der Inhalt verstößt gegen Richtlinien - in diesem Fall können die Eingaben und Ergebnisse bis zu zwei Jahre gespeichert werden.

Diese neuen Richtlinien gelten für Claude Free-, Pro- und Max-Nutzer, einschließlich derjenigen, die Claude Code verwenden. Geschäftskunden, die Claude Gov, Claude for Work, Claude for Education oder den API-Zugang nutzen, sind davon nicht betroffen, was zeigt, dass OpenAI Unternehmenskunden in ähnlicher Weise von den Richtlinien für Datentraining abschirmt.

Was sind also die Gründe für diese Änderungen? In seiner Ankündigung stellt Anthropic das Update als eine Entscheidung der Nutzer dar und meint, dass die Nutzer, indem sie sich nicht abmelden, "uns dabei helfen, die Modellsicherheit zu verbessern, unsere Systeme zur Erkennung schädlicher Inhalte genauer zu machen und die Zahl der Fehlalarme zu reduzieren". Die Nutzer werden "auch dazu beitragen, die Fähigkeiten zukünftiger Claude-Modelle in Bereichen wie Codierung, Analyse und Argumentation zu verbessern, was letztendlich allen Nutzern zugute kommt".

Im Wesentlichen heißt das: Helfen Sie uns, Ihnen zu helfen. Das Gesamtbild könnte jedoch etwas weniger altruistisch sein.

Wie bei anderen großen Sprachmodellunternehmen überwiegt auch bei Anthropic der Bedarf an Daten die Bedenken hinsichtlich der Markenwahrnehmung. Für das Training von KI-Modellen werden enorme Mengen an hochwertigen Konversationsdaten benötigt, und der Zugang zu Millionen von Claude-Interaktionen bietet genau die Art von realen Inhalten, die Anthropics Wettbewerbsposition gegenüber Konkurrenten wie OpenAI und Google stärken könnten.

Tech- und VC-Schwergewichte auf der Agenda der Disrupt 2025

Netflix, ElevenLabs, Wayve, Sequoia Capital, Elad Gil - nur einige der einflussreichen Führungskräfte, die an der Disrupt 2025 teilnehmen. Sie sind hier, um Erkenntnisse zu teilen, die das Wachstum von Start-ups fördern und Ihren Wettbewerbsvorteil verbessern. Verpassen Sie nicht das 20-jährige Jubiläum der TechCrunch Disrupt und die Gelegenheit, von den führenden Köpfen der Technologiebranche zu lernen. Sichern Sie sich jetzt Ihr Ticket und sparen Sie bis zu 600 Dollar, bevor die Preise steigen.

Tech- und VC-Schwergewichte auf der Agenda der Disrupt 2025

Netflix, ElevenLabs, Wayve, Sequoia Capital - nur einige der prominenten Persönlichkeiten, die an der Disrupt 2025 teilnehmen. Sie sind hier, um die Erkenntnisse zu vermitteln, die das Wachstum von Start-ups fördern und Ihren Wettbewerbsvorteil stärken. Verpassen Sie nicht das 20-jährige Jubiläum der TechCrunch Disrupt und Ihre Chance, von den besten Technologieexperten zu lernen - kaufen Sie Ihr Ticket jetzt und sparen Sie bis zu 675 US-Dollar, bevor die Preise steigen.

Abgesehen vom Wettbewerbsdruck bei der KI-Entwicklung spiegeln diese Veränderungen auch breitere Veränderungen in der Datenpolitik der Branche wider, da Unternehmen wie Anthropic und OpenAI zunehmend mit der Frage konfrontiert werden, wie sie ihre Daten speichern. OpenAI zum Beispiel ficht derzeit eine gerichtliche Anordnung an, die das Unternehmen dazu verpflichtet, alle ChatGPT-Unterhaltungen von Verbrauchern auf unbestimmte Zeit zu speichern, einschließlich gelöschter Chats, und die auf eine Klage der New York Times und anderer Verlage zurückgeht.

Im Juni bezeichnete Brad Lightcap, COO von OpenAI, dies als "eine weitreichende und unnötige Forderung", die "im grundlegenden Widerspruch zu den Datenschutzverpflichtungen steht, die wir gegenüber unseren Nutzern eingegangen sind". Der Gerichtsbeschluss betrifft ChatGPT Free-, Plus-, Pro- und Team-Nutzer, obwohl Unternehmenskunden und solche mit Zero Data Retention-Vereinbarungen geschützt bleiben.

Besorgniserregend ist die beträchtliche Verwirrung, die diese sich entwickelnden Nutzungsrichtlinien bei den Nutzern stiften, von denen viele sie nicht kennen.

Zugegebenermaßen entwickelt sich der Technologiesektor schnell weiter, so dass sich die Datenschutzrichtlinien zwangsläufig mit dem technologischen Fortschritt ändern. Viele dieser Änderungen sind jedoch recht umfangreich und werden inmitten anderer Unternehmensankündigungen nur kurz erwähnt. (Anhand der Platzierung auf der Presseseite von Anthropic würde man nicht vermuten, dass die am Dienstag vorgenommenen Änderungen der Datenschutzrichtlinien für die Nutzer besonders wichtig sind).

Vielen Nutzern ist nicht bewusst, dass sich die Richtlinien, denen sie zugestimmt haben, geändert haben, da die Gestaltung der Benutzeroberfläche dieses Versäumnis praktisch garantiert. Die meisten ChatGPT-Benutzer klicken weiterhin auf "Löschen"-Optionen, die technisch gesehen nichts entfernen. In der Zwischenzeit folgt die Umsetzung der neuen Richtlinien von Anthropic einem bekannten Ansatz.

Wie? Neue Benutzer wählen ihre Präferenz während der Registrierung aus, aber bestehende Benutzer sehen ein Popup-Fenster mit "Updates to Consumer Terms and Policies" (Aktualisierungen der Verbraucherbedingungen und -richtlinien) in großer Schrift mit einer auffälligen schwarzen Schaltfläche "Accept" (Akzeptieren), während der viel kleinere Schalter für die Trainingserlaubnis darunter in feinerer Schrift erscheint - voreingestellt auf "On" (Ein).

Wie The Verge heute bereits anmerkte, gibt dieses Design Anlass zur Sorge, dass Nutzer vorschnell auf "Akzeptieren" klicken könnten, ohne sich darüber im Klaren zu sein, dass sie damit der Datenweitergabe zustimmen.

Dabei war das Bewusstsein der Nutzer noch nie so wichtig wie heute. Datenschutzexperten warnen seit langem davor, dass die Komplexität von KI eine echte Zustimmung der Nutzer bekanntermaßen schwierig macht. Unter der Regierung Biden hat sich sogar die Federal Trade Commission eingeschaltet und davor gewarnt, dass KI-Unternehmen Vollstreckungsmaßnahmen riskieren, wenn sie "heimlich Nutzungsbedingungen oder Datenschutzrichtlinien ändern oder Angaben hinter Hyperlinks, juristischem Fachjargon oder Kleingedrucktem verbergen".

Ob die Kommission - die derzeit mit nur drei ihrer fünf Kommissare arbeitet - diese Praktiken weiterhin überwacht, bleibt ungewiss, eine Frage, die wir direkt an die FTC gestellt haben.