Sam Altman warnt vor der Verwendung von ChatGPT für die Therapie ohne gesetzlichen Schutz der Privatsphäre

Bevor Sie Ihren KI-Assistenten zur emotionalen Unterstützung oder für eine Therapie einsetzen, sollten Sie es sich noch einmal überlegen. Der CEO von OpenAI, Sam Altman, weist darauf hin, dass die Branche noch keine Schutzmaßnahmen für die Privatsphäre der Nutzer bei sensiblen Gesprächen eingeführt hat. Es gibt keine ärztliche Schweigepflicht, wenn Ihr Therapeut ein Algorithmus ist.

Altman teilte diese Erkenntnisse in einer kürzlich erschienenen Folge des Podcasts von Theo Von, "This Past Weekend w/ Theo Von".

In Bezug auf Fragen zur Interaktion von KI mit dem Rechtssystem merkte Altman an, dass Gespräche mit KI ohne etablierte rechtliche Rahmenbedingungen keinen Schutz der Vertraulichkeit bieten.

"Die Nutzer teilen mit ChatGPT sehr intime Details über ihr Leben", erklärte Altman. "Vor allem jüngere Nutzer nutzen ChatGPT als Therapeut oder Lebensberater, um Beziehungen zu besprechen und um Rat zu fragen. Während Gespräche mit menschlichen Fachleuten rechtlich geschützt und vertraulich sind, haben wir dies für KI-Interaktionen nicht gelöst".

Altman fügte hinzu, dass dies bei Gerichtsverfahren Risiken für den Datenschutz mit sich bringt, da OpenAI gezwungen werden könnte, die Gespräche der Nutzer offenzulegen.

"Diese Situation ist nicht ideal. Wir sollten die gleichen Datenschutzstandards auf KI-Gespräche ausweiten, die wir auf Therapiesitzungen anwenden - ein Konzept, das bis vor kurzem niemand in Betracht gezogen hat", so Altman.

Das Unternehmen ist sich bewusst, dass Datenschutzbedenken eine breitere Akzeptanz behindern könnten. Abgesehen davon, dass KI-Systeme umfangreiche Trainingsdaten benötigen, werden sie in Rechtsfällen immer häufiger aufgefordert, Chatprotokolle von Benutzern zur Verfügung zu stellen. OpenAI ficht derzeit in seinem Rechtsstreit mit der New York Times einen Gerichtsbeschluss an, der die Aufbewahrung von Chatverläufen von Hunderten von Millionen von Nutzern weltweit vorschreibt, ausgenommen Unternehmenskunden.

Tech- und VC-Schwergewichte auf der Agenda der Disrupt 2025

Netflix, ElevenLabs, Wayve und Sequoia Capital gehören zu den führenden Unternehmen der Branche, die an der Disrupt 2025 teilnehmen. Sie werden wichtige Einblicke geben, um das Wachstum von Start-ups zu beschleunigen und Ihren Wettbewerbsvorteil zu verbessern. Erleben Sie das 20-jährige Jubiläum der TechCrunch Disrupt und lernen Sie von den führenden Köpfen der Technologiebranche - sichern Sie sich jetzt Ihr Ticket und sparen Sie bis zu 675 US-Dollar, bevor die Preise steigen.

Tech- und VC-Schwergewichte auf der Agenda der Disrupt 2025

Netflix, ElevenLabs, Wayve und Sequoia Capital gehören zu den führenden Unternehmen der Branche, die an der Disrupt 2025 teilnehmen. Sie werden wichtige Einblicke geben, um das Wachstum von Start-ups zu beschleunigen und Ihren Wettbewerbsvorteil zu verbessern. Erleben Sie das 20-jährige Jubiläum der TechCrunch Disrupt und lernen Sie von den führenden Köpfen der Technologiebranche - sichern Sie sich jetzt Ihr Ticket und sparen Sie bis zu 675 US-Dollar, bevor die Preise steigen.

Auf seiner Website hat OpenAI erklärt, dass es gegen eine gerichtliche Anordnung Berufung einlegt, die es als "eine Überschreitung" bezeichnet. Wenn die Gerichte die Datenschutzentscheidungen des Unternehmens außer Kraft setzen können, könnte dies OpenAI erweiterten gerichtlichen Ermittlungs- und Strafverfolgungsanfragen aussetzen. Technologieunternehmen erhalten regelmäßig Vorladungen für Nutzerdaten in Strafsachen, obwohl die jüngsten rechtlichen Veränderungen neue Bedenken über den Zugang zu digitalen Informationen aufgeworfen haben.

Nach der Aufhebung des Urteils Roe v. Wade durch den Obersten Gerichtshof sind beispielsweise viele Nutzer zu sichereren Anwendungen zur Überwachung der Periode und zu Apple Health mit seinen verschlüsselten Aufzeichnungen übergegangen.

Altman erkundigte sich auch nach der ChatGPT-Nutzung des Gastgebers und bemerkte Vons Eingeständnis, dass Datenschutzbedenken sein Engagement mit dem KI-Chatbot einschränkten.

"Es ist völlig vernünftig, klare Datenschutzgarantien und rechtlichen Schutz zu wollen, bevor man ChatGPT vollständig akzeptiert", räumte Altman ein.