Medizinische Experten erkennen das Potenzial künstlicher Intelligenz zur Verbesserung der Gesundheitsversorgung an, bezweifeln jedoch ihre Eignung als Standardlösung für Chatbots.

Dr. Sina Bari, die als Chirurgin tätig ist und gleichzeitig als führende Expertin für KI-Anwendungen bei dem Technologieunternehmen iMerit fungiert, hat aus erster Hand miterlebt, wie ChatGPT Patienten falsche medizinische Ratschläge geben kann, die sie auf den falschen Weg führen können.

„Vor Kurzem kam ein Patient zu mir. Nachdem ich ein bestimmtes Medikament vorgeschlagen hatte, zeigte er mir eine von ChatGPT generierte Unterhaltung, in der behauptet wurde, dass die Einnahme dieses Präparats ein 45-prozentiges Risiko für das Auftreten einer Lungenembolie mit sich bringt“, erzählte Dr. Bari gegenüber TechCrunch.

Bei weiterer Untersuchung stellte Dr. Bari fest, dass die angegebene Statistik aus einer wissenschaftlichen Studie stammte, die die Wirkung dieses Medikaments bei einer bestimmten Untergruppe von Tuberkulose-Patienten untersuchte – Informationen, die völlig irrelevant für die Situation ihres Patienten waren.

Trotz dieses Problems empfand Dr. Bari letzte Woche, als OpenAI seinen speziellen ChatGPT Health-Chattenbot vorstellte, mehr Begeisterung als Sorge.

ChatGPT Health, das in den kommenden Wochen veröffentlicht werden soll, ermöglicht es Nutzern, ihre Gesundheitsbedenken in einer privateren Umgebung zu besprechen. Zudem wird gewährleistet, dass die über diese Plattform gesendeten Nachrichten nicht als Trainingsdaten für das zugrunde liegende KI-Modell verwendet werden.

„Ich halte das für eine hervorragende Entwicklung“, sagte Dr. Bari. „Da so etwas bereits im Einsatz ist, wird es durch formelle Strukturen mit angemessenen Schutzmaßnahmen zur Sicherung der Patientendaten noch wertvoller für Patienten, die Orientierung suchen.“

Durch das Hochladen ihrer Krankenakten und deren Synchronisierung mit Apps wie Apple Health und MyFitnessPal können Nutzer über ChatGPT Health individuellere Ratschläge erhalten. Allerdings weckt diese Funktion beijenigen, denen die Datensicherheit am wichtigsten ist, sofortige Bedenken.

Techcrunch-Veranstaltung

Tragen Sie sich in die Warteliste für Disrupt 2026 ein

Tragen Sie sich in die Warteliste für Disrupt 2026 ein, um als Erste Zugang zu erhalten, sobald die Early-Bird-Tickets verfügbar sind. Bei früheren Ausgaben von Disrupt traten Unternehmen wie Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil und Vinod Khosla auf – zusammen mit mehr als 250 Branchenführern, die über 200 Sessions veranstalteten, um das Wachstum der Teilnehmer zu fördern und ihre Kompetenzen zu stärken. Zudem konnten die Besucher Hunderte von Start-ups kennenlernen, die in allen Bereichen Innovationen vorantreiben.

Tragen Sie sich in die Warteliste für Disrupt 2026 ein

Tragen Sie sich in die Warteliste für Disrupt 2026 ein, um als Erste Zugang zu erhalten, sobald die Early-Bird-Tickets verfügbar sind. Bei früheren Ausgaben von Disrupt traten Unternehmen wie Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil und Vinod Khosla auf – zusammen mit mehr als 250 Branchenführern, die über 200 Sessions veranstalteten, um das Wachstum der Teilnehmer zu fördern und ihre Kompetenzen zu stärken. Zudem konnten die Besucher Hunderte von Start-ups kennenlernen, die in allen Bereichen Innovationen vorantreiben.

San Francisco | 13.–15. Oktober 2026 – TRAGEN SIE SICH JETZT IN DIE WARTELISTE EIN

„Plötzlich werden medizinische Daten von Organisationen, die den HIPAA-Vorschriften entsprechen, an Anbieter übertragen, die dies nicht tun“, sagte Itai Schwartz, Mitbegründer des Unternehmens MIND für den Schutz vor Datensicherheitslücken, gegenüber TechCrunch. „Deshalb bin ich gespannt, wie die Aufsichtsbehörden vorgehen wollen, um diese Situation zu lösen.“

Aus Sicht einiger Branchenexperten ist der Schaden jedoch bereits entstanden. Heutzutage suchen Menschen statt im Internet nach Symptomen lieber KI-Chattenbots auf – wöchentlich interagieren mehr als 230 Millionen Nutzer mit ChatGPT zu Themen ihrer Gesundheit.

„Das stellt einen der bedeutendsten Anwendungsfälle für ChatGPT bislang dar“, sagte Andrew Brackin, Partner bei Gradient und Spezialist für Investitionen in Gesundheitstechnologien, gegenüber TechCrunch. „Es ist völlig logisch, dass man eine privatere, sicherere und optimierte Version von ChatGPT schaffen möchte, die speziell für die Bearbeitung gesundheitlicher Anfragen konzipiert ist.“

KI-Chattenbots leiden unter einem anhaltenden Problem namens Halluzinationen, das insbesondere im Gesundheitswesen ernsthafte Bedenken aufwirft. Laut dem Factual Consistency Evaluation Model von Vectara neigt OpenAIs GPT-5 dazu, mehr falsche Informationen zu erzeugen als viele Modelle von Google und Anthropic. Dennoch sehen KI-Unternehmen Potenzial darin, diese Technologien zur Beseitigung von Ineffizienzen im Gesundheitswesen einzusetzen (auch Anthropic kündigte diese Woche ein gesundheitliches Produkt an).

Für Dr. Nigam Shah, Professor für Medizin an der Stanford University und Leiterin für Datenwissenschaften bei Stanford Health Care, ist die Schwierigkeit, auf medizinische Versorgung zuzugreifen, für amerikanische Patienten ein noch dringenderes Problem als das Risiko, dass ChatGPT ungenaue Ratschläge gibt.

„Derzeit muss man, wenn man über ein beliebiges Gesundheitssystem einen Hausarzt aufsuchen will, mit Wartezeiten von drei bis sechs Monaten rechnen“, sagte Dr. Shah. „Wenn Sie zwischen dem Warten von sechs Monaten auf einen menschlichen Arzt und dem Gespräch mit einem KI-Tool wählen müssten, das Ihnen dennoch bei bestimmten medizinischen Bedürfnissen helfen kann – was würden Sie wählen?“

Dr. Shah ist der Ansicht, dass der effektivste Weg zur Integration von KI in Gesundheitssysteme darin besteht, sich auf Veränderungen auf der Seite der Anbieter statt bei den Patienten zu konzentrieren.

Medizinische Fachzeitschriften berichten häufig, dass administrative Aufgaben etwa die Hälfte der Arbeitszeit eines Hausarztes ausmachen und dadurch die Anzahl der Patienten, die er an einem Tag behandeln kann, erheblich einschränken. Die Automatisierung solcher Aufgaben könnte es Ärzten ermöglichen, mehr Patienten zu sehen, wodurch möglicherweise weniger Menschen auf Tools wie ChatGPT Health angewiesen wären, ohne vorher einen echten Arzt aufzusuchen.

Dr. Shah leitet ein Team an der Stanford University, das ChatEHR entwickelt – eine Softwareanwendung, die direkt in elektronische Krankenakten-Systeme integriert werden soll. Dieses Tool ermöglicht es Klinikern, auf die Krankenakten ihrer Patienten effizienter zuzugreifen und ihren Arbeitsablauf zu vereinfachen.

„Durch eine benutzerfreundlichere Gestaltung der elektronischen Krankenakten können Ärzte weniger Zeit damit verbringen, in komplexen Unterlagen nach den benötigten Informationen zu suchen“, erklärte Dr. Sneha Jain, eine der ersten Testerinnen von ChatEHR, in einem Artikel der Stanford Medicine. „ChatEHR hilft ihnen dabei, diese Informationen schnell zu erhalten, sodass sie sich auf das wirklich Wichtige konzentrieren können – nämlich auf die Kommunikation mit den Patienten und das Verständnis ihrer Gesundheitszustände.“

Anthropic entwickelt außerdem KI-Produkte für Kliniker und Versicherungsunternehmen neben seinem öffentlich zugänglichen Claude-Chattenbot. Diese Woche stellte Anthropic Claude for Healthcare vor und erklärte, wie es dazu genutzt werden kann, die Zeit, die mit langwierigen administrativen Aufgaben wie dem Einreichen von Vorabgenehmigungsanfragen an Versicherer verbracht wird, zu reduzieren.

„Einige von Ihnen bearbeiten wöchentlich Hunderte oder sogar Tausende von Fällen bezüglich der Vorabgenehmigung“, sagte Mike Krieger, Chief Product Officer bei Anthropic, während einer Präsentation auf der Healthcare Conference von J.P. Morgan. „Stellen Sie sich vor, Sie könnten 20 bis 30 Minuten von jedem dieser Prozesse sparen – das würde erhebliche Zeitersparnisse bedeuten.“

Da KI und Medizin immer enger miteinander verbunden werden, besteht zwischen diesen beiden Bereichen eine unvermeidliche Spannung. Ärzte werden in erster Linie von ihrem Engagement, Patienten zu helfen, angetrieben, während Technologieunternehmen letztendlich ihren Aktionären Rechenschaft schulden – auch wenn ihre Absichten gut gemeint sind.

„Ich halte diese Spannung für sehr wichtig“, sagte Dr. Bari. „Patienten verlassen sich darauf, dass wir vorsichtig und konservativ handeln, um ihre Interessen zu schützen.“