ChatGPT stellt Diagnosen besser als Ärzte: Wie funktioniert das in der Praxis?.

Unvorhersehbare Folgen medizinischer Selbstdiagnose

Nach Angaben von Vox: Ein Künstler aus Deutschland, der gerne draußen malte, kam aufgrund eines Insektenstichs mit mehreren Symptomen ins Krankenhaus, die die Ärzte nicht entschlüsseln konnten. Nach einem Monat erfolgloser Behandlung begann er, seine medizinischen Informationen in ChatGPT einzugeben, das schließlich eine Diagnose vorschlug: Tularemie, auch bekannt als Hasenpest. Der Chatbot hatte recht, dieser Fall wurde später in einer begutachteten medizinischen Studie dokumentiert.

Zur gleichen Zeit beschrieb eine andere Studie einen Mann, der aufgrund von Anzeichen einer Psychose in ein Krankenhaus in den USA ging, da er verdächtigte, dass sein Nachbar ihn vergiftet. Wie sich herausstellte, hatte der Patient ChatGPT nach Alternativen zu Natriumchlorid (normalem Salz) gefragt. Der Chatbot empfahl ihm Natriumbromid, das zur Reinigung von Schwimmbädern verwendet wird. Er konsumierte diese giftige Substanz über drei Monate, und als er aufhörte, benötigte er einen dreiwöchigen Psychiatriekurs zur Stabilisierung.

Wir alle wissen, wie man bei Google nach Informationen über mysteriöse Krankheiten sucht. Sie geben Symptome ein, finden manchmal nützliche Ratschläge und fühlen sich manchmal unruhig, sich selbst zu überzeugen, dass Sie eine seltene, nicht diagnostizierte Form von Krebs haben. Dank der generativen KI hat der Suchprozess eine neue Wendung genommen. Lernen Sie Dr. ChatGPT kennen.

AI-Chatbots sind ein ansprechender Ersatz für einen menschlichen Arzt, insbesondere angesichts des aktuellen Ärztemangels sowie der weiteren Barrieren beim Zugang zur Gesundheitsversorgung in den Vereinigten Staaten.

ChatGPT ist kein Arzt, genau wie Google kein Arzt ist. Die Suche nach medizinischen Informationen auf beiden Plattformen kann gleichermaßen zu falschen Schlussfolgerungen führen. Im Gegensatz zu Google, das die Nutzer einfach zu Informationen führt, bieten ChatGPT und andere große Sprachmodelle (LLMs) die Möglichkeit zur Interaktion. Sie sind geschaffen, um bequem, ansprechend und ständig verfügbar zu sein. Das macht KI-Chatbots zu attraktiven Alternativen für menschliche Ärzte, insbesondere angesichts des Mangels an medizinischem Personal und anderer Barrieren beim Zugang zu medizinischer Versorgung in den USA.

Wie der Fall der Hasenpest zeigt, können diese Werkzeuge eine Vielzahl von Daten verarbeiten und gelangen manchmal zu Schlussfolgerungen, die Ärzte möglicherweise übersehen haben. Sie können jedoch auch tatsächlich gefährliche medizinische Ratschläge erteilen.

Es gibt einen Unterschied zwischen der Anfrage nach medizinischem Rat bei einem Chatbot und der Diskussion über die eigene Gesundheit. Wenn alles richtig gemacht wird, kann die Interaktion mit ChatGPT helfen, die Gespräche mit Ärzten zu verbessern und somit die medizinische Versorgung zu optimieren. Lassen Sie sich nur nicht von KI überzeugen, Poolreiniger zu essen.

Richtige und falsche Wege, mit Dr. ChatGPT zu kommunizieren

Viele Menschen nutzen bereits ChatGPT für medizinische Beratungen. Laut einer Umfrage von KFF 2024 gibt etwa einer von sechs Erwachsenen in den USA an, dass er jeden Monat AI-Chatbots für medizinische Ratschläge nutzt. Dennoch sind die meisten unsicher über die Genauigkeit der Informationen, die die Bots bieten, und das ist völlig verständlich, angesichts der verbreiteten Tendenz der LLMs zur Bildung von 'Halluzinationen' und der Möglichkeit, schädliche medizinische Informationen bereitzustellen. Das Hauptproblem für den normalen Nutzer besteht darin, Fakten von Fiktion zu unterscheiden.

„Ehrlich gesagt denke ich, dass Menschen sehr vorsichtig sein sollten, wenn sie dies für medizinische Zwecke verwenden, insbesondere wenn sie nicht über das Fachwissen verfügen, um zu unterscheiden, was wahr ist und was nicht“, sagte Dr. Roxanne Daneshjo, Professorin und KI-Forscherin an der Stanford Medical School. „Wenn es funktioniert, sieht es ziemlich gut aus, aber wenn nicht, kann es katastrophal sein.“

Chatbots können auch 'fügsam' sein oder versuchen, zu gefallen, was zu falschen Ratschlägen führen kann, wenn sie glauben, dass dies das ist, was Sie hören möchten.

Wenn Sie eine Liste von Dingen haben, die Sie Ihren Arzt fragen möchten, könnte ChatGPT Ihnen helfen, Fragen zu formulieren.

Wenn Sie jedoch nicht vergessen, die Symptome zu überprüfen, können solche Werkzeuge wie ChatGPT sehr nützlich sein, um zusätzliche Informationen über Ihre Gesundheit basierend auf dem, was der Arzt bereits gesagt hat, zu erhalten oder um seine medizinischen Aufzeichnungen besser zu verstehen. Wenn Sie eine Liste von Fragen für Ihren Arzt haben, kann ChatGPT bei deren Formulierung helfen. Wenn Sie Testergebnisse haben und die nächsten Schritte mit Ihrem Arzt besprechen müssen, können Sie dies mit dem Chatbot besprechen, sollten aber nicht erwarten, spezifische medizinische Ratschläge von ihm zu erhalten.

Tatsächlich gibt es Beweise dafür, dass ChatGPT in dieser Hinsicht sogar besser sein kann. Eine Studie aus dem Jahr 2023 verglich die Antworten von Ärzten auf Gesundheitsfragen mit den Antworten von KI auf denselben Fragen. Medizinische Fachkräfte bewerteten alle Antworten und stellten fest, dass die Antworten, die vom Chatbot erstellt wurden, eine bessere Qualität und mehr Empathie aufwiesen. Dennoch ersetzt dies nicht die persönliche Begegnung zwischen Arzt und Patient. Es ist erwähnenswert, dass Patienten im Durchschnitt nur 18 Minuten Zeit beim Termin bei ihrem Hausarzt erhalten. Wenn Sie nur einmal im Jahr gehen, ist das nicht viel Zeit für die Gespräche mit einem Arzt.

Es sollte berücksichtigt werden, dass ChatGPT im Gegensatz zu Ihrem Arzt nicht den Anforderungen des HIPAA unterliegt. Chatbots haben im Allgemeinen begrenzte Maßnahmen zur Gewährleistung der Privatsphäre. Das bedeutet, dass alle medizinischen Informationen, die Sie bereitstellen, im Gedächtnis der KI gespeichert werden können und zur zukünftigen Schulung großer Sprachmodelle verwendet werden.

Die Zukunft der Bot-Dienste in der medizinischen Versorgung

Selbst wenn Sie KI nicht zur Lösung medizinischer Rätsel verwenden, könnte Ihr Arzt dies bereits tun. Laut einem Bericht von Elsevier für 2025 gaben etwa die Hälfte der Ärzte an, mit KI-Werkzeugen zu arbeiten, und einige mehr sagen, dass dies ihnen Zeit spart. Jeder fünfte Arzt behauptet, KI für eine zweite Meinung zu komplizierten Fällen genutzt zu haben. Das bedeutet nicht zwangsläufig, dass Ihr Arzt ChatGPT nach Ihren Symptomen fragt.

Ärzte nutzen KI-basierte Werkzeuge zur Unterstützung bei der Diagnostik von Patienten und zur Erstellung von Notizen, noch bevor ChatGPT auftauchte. Zu diesen Werkzeugen gehören klinische Entscheidungsunterstützungssysteme, die speziell für Ärzte entwickelt wurden und bereits traditionelle Chatbots übertreffen — obwohl Chatbots durchaus bestehende Tools ergänzen können. Eine Studie aus dem Jahr 2023 ergab, dass Ärzte, die mit ChatGPT arbeiteten, nur geringfügig bessere Diagnosen bei Testfällen stellten als diejenigen, die allein arbeiteten. Interessanterweise erzielte ChatGPT selbst die besten Ergebnisse.

Diese Studie war ein Thema in den Nachrichten, möglicherweise aufgrund des Vorschlags, dass KI-Chatbots Ärzte bei Diagnosen übertreffen könnten. Einer der Mitautoren, Dr. Adam Rodman, schlägt vor, dass dies möglicherweise nicht der Fall wäre, wenn Ärzte offener gegenüber den Vorschlägen von ChatGPT wären, anstatt zu glauben, dass die Chatbots falsch liegen, wenn die Ergebnisse nicht mit ihren eigenen Schlussfolgerungen übereinstimmen. Natürlich kann KI Fehler machen, aber sie kann auch Verbindungen aufzeigen, die Menschen möglicherweise übersehen haben. Denken Sie erneut an den Fall der Hasenpest.

„Patienten müssen mit ihren Ärzten über die Nutzung ihrer LLM sprechen, und ehrlich gesagt sollten Ärzte mit ihren Patienten über ihre LLM-Nutzung sprechen.“

„Der durchschnittliche Arzt sieht klar, wenn etwas nicht stimmt“, bemerkte Rodman, Internist im Beth Israel Deaconess Medical Center und Dozent an der Harvard Medical School. „Ich weiß nicht, ob der durchschnittliche Patient die gleiche Fähigkeit hat.“

In naher Zukunft ist nicht zu erwarten, dass Dr. ChatGPT in Ihrer örtlichen Klinik auftritt. Vielmehr werden Sie KI wahrscheinlich in der Rolle eines Assistenten sehen, der dem Arzt Zeit bei der Protokollierung spart und möglicherweise in Zukunft bei der Datenanalyse hilft. Ihr Arzt könnte KI nutzen, um schneller Nachrichten für Patienten zu formulieren. Mit dem Fortschritt der KI-Technologie könnte eine breitere Anwendung solcher Werkzeuge in der Diagnostik und zur Einholung einer zweiten Meinung möglich sein. Das bedeutet jedoch nicht, dass Sie eilig zu ChatGPT mit dringenden medizinischen Fragen gehen sollten. Wenn Sie sich dazu entscheiden, teilen Sie Ihrem Arzt unbedingt Ihre Erfahrungen mit.

„Patienten sollten mit ihren Ärzten über die Nutzung von LLM sprechen, und ehrlich gesagt sollten Ärzte mit ihren Patienten über ihre Nutzung von LLM kommunizieren“, betonte Rodman. „Wenn wir einfach offen miteinander umgehen, wird das zu produktiveren Gesprächen führen.“