Logo der Apotheken Umschau

Bislang ging es Schlag auf Schlag. Im November 2022 stellte ein US-Start-up den Prototypen ChatGPT der Öffentlichkeit kostenfrei zur Verfügung. Die Künstliche Intelligenz (KI) antwortet auch auf medizinische Fragen oder kann Forschungsliteratur zu einem Thema zusammenfassen. Schon zwei Monate nach seiner Veröffentlichung verzeichnete ChatGPT Schätzungen zufolge rund 100 Millionen Nutzerinnen und Nutzer. Im Februar folgte die Meldung, dass die KI die US-Medizinprüfung mit der Mindestpunktzahl bestanden hat. Taugt sie Patientinnen und Patienten also als eine Art Dr. ChatGPT?

Wie funktioniert ChatGPT?

"ChatGPT ist ein großes Sprachmodell", sagt die Informatikerin und Psychologin Ute Schmid von der Uni Bamberg. "In die KI wurde eine gigantisch große Menge von Informationen aus dem Internet eingespeist“. Die Qualitätsspanne reicht dabei von meist seriösen Informationen etwa aus Online-Lexika oder wissenschaftlicher Literatur bis hin zu komplett falschen Angaben aus Foren oder Social Media.

Die Nutzerinnen und Nutzer können mit dem ChatBot kommunizieren, indem sie einen Prompt, also eine Eingabe erstellen, etwa: „Was muss ich bei Fieber tun?“. In diesem Fall springt der Bot zu dem Punkt in seinem riesigen Netzwerk, wo der Begriff "Fieber" mit seinem Kontext zu finden ist und kombiniert dies mit der Eingabe. „Seine Antworten entstehen, indem er berechnet, welche Wörter in seiner Antwort als nächstes kommen“, sagt Ute Schmid. Bei dem Satz "Bei Fieber sollte man viel..." findet er vermutlich "trinken" als wahrscheinlichste Fortsetzung.

Welche Vorteile könnten sich durch ChatGPT ergeben?

Ärztinnen und Ärzte diskutieren derzeit, ob der ChatBot ihnen nervige Schreibarbeit abnehmen oder diese zumindest erleichtern könnte. Die KI könnte möglicherweise Arztbriefe verfassen oder Schreiben an Krankenkassen. Auch eine Literaturrecherche oder das Zusammenfassen der Krankengeschichte von Patientinnen und Patienten wären denkbar.

Wie können Patientinnen und Patienten den Chatbot nutzen?

Man könne ChatGPT beispielsweise wie eine medizinische Suchmaschine verwenden, sagt Alena Buyx, Professorin für Ethik der Medizin und Gesundheitstechnologien an der Technischen Universität München und Vorsitzende des Deutschen Ethikrats. Als Nutzer oder Nutzerin gibt man dann etwa ein: "Welche Therapien gibt es bei Brustkrebs?". "Der Unterschied ist, dass die KI anders als etwa Google keine Webseiten auflistet, sondern eine Antwort verfasst", so Buyx. Man müsse aber gleich hinzufügen, dass ChatGPT hierbei fehleranfällig sei und sich sogar Dinge ausdenke.

Möglich wäre auch, ChatGPt als Symptomchecker einzusetzen. Nutzerinnen und Nutzer nennen dann ihre Symptome und der ChatBot antwortet, um welche Krankheit es sich möglicherweise handelt. Ebenfalls denkbar: ChatGPT zu fragen, zu welchen Wechselwirkungen es kommen kann, wenn man mehrere Medikamente gleichzeitig einnimmt. Was zu der wichtigen Frage führt:

Wie verlässlich sind die Informationen von ChatGPT?

Die Bamberger Informatikerin Ute Schmid rät Patientinnen und Patienten davon ab, ChatGPT für konkrete Behandlungsvorschläge zu nutzen. Man könne sich nicht darauf verlassen, dass die Informationen vertrauenswürdig sind. „Patientinnen und Patienten sollten auf diesem Weg zudem weder die Wechselwirkungen ihrer Medikamente erfragen noch Symptome angeben, um eine Diagnose zu erhalten“, so Schmid. „Wenn ChatGPT zum Beispiel Wechselwirkungen nennt, kann man der Antwort nicht einfach glauben.“

63570533_993cb42860.IRWUBPROD_7JF4.jpeg

„Keine App kann einen Arzt ersetzen“

Immer mehr Menschen nutzen Gesundheits-Apps. Was können sie? Woran erkennt man seriöse Anbieter? Und wo kommen die digitalen Helfer an Grenzen? Antworten im Interview. zum Artikel

Das Problem: ChatGPT gibt keine Quellen an. Man weiß also nicht, ob es sich um Fakten oder Phantasie handelt. „Im Internet stehen viele ungeprüfte Informationen, die der ChatBot unkritisch mit übernimmt“, sagt Schmid. Letztlich verstehen Sprachmodelle wie ChatGPT nicht wirklich, was einzelne Wörter und Sätze bedeuten, sondern berechnen die Wahrscheinlichkeit für die Abfolge von Wörtern. Das Tückische dabei ist: ChatGPt klingt in seinen Antworten sehr überzeugend, selbst wenn er mal keine fundierte Antwort parat hat.

Bisher gibt es erst erste Untersuchungen dazu, wie sehr man den Antworten der KI zu Fragen der Gesundheit Glauben schenken kann. In einer Studie nahmen Forscherinnen und Forscher die Empfehlungen von ChatGPT zur Prävention von Herzerkrankungen unter die Lupe. 21 von 25 Antworten stuften sie als angemessen ein. Die restlichen Antworten fielen durch. So empfahl die KI sowohl Herz-Kreislauf-Aktivitäten als auch das Heben von Gewichten nachdrücklich, was je nach Konstitution der fragenden Person auch falsch und für bestimmte Menschen sogar schädlich sein kann.

Wie ist ChatGPT aus ethischer Sicht zu bewerten?

Auch Alena Buyx, die Medizinethikern aus München hat durchaus einige Bedenken bei dem Einsatz von ChatGPT. "Die Ergebnisse von ChatGPT sind sehr gut, aber nicht fehlerfrei, was natürlich in der Medizin besonders relevant ist." Zudem sei Nutzerinnen und Nutzern möglicherweise nicht klar, dass es sich nur um einen ChatBot handelt und nicht um einen Menschen. Denn tatsächlich klingt die Konversation mit der KI täuschend echt. In der Folge könnten Patientinnen und Patienten vermuten, dass hinter den Antworten doch ein Arzt oder eine Ärztin steckt. Oder zumindest irgendeine Art von menschlicher Kontrolle.

"Hier benötigen wir Transparenz", so Buyx. Sonst handele es sich beim Einsatz von ChatGPT nicht um eine selbstbestimmte Entscheidung, denn sie beruhe ja dann auf Täuschung. "Wir müssen uns zudem überlegen, welche Bereiche der ärztlichen Tätigkeiten wir wirklich der KI überlassen wollen und warum." Denn wir hätten ja nicht umsonst eine ärztliche Verantwortung und ein geschütztes Arzt-Patient-Verhältnis.

Laut der Medizinethikerin sind verschiedene Folgen denkbar, wenn Patientinnen und Patienten ChatGPT nutzen. Es könne auf der einen Seite positiv dazu führen, dass diese durch die Kommunikation mit Chatbots eine größere Gesundheitskompetenz erwerben. "Aber auf der anderen Seite ist die KI ja nicht mit dem Gesundheitssystem verbunden, um in wichtigen Fällen oder sogar Notfällen den Patienten sozusagen an einen Arzt zu überweisen."

ChatGPT: Wie sieht es mit dem Datenschutz aus?

ChatGPT speichert natürlich die Daten, die man eingibt. Im Moment werden die Daten dazu genutzt, die KI weiter zu trainieren. Die Daten liegen auf US-amerikanischen Servern. „Damit unterliegt ChatGPT nicht den strengen europäischen Datenschutzrichtlinien“, sagt Ute Schmid. „Wichtig ist es, am besten keine personenbezogenen Daten wie das Alter oder den Wohnort einzugeben.“ Tatsächlich erfasst ChatGPT keine personenbezogenen Daten der Nutzerinnen oder Nutzer, außer man gibt die Daten freiwillig preis.

Praxistest ChatGPT

Wir haben ChatGPT drei Fragen zum Thema Gesundheit gestellt und seine Antworten von Expert:innen bewerten lassen:

Frage 1: Darf man Aspirin in der Schwangerschaft nehmen?

Antwort ChatGPT
"Aspirin (Acetylsalicylsäure) kann während der Schwangerschaft in bestimmten Fällen unter ärztlicher Aufsicht eingenommen werden, sollte aber nicht ohne ärztliche Empfehlung eingenommen werden. Die Verwendung von Aspirin während der Schwangerschaft hängt von verschiedenen Faktoren ab, einschließlich der Schwangerschaftswoche, der Dosierung und dem Gesundheitszustand der schwangeren Frau.

In niedrigen Dosen wird Aspirin manchmal empfohlen, um das Risiko von Präeklampsie und Fehlgeburten zu reduzieren. In höheren Dosen kann Aspirin jedoch das Risiko von Blutungen erhöhen und im letzten Drittel der Schwangerschaft das Risiko von Komplikationen bei der Geburt erhöhen.

Es ist wichtig, dass Sie vor der Einnahme von Aspirin während der Schwangerschaft immer mit Ihrem Arzt sprechen. Ihr Arzt kann Ihnen die Vor- und Nachteile der Verwendung von Aspirin während der Schwangerschaft erklären und Ihnen bei der Entscheidung helfen, ob es für Sie sicher ist. In einigen Fällen kann Ihr Arzt alternative Behandlungsoptionen empfehlen, um das Risiko für Sie und Ihr ungeborenes Kind zu minimieren."

Bewertung der Antwort

Einschätzung von Dr. Eleanor Hüttel, beratende Apothekerin vom Pharmakovigilanz- und Beratungszentrum für Embryonaltoxikologie der Charité in Berlin:

"In der Antwort fehlt komplett, dass Aspirin in hoher Dosis ab 500 mg nach der 28. Schwangerschaftswoche als Schmerzmittel kontraindiziert ist. Der Grund: Die Einnahme kann zu einem vorzeitigen Verschluss des Ductus arteriosus Botalli führen, einer Verbindung zwischen der Körperhauptschlagader und der Lungenschlagader beim Fötus. Eine gefährliche Komplikation. Zudem gibt es die Diskussion, dass es bei der langfristigen Einnahme in der Höchstdosierung von Aspirin und vor allem auch anderen Schmerzmitteln wie Ibuprofen unter Umständen schon ab der 20. Schwangerschaftswoche zu einem solchen Verschluss kommen kann.“

Frage 2: Darf man nach einem Herzinfarkt Sport treiben?

Antwort ChatGPT:

"In den meisten Fällen ist Sport nach einem Herzinfarkt durchaus empfehlenswert. Allerdings sollte dies immer in Absprache mit einem Arzt erfolgen, um individuelle Risiken und Einschränkungen zu berücksichtigen.

In der Regel wird nach einem Herzinfarkt eine körperliche Rehabilitation empfohlen, die aus einem gezielten Aufbautraining besteht. Dies kann je nach individueller Situation unterschiedlich aussehen und wird in der Regel von speziell ausgebildeten Physiotherapeuten begleitet.

Generell ist es wichtig, dass das Trainingsprogramm langsam und behutsam aufgebaut wird, um das Herz nicht zu überfordern. Dabei sollten auch die individuellen körperlichen Fähigkeiten und Einschränkungen berücksichtigt werden.

Regelmäßige körperliche Aktivität trägt dazu bei, das Herz-Kreislauf-System zu stärken und das Risiko für weitere Herzinfarkte zu senken. Es ist daher wichtig, dass Patienten nach einem Herzinfarkt nicht vollständig auf körperliche Aktivität verzichten, sondern stattdessen ihre körperliche Aktivität in Absprache mit ihrem Arzt anpassen und gezielt steigern."

Bewertung der Antwort

Einschätzung von Kardiologe Prof. Dr. Bernhard Schwaab, Chefarzt der Curschmann Klinik der Klinikgruppe Dr. Guth, Timmendorfer Strand:

"Alle Aussagen sind hier absolut korrekt. Allerdings sind sie derart unkonkret, dass diese Information den Patienten wenig hilfreich ist."

Frage 3: Was hilft bei Neurodermitis?

Antwort ChatGPT

"Neurodermitis, auch als atopische Dermatitis bezeichnet, ist eine chronische Hauterkrankung, die durch Hautausschläge, Juckreiz und Trockenheit der Haut gekennzeichnet ist. Es gibt verschiedene Behandlungsmöglichkeiten für Neurodermitis, einschließlich medizinischer und nicht-medizinischer Optionen. Hier sind einige mögliche Optionen:

1. Feuchtigkeitscremes und Salben: Eine gute Feuchtigkeitsversorgung der Haut kann helfen, den Juckreiz und die Trockenheit zu reduzieren. Verwenden Sie reichhaltige, fettige Cremes oder Salben, die ohne Duftstoffe oder Farbstoffe sind.

2. Medizinische Behandlungen: Wenn die Neurodermitis schwerwiegend ist, kann eine Behandlung mit verschreibungspflichtigen Medikamenten notwendig sein. Cortisoncremes, Calcineurin-Inhibitoren oder Antihistaminika können bei der Kontrolle von Symptomen helfen.

3. Allergenvermeidung: Bestimmte Allergene wie Pollen, Tierhaare oder bestimmte Lebensmittel können Neurodermitis verschlimmern. Vermeiden Sie diese, wenn möglich.

4. Stressmanagement: Stress kann Neurodermitis verschlimmern. Versuchen Sie, Stress durch Entspannungstechniken wie Yoga oder Meditation zu reduzieren.

5. Eine ausgewogene Ernährung: Eine ausgewogene Ernährung mit viel Obst, Gemüse und Vollkornprodukten kann helfen, das Immunsystem zu stärken und den Körper mit wichtigen Nährstoffen zu versorgen.

Es ist wichtig zu beachten, dass die Behandlung von Neurodermitis von Fall zu Fall unterschiedlich sein kann und dass es keine einheitliche Lösung gibt. Es ist ratsam, mit einem Arzt oder einem Dermatologen zu sprechen, um eine geeignete Behandlungsoption zu finden."

Bewertung der Antwort

Einschätzung von Prof. Regina Fölster-Holst, Fachärztin für Dermatologie am Universitätsklinikum Schleswig-Holstein, Campus Kiel Dermatologie, Venerologie und Allergologie:

"Generell sind die Antworten ok. Jeder der Punkte 1.-5. verlangt aber eher eine differenzierte Antwort, die offensichtlich nicht gegeben wurde. Antihistaminika etwa werden nach Leitlinie nur noch in Ausnahmefällen eingesetzt, zum Beispiel wenn zusätzlich eine allergische Rhinitis besteht. „