Logo der Apotheken Umschau

Im März hat der Deutsche Ethikrat seine Stellungnahme „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ veröffentlicht. Darin positioniert sich das Experten-Gremium auch zur Anwendung von KI in verschiedenen Sektoren – etwa in der Medizin.

Prof. Dr. Buyx, wie kommt der Ethikrat überhaupt zu einer Stellungnahme zu so komplexen Themen wie KI in der Medizin?

So eine mehrere Hundert Seiten lange Stellungnahme zu entwickeln, ist ein langwieriger Prozess. Neben intensiven Debatten im Rat haben wir uns dafür zusätzliche Expertinnen und Experten eingeladen und uns mit ganz grundlegenden philosophischen, tief schürfenden Fragen beschäftigt: Kann eine künstliche Intelligenz wirklich intelligent sein? Kann sie verantwortungsvoll sein? Kann sie vernünftig sein? Dann haben wir noch einen Anwendungsteil erstellt. Darin entwickeln wir anhand konkreter Beispiele Empfehlungen, wie man möglichst ethisch verantwortlich mit KI umgeht und wie man das gesellschaftlich gestaltet.

Und das wäre wie?

Prof. Dr. Alena Buyx ist Medizinethikerin und Vorsitzende des Deutschen Ethikrats.

Prof. Dr. Alena Buyx ist Medizinethikerin und Vorsitzende des Deutschen Ethikrats.

Wir haben da eine ethische Faustregel: KI-Anwendungen müssen die Handlungs- und Entfaltungsmöglichkeiten von Menschen erweitern und dürfen sie nicht verringern. KI darf den Menschen nicht ersetzen. Das klingt einfach, aber der Teufel steckt im Detail und man muss die Anwendungen gesondert betrachten.

Wie stellt man sicher, dass KI unsere Möglichkeiten erweitert, statt uns zu ersetzen?

Die KI kommt nicht und nimmt uns einfach etwas weg. Wir Menschen entscheiden, wie viel und was wir an die Maschine delegieren. In der Medizin gilt aber: Ärztinnen und Ärzte müssen im Sattel bleiben, wenn es um die Gesamtbehandlung und die Einschätzung von Patientinnen und Patienten geht. Denn eine vollständige Ersetzung von ärztlichem Personal oder Personal in der Pflege würde das Patientenwohl gefährden. Selbst wenn es in diesen Bereichen schon Personalmangel gibt, wäre ein „Ersetzen“ mit KI für den Ethikrat nicht zulässig.

Wenn KI nicht gegen Personalnot hilft, wobei hilft sie uns dann?

In der Medizin kann KI Aufgaben übernehmen, die viele ungerne machen: Arztbriefe vorschreiben, Aktendokumentation oder Datenauswertung empfinden wir insgesamt oft als langweilig und anstrengend. Und es nimmt vor allem Zeit mit den Patienten. In bestimmten einzelnen Aufgaben ist KI zudem dank höherer Rechenkapazität auch einfach besser als wir. Das ist etwa der Fall beim Befund von bestimmten bildgebenden Verfahren.

Besteht dann nicht die Gefahr, dass wir uns abhängig von der KI machen?

Da kann ich etwas beruhigen: In der organisierten Medizin - anders als bei Anwendungen im App-Store – kommen neue Technologien nicht einfach so dazu. Sie gelten als Medizinprodukte und werden streng überwacht. Vorteile und Risiken müssen vorher genau nachgewiesen werden.

Wir sind in Deutschland sehr sorgfältig - manche sagen sogar zu sorgfältig - darin, neue Entwicklungen in der Medizin zuzulassen. Auch bei Autos, die mit intelligenten Technologien funktionieren, vertrauen wir ja darauf, dass sie funktionieren. Das müssen sie, damit niemand zu Schaden kommt. Und schließlich sagen wir vom Ethikrat ja, dass KI immer in der Hand von Menschen bleiben sollte.

Dennoch sorgen sich Patientinnen und Patienten auch bei sorgfältig geprüfter KI – etwa um ihre Daten. Zurecht?

Das ist verständlich, ja. Denn einige KI-basierte Technologien sind explizit zum Datensammeln da. Es muss vorher also definiert werden, welche Daten sie auswerten dürfen und welche nicht, ob es da Einwilligung braucht und so weiter. Auf der anderen Seite funktionieren diese Technologien nur gut, wenn ihnen ausreichend Daten zur Verfügung stehen, mit denen sie trainiert werden können. So funktioniert maschinelles Lernen.

Leider haben wir von diesen nötigen Datensätzen in Deutschland bisher viel zu wenig. Wenn wir also die Vorteile von KI nutzen wollen, müssen wir sie in Balance bringen mit Anforderungen wie genügend großen und zugänglichen Datensätzen.

Mit welchen weiteren ethischen Bedenken rund um das Thema sind Sie in Ihrer Position konfrontiert?

Neben der Sorge um das Ersetztwerden ist da oft die Angst, dass der Maschine zu viel Glauben geschenkt wird. Das ist auch durchaus beschriebenund man muss Wege entwickeln, dass KI-Entscheidungen nachvollziehbar sind. Patientinnen und Patienten sollten aber wirklich nicht glauben, jeder Arzt hätte eine öffentlich zugängliche KI wie ChatGPT auf seinem Rechner, die ihm sagt, wie er seine Patienten zu behandeln hat, so ist das überhaupt nicht.

Und noch eine Befürchtung: dass undurchsichtig wird, bei welchen Entscheidungen überhaupt noch ein Mensch mit dabei war. Wir sehen ja schon an den intelligenten Antworten von ChatGPT: Sie wirken täuschend echt! Woran wer beteiligt ist, muss also insbesondere in der Medizin dringend transparent sein.

Wie kann KI trotz verschiedener ethischer Bedenken unsere Gesundheit zukünftig verbessern?

Da wären viele Beispiele: Es gibt in der Forschung enormes Potenzial. Dort kann uns KI etwa helfen, Krebsmedikamente zu entwickeln oder neue Krankheiten schneller zu diagnostizieren. Im medizinischen Alltag kann KI zukünftig Ärztinnen, Ärzten oder Pflegepersonal bei Routine-Aufgaben entlasten. Damit hätten sie wiederum mehr Zeit, sich um Patientinnen und Patienten zu kümmern. Für all das brauchen wir aber noch mehr gute Daten und sichere Anwendungen. Wir sollten daher tatsächlich sogar offener gegenüber verantwortungsvoll entwickelten KI-basierten Anwendungen werden!