Es gab seit Beginn der Pandemie hunderte Ansätze, Covid-19 mit Hilfe künstlicher Intelligenz in den Griff zu bekommen. Weltweit wurden Tools entwickelt, die eine schnellere Diagnose ermöglichen sollten, oder den Krankheitsverlauf vorhersagen. In der Behandlung von Kranken bewährt hat sich bisher keins davon, zeigen wissenschaftliche Auswertungen.

Warum die künstliche Intelligenz falsch lag

Einer der Hauptgründe, warum Prognosen auf der Basis maschinellen Lernens nicht funktioniert haben, ist die mangelhafte Qualität der Daten, die bei der Entwicklung der Vorhersagemodelle verwendet wurden.

Etwa weil Daten aus verschiedenen, zum Teil unbekannten Quellen zusammengefügt werden. Das birgt zum Beispiel das Risiko für Duplikate. Die Folge: Testet man KI-Tools mit den gleichen Daten, mit denen sie trainiert wurden, scheinen sie genauer Ergebnisse zu liefern, als sie das tatsächlich tun.

Datensätze unklaren Ursprungs bergen zudem die Gefahr, wichtige Merkmale zu übersehen, die das Training der Tools verzerren können. Beispielsweise wurde für die Entwicklung eines KI-Modells ein Datensatz verwendet, der eine Mischung aus Röntgen-Scans enthielt, die im Liegen und im Stehen aufgenommen worden waren. Wer im Liegen geröntgt werden muss ist mit größerer Wahrscheinlichkeit ernsthaft krank. Die KI lernte dadurch fälschlicherweise, allein aus der liegenden Position auf eine schwere Covid-19-Erkrankung zu schließen.

Ein weiteres Problem: Viele Tools wurden von Forschenden entwickelt, denen das medizinische Fachwissen fehlte, um Fehler in den Daten zu erkennen. Andere wiederum hatten nicht die mathematischen Fähigkeiten, um diese Fehler auszugleichen.

20036525_bae368f244.IRWUBPROD_6ITV.jpg

Umfrage: Wem wollen Sie Ihre Gesundheitsdaten geben?

Wir messen und sammeln immer mehr Gesundheitsdaten. Wie soll die Medizin in Zukunft damit umgehen? Die Apotheken Umschau unterstützt die erste landesweite Befragung.

Was die Medizin daraus lernen kann

Die Forschung müsse aus diesen Fehlern lernen, damit unzuverlässige Werkzeuge in Zukunft keinen Schaden anrichten, schreibt das Team um die die Epidemiologin Laure Wynants von der Maastricht University im Fachmagazin „The British Medical Journal“.

Eine Möglichkeit sei, neue Tools mit neuen, besseren Datensätzen zu entwickeln. Noch besser wäre es, bereits vorhandene Datensätze und Modelle zu optimieren. Das sei allerdings nur möglich, wenn KI-Expert:innen und Ärzt:innen zusammenarbeiten, indem sie Modelle weitergeben und offenlegen, wie sie trainiert wurden. Auch müssten Daten für die medizinische Forschung in standardisierten Formaten erhoben werden, so dass Forschungsgruppen weltweit einfach darauf zugreifen können.