KI-Gesundheitstipps: Oxford Studie mahnt zur Vorsicht

Gesundheitsinformationen, die von künstlicher Intelligenz generiert werden, sind mit Vorsicht zu genießen. Das zeigt eine neue Studie der Universität Oxford.

Ein zentrales Problem ist, dass ChatGPT sogenannte „Halluzinationen“ erzeugen kann – also falsche, aber plausibel klingende Informationen. Foto: istock/Vertigo3d

Schnell ein Gesundheitsproblem googeln oder die KI befragen: Klingt gut und einfach, und theoretisch greift die KI ja auch auf enorm viel Wissen zu. In der Realität sollte man sich allerdings nicht auf die Informationen aus dem Web verlassen. Das bestätigt jetzt auch eine Studie der Universität Oxford aus April 2025.

Untersucht wurde, wie gut sogenannte große Sprachmodelle – also Programme wie ChatGPT – medizinische Fragen beantworten und Ärzt:innen bei Entscheidungen unterstützen können. Dafür nutzten die Forschenden über 1.500 Prüfungsfragen aus dem Fachbereich Gynäkologie und Geburtshilfe, wie sie auch angehende Fachärzt:innen in Großbritannien beantworten müssen.

Weiters wurden rund 1.300 Personen in zehn typischen medizinischen Situationen getestet. Sie wurden in vier Gruppen aufgeteilt: Drei Gruppen durften sich mit Hilfe von verschiedenen KI-Modellen (darunter ChatGPT) informieren, die vierte Gruppe durfte eine beliebige andere Informationsquelle nutzen, z.B. Google oder Bücher.

Die wichtigsten Ergebnisse:

%MEDIUM-RECTANGLES%

Wenn die KIs die medizinischen Szenarien allein bearbeiteten, erkannten sie fast immer (in knapp 95% der Fälle) die richtige Krankheit. Die passende Behandlung wählten sie aber nur in etwas mehr als der Hälfte der Fälle.

Wenn jedoch echte Menschen die Szenarien mit Hilfe der KIs lösten, schnitten sie deutlich schlechter ab: Nur in etwa einem Drittel der Fälle erkannten sie die richtige Krankheit, und in weniger als der Hälfte entschieden sie sich für die richtige Behandlung. Das war kaum besser als bei den Menschen ohne KI-Hilfe.

Was sagt das über KIs im medizinischen Bereich aus?

Die KIs wissen viel – aber das hilft den Menschen nur dann, wenn sie die Informationen auch richtig verstehen und anwenden können. Die Studie zeigt also: Die Schwäche liegt nicht im Wissen der KI, sondern in der Zusammenarbeit zwischen Mensch und Maschine.

Stärken und Schwächen der ChatGPT-Diagnosen:

%EVENT%

Bei klaren Faktenfragen, etwa „Was ist ein Symptom von Krankheit X?“, liegt ChatGPT oft richtig (etwa zu 70%). Doch bei schwierigeren Aufgaben, die echtes medizinisches Denken und Abwägen erfordern, fällt die Genauigkeit auf etwa 50%. Problematisch ist, dass ChatGPT oft sehr selbstsicher antwortet – auch dann, wenn die Antwort falsch ist.

Gefahr durch „halluzinierte“ Antworten

Ein zentrales Problem ist, dass ChatGPT sogenannte „Halluzinationen“ erzeugen kann – also falsche, aber plausibel klingende Informationen. Da das System keine Begründungen für seine Antworten liefert, besteht die Gefahr, dass Nutzer irreführende Ratschläge erhalten, ohne dies zu erkennen. Die Studie verdeutlicht, dass KI-Modelle wie ChatGPT zwar Potenzial im Gesundheitswesen haben, derzeit jedoch nicht für eigenständige medizinische Beratung geeignet sind. Insbesondere bei komplexen Entscheidungen sollten sie nur unterstützend eingesetzt werden.

Fazit

%QUESTION%

Die Forscher:innen betonen die Notwendigkeit weiterer Untersuchungen und Verbesserungen, bevor ein sicherer Einsatz in der klinischen Praxis möglich ist. Vorerst sind KI-gestützte Gesundheitstipps also mit Vorsicht zu betrachten und nicht als Ersatz für professionelle medizinische Beratung geeignet.

Weiterlesen: Trauma, Trigger, Toxizität: Wie gefährlich sind digitale Diagnosen?

Weiterlesen: In der Apotheke: Wie man Wechselbeschwerden artikuliert und was hilft

Weiterlesen: Pharmakogenetik: Gentest zeigt, ob ein Medikament zu dir passt