Berlin. Ein komischer Ausschlag, ungewöhnliche Schmerzen, unerklärlicher Juckreiz – viele Menschen greifen mittlerweile auf digitale Tools zurück, die mit Künstlicher Intelligenz (KI) arbeiten. Dazu gehören zum Beispiel Chat-GPT oder Symptom-Checker-Apps.
Wie gut sind die KI-gestützten Empfehlungen? Dieser Frage sind Wissenschaftler der TU-Berlin in zwei Studien nachgegangen.
Um die Genauigkeit von Gesundheitsempfehlungen durch ChatGPT und andere KI-Modelle wie Meta’s LLaMa sowie speziell entwickelte Symptom-Checker-Apps zu bewerten, fütterte ein Team um Dr. Marvin Kopka die Tools mit Daten aus echten Patientenfällen.
Schlechte Noten für ChatGPT
Die Ergebnisse seien im Vergleich zu früheren Untersuchungen realistischer und präziser, so die Wissenschaftler, da bislang nur mit Daten aus idealisierten Lehrbuchfällen getestet worden sei.
Es hat sich gezeigt, so das Wissenschafts-Team, dass Symptom-Checker-Apps im Vergleich zu ChatGPT für Laien deutlich hilfreicher sind.
Das gelte insbesondere dann, wenn zwischen harmlosen und ernsten Symptomen unterschieden werden müsse. Denn ChatGPT stufe fast jeden Fall als hochdringlich ein.
Beim kleinsten Wehwehchen zum Arzt
Auch in einer zweiten Studie, bei der die Forscher schauten, wie genau Menschen die Empfehlungen der KI-gestützten Tools in ihre eigenen Entscheidungen einbeziehen, schnitt ChatGPT nicht gut ab.
“Dass immer mehr Menschen ChatGPT für medizinische Ratschläge nutzen, ist schädlich für das Gesundheitssystem. Die KI motiviert die Nutzerinnen und Nutzer häufig dazu, bei den kleinsten Symptomen sofort einen Arzt oder die Notaufnahme aufzusuchen. Das kann zu einer massiven Überlastung führen”, warnt Studienleiter Kopka.
Keine Perfektion erwarten
“ChatGPT hat viele sinnvolle Anwendungsfälle, aber zur Entscheidung, ob ich zum Arzt gehen sollte, ist es nicht geeignet – dafür ist es viel zu ungenau”, resümiert Kopka.
Kopkas Tipp: “Wir sollten uns eher fragen, ob eine App uns hilft, gute Entscheidungen zu treffen, statt von ihr Perfektion zu erwarten. Denn Menschen treffen bereits jetzt in den meisten Fällen sichere und vernünftige Entscheidungen. In einigen Situationen können Sie jedoch von den Apps profitieren.”
Die Studien um das Team von Dr. Marvin Kopka finden Sie unter: www.hausarzt.link/NQEmP und www.hausarzt.link/jz2jm
