Editorial HAEP 13/25Belastet KI das Vertrauen in Ärzte?

Haben Sie heute schon eine Künstliche Intelligenz (KI) genutzt? Kürzlich bekam ich auf dem Spielplatz ein Gespräch zwischen Müttern mit, die begeistert (fast) alles mit ChatGPT lösen.

Angefangen beim Streit mit dem Partner, über Erziehungsfragen oder, was es zum Abendessen gibt. KI-Anwendungen haben im Alltag längst Fuß gefasst. Die Antwort auf meine Eingangsfrage lautet daher sicher “Ja”.

Mitunter merken wir es nicht einmal: So verbirgt sich hinter der Handytastatur KI, wenn der Buchstabe, der am wahrscheinlichsten folgt, größer gezeigt wird. Ich schwanke zwischen Faszination und Frustration. Faszination für die vielen Chancen und Anwendungen. Frustration, wegen des oft blinden Vertrauens. Mit KI erreichen wir schnell das Ziel – aber ist das in jedem Fall auch gut?

Wichtig fürs Lernen sind Fehler. Fällt der Turm im Sandkasten zusammen, werden Kinder neugierig. Warum hat es nicht geklappt? Mit immer neuen Versuchen lernen sie, den Prozess zu hinterfragen, mit Gefühlen umzugehen, Kompromisse zu schließen und am Ende wächst das Selbstbewusstsein.

KI kürzt Prozesse ab, sie präsentiert die Lösung. Wenn wir KI künftig alles für uns lösen lassen, nehmen wir uns damit die Chance zum persönlichen Wachstum? Wie können wir die Ergebnisse kritisch betrachten, wenn wir das Hinterfragen selbst nicht mehr lernen?

Um KI vertrauen zu können, ist es wichtig, die Chancen und Grenzen der Anwendungen nachvollziehen und bewerten zu können. Denn noch halluzinieren KI, wenn sie etwas nicht wissen oder für etwas eingesetzt werden, was sie nicht leisten können. Dass auch Ärztinnen und Ärzte sich überlegen sollten, bei welchen Aufgaben sie sich von KI helfen lassen und bei welchen nicht, legt eine Studie mit mehr als 1.200 Erwachsenen in den USA nahe.

Demnach schätzen sie Ärztinnen und Ärzte als weniger kompetent, empathisch und vertrauenswürdig ein, wenn diese in einer Anzeige angaben, sich von KI administrativ, diagnostisch oder therapeutisch unterstützen zu lassen [1]. Die Forscher vermuten, dass Patienten sich sorgen, Ärzte könnten der KI “blind folgen”.

Um das besondere Vertrauen zu bewahren, will also auch die Kommunikation von KI-unterstützten Entscheidungen an Patienten wohl überlegt sein – sicher hätte ChatGPT auch dafür eine Idee, meint

Ihre

Johanna Dielmann-von Berg

Chefredakteurin Hausärztliche Praxis

Quelle: doi 10.1001/jamanetworkopen.2025.21643