Künstliche IntelligenzKI in der Hausarztpraxis: Was jetzt wichtig wird

Künstliche Intelligenz (KI) hält zunehmend Einzug in den medizinischen Versorgungsalltag. Auch in Hausarztpraxen werden KI-gestützte Systeme bereits heute vielfach eingesetzt – etwa bei der Befundunterstützung, bei der Praxisorganisation beispielsweise bei der Telefonassistenz, beim Einsatz von Chatbots oder der Spracherkennung.

Mit dem stufenweisen Inkrafttreten der europäischen KI-Verordnung entsteht nun erstmals ein einheitlicher Rechtsrahmen für den Einsatz von KI-Systemen in der Europäischen Union (EU).

Für Hausarztpraxen stellt sich daher die Frage, ob und in welchem Umfang diese Verordnung Anwendung findet und welche Pflichten – insbesondere im Hinblick auf KI-Kompetenz – hieraus resultieren.

Rechtlicher Hintergrund: KI-Verordnung

Die KI-Verordnung (Verordnung (EU) 2024/1689) [1], auch bekannt als EU AI Act, wurde 2024 verabschiedet und wird schrittweise anwendbar. Es handelt sich hierbei um eine unmittelbar geltende EU-Verordnung, die einen risikobasierten Ansatz verfolgt.

Durch eine Änderungsverordnung aus dem Jahr 2026 (Verordnung (EU) 2026/1744) [2] wurde die zuvor genannte KI-Verordnung in Teilen geändert und insbesondere Art. 4 KI-VO neu gefasst: Seitdem müssen Anbieter und Betreiber Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz zu unterstützen; ausdrücklich müssen sie kein bestimmtes Kompetenzniveau einer Person garantieren.

Die Verordnung unterscheidet insbesondere zwischen:

• unzulässigen KI-Praktiken,
• Hochrisiko-KI-Systemen,
• KI-Systemen mit Transparenzpflichten sowie
• sonstigen KI-Systemen mit geringem oder minimalem Risiko.

Hochrisiko-KI-Systeme sind auch im Gesundheitswesen von Bedeutung. Hierzu können insbesondere KI-Systeme gehören, die selbst Medizinprodukte sind oder als Sicherheitsbauteil eines Medizinprodukts eingesetzt werden und für die nach dem einschlägigen Medizinprodukterecht eine Konformitätsbewertung durch eine unabhängige Stelle erforderlich ist. Hierunter können beispielsweise bestimmte Systeme zur Unterstützung der Diagnostik oder von Therapieentscheidungen fallen.

Wichtig: Ob ein konkretes System als Hochrisiko-KI einzustufen ist, muss im Einzelfall geprüft werden. Für Hochrisiko-KI-Systeme gelten besondere Anforderungen etwa an Risikomanagement, Dokumentation, Transparenz und menschliche Aufsicht.

Für den hausärztlichen Bereich, in dem beispielsweise Anwendungen wie Chatbots oder Telefonassistenz zur Anwendung gelangen, sind häufig allgemeine Anforderungen an die KI-Kompetenz sowie gegebenenfalls Transparenzpflichten relevant. Es bedarf jedoch stets einer genauen Betrachtung des konkreten Einzelfalls.

KI-Verordnung in der Hausarztpraxis

Hausarztpraxen sind keine bloßen Endverbraucher im privaten Bereich, sondern handeln als professionelle Anwender von KI-Systemen im Rahmen einer medizinischen Tätigkeit. Die KI-Verordnung erfasst ausdrücklich nicht nur Hersteller und Anbieter, sondern auch Betreiber von KI-Systemen.

Wichtig: Eine Hausarztpraxis gilt als Betreiber, wenn sie ein KI-System einsetzt – unabhängig davon, ob das System selbst entwickelt oder lediglich von einem externen Anbieter bezogen wird.

Dabei ist nicht jede Software automatisch KI im Sinne der Verordnung. Entscheidend ist insbesondere, ob ein maschinengestütztes System mit einem gewissen Grad an Autonomie aus den erhaltenen Eingaben ableitet (vgl. Art.3 KI-VO), wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt.

Typische KI-relevante Einsatzbereiche in Hausarztpraxen können sein:

• Diagnostik- und Entscheidungsunterstützung (z. B. Bildanalyse, Risikoabschätzungen, Warnhinweise),
• Sprach- und Texterkennung zur Dokumentation von Arzt-Patienten-Gesprächen,
• Triage- und Priorisierungssysteme für Patientenanfragen,
• KI-basierte Telefonassistenten oder Chatbots,
• automatisierte Abrechnungs- oder Kodierungssysteme, sofern KI-basiert.

KI-Kompetenz: Was die Verordnung vorsieht

Ein zentrales und praxisrelevantes Novum der KI-Verordnung ist die Verpflichtung zur sogenannten KI-Kompetenz. Betreiber von KI-Systemen müssen Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihrer Mitarbeitenden und anderer Personen zu unterstützen, die in ihrem Auftrag mit dem Betrieb oder der Nutzung von KI-Systemen befasst sind. Dabei sind insbesondere deren technische Kenntnisse, Erfahrung, Aus- und Weiterbildung sowie der konkrete Einsatzkontext zu berücksichtigen.

Merke: Ein bestimmtes oder “ausreichendes” Niveau der KI-Kompetenz einzelner Mitarbeitender muss dabei nicht gewährleistet werden.

KI-Kompetenz umfasst dabei insbesondere:

• ein Grundverständnis der Funktionsweise des eingesetzten KI-Systems,
• Kenntnis der Einsatzgrenzen und typischen Fehlerquellen,
• Fähigkeit zur kritischen Bewertung von KI-Ergebnissen,
• Bewusstsein für Risiken, Bias und mögliche Fehlinterpretationen,
• Kenntnis der menschlichen Kontroll- und Überwachungsaufgaben.

Ziel ist es, einen sachgerechten und verantwortungsvollen Umgang mit KI-Systemen zu gewährleisten.

Schulungen in der hausärztlichen Praxis

Aus der Pflicht zur Förderung der KI-Kompetenz folgt keine starre oder einheitliche Schulungsvorgabe. Vielmehr gilt ein angemessenheitsbezogener Ansatz, der sich an folgenden Faktoren orientiert:

• Art und Risikopotenzial des eingesetzten KI-Systems,
• Rolle, Vorwissen und Erfahrung der jeweiligen Mitarbeitenden,
• Umfang und Art der Nutzung.

Für Hausarztpraxen bedeutet dies:

• Hausärztinnen und Hausärzte sollten in der Lage sein, KI-Ergebnisse medizinisch einzuordnen und kritisch zu überprüfen.
• Für Medizinische Fachangestellte (MFA) sind angemessene Maßnahmen zur Vermittlung von KI-Kompetenz erforderlich, soweit sie mit KI-gestützten Anwendungen arbeiten oder deren Ergebnisse weiterverarbeiten.
• Die nötigen Maßnahmen können etwa durch interne Einweisungen, Schulungen oder Angebote externer Anbieter erfolgen und sollten dokumentiert werden.

Merke: Eine bestimmte Schulungsform oder förmliche Zertifizierung ist nicht vorgeschrieben. Eine nachvollziehbare Dokumentation der ergriffenen Maßnahmen ist jedoch empfehlenswert.

Transparenz gegenüber Versicherten

Ob Patientinnen und Patienten über den Einsatz eines KI-Systems informiert werden müssen, hängt von der konkreten Anwendung ab. Besondere Transparenzpflichten bestehen nach Art. 50 KI-VO insbesondere bei KI-Systemen, die für die direkte Interaktion mit natürlichen Personen bestimmt sind. Für die Betroffenen muss grundsätzlich erkennbar sein, dass sie mit einem KI-System interagieren, soweit dies nicht bereits aufgrund der Umstände offensichtlich ist.

Praxisbeispiel: Bei einem KI-basierten Telefonassistenten für Patientinnen und Patienten muss etwa erkennbar sein, dass sie mit einem KI-System kommunizieren. Zu Beginn der Kommunikation kann etwa ein Hinweis erfolgen: “Hallo, hier ist der KI-Telefonassistent der Praxis. Wie kann ich Ihnen helfen?”

Daneben können sich je nach konkretem Einsatz weitere Informationspflichten besonders aus dem Datenschutzrecht ergeben. Denn ebenso wie bei anderer Software ist beim Einsatz von KI auf die Konformität mit der Datenschutz-Grundverordnung (DSGVO) zu achten, sofern personenbezogene Daten verarbeitet werden.

Bei Gesundheitsdaten gelten insbesondere die besonderen Anforderungen des Art. 9 DSGVO. Verarbeitet der Anbieter personenbezogene Daten im Auftrag der Praxis, ist regelmäßig ein Auftragsverarbeitungsvertrag nach Art. 28 DSGVO nötig. Daneben sind v.a. Rechtsgrundlage, Zweckbindung, Datensicherheit und die erforderlichen Informationen gegenüber den Betroffenen zu beachten.

Fazit

• Die KI-Verordnung bringt für Hausarztpraxen keine pauschalen Verbote, aber neue Verantwortlichkeiten. KI wird rechtlich nicht als bloßes technisches Hilfsmittel behandelt, sondern als Instrument, dessen Einsatz je nach Anwendung mit unterschiedlichen rechtlichen Anforderungen verbunden sein kann.
• Für Hausarztpraxen bedeutet dies vor allem, sich mit den eingesetzten Systemen auseinanderzusetzen, Zuständigkeiten zu klären und die erforderliche KI-Kompetenz im Team aufzubauen. Bei Unsicherheiten dahingehend, ob eine Software KI-gestützt ist und wie diese zu klassifizieren ist, empfiehlt es sich, Rücksprache mit dem jeweiligen Anbieter zu halten.
• KI-Systeme können ärztliche und nichtärztliche Leistungen sinnvoll ergänzen und unterstützen. Insbesondere bei medizinisch relevanten Anwendungen müssen KI-generierte Ergebnisse jedoch fachlich eingeordnet und erforderlichenfalls überprüft werden. Auch datenschutzrechtliche Vorgaben müssen zu jedem Zeitpunkt eingehalten werden.

Quellen

1. Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Verordnung über künstliche Intelligenz).
2. Verordnung (EU) 2026/1744 des Europäischen Parlaments und des Rates vom 8. Juli 2026 zur Änderung der Verordnungen (EU) 2024/1689, (EU) 2018/1139 und (EU) 2023/1230 im Hinblick auf die Vereinfachung der Umsetzung harmonisierter Vorschriften für künstliche Intelligenz (Digital-Omnibus-Verordnung zur KI).