Wer KI-Systeme in der Praxis einsetzt, muss sich auch mit deren Funktionsweise, Grenzen und Risiken befassen. Das betrifft längst nicht nur medizinische Hochrisiko-Anwendungen. Auch Dokumentationsassistenten, KI-gestützte Telefonie oder generative Textsysteme können unter die Vorgaben der europäischen KI-Verordnung fallen. Seit August 2026 kann die Einhaltung der Vorgaben zur KI-Kompetenz behördlich überwacht und durchgesetzt werden.

Künstliche Intelligenz hält zunehmend Einzug in den Praxisalltag: KI-gestützte Dokumentationssysteme erstellen aus einem Arzt-Patienten-Gespräch einen Dokumentationsvorschlag, Telefonassistenten nehmen Patientenanliegen entgegen, Programme unterstützen bei Terminsteuerung und Administration, andere Systeme analysieren medizinische Daten oder unterstützen diagnostische und therapeutische Entscheidungen.

Mit diesen Möglichkeiten verbindet die europäische KI-Verordnung (AI Act) aber auch konkrete Pflichten für diejenigen, die solche Systeme einsetzen.

Die Praxis ist in der Verantwortung als „Betreiber“

Nach Artikel 4 der EU-KI-Verordnung müssen Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihrer Beschäftigten und anderer Personen zu unterstützen, die in ihrem Auftrag mit KI-Systemen arbeiten. Diese Verpflichtung gilt bereits seit dem 2. Februar 2025. Seit August 2026 greifen nun auch die entsprechenden Überwachungs- und Durchsetzungsstrukturen.

Für eine Arztpraxis bedeutet dies: Setzt sie ein KI-System ein, ist sie grundsätzlich „Betreiber“ im Sinne der Verordnung. Die Verantwortung liegt damit nicht allein beim Softwarehersteller. Die Praxis muss sich auch organisatorisch damit befassen, wer welche KI-Anwendung zu welchem Zweck verwendet und welches Wissen hierfür erforderlich ist.

Eine wichtige Änderung trat dabei im Juli 2026 in Kraft: Anders als in der ursprünglichen Fassung des AI Act muss der Betreiber nicht mehr gewährleisten, dass jede einzelne Person ein bestimmtes oder gesetzlich definiertes „ausreichendes“ Niveau an KI-Kompetenz erreicht. Gefordert bleiben aber konkrete Maßnahmen zur Förderung der erforderlichen Kompetenz. Diese müssen sich an Vorwissen, Erfahrung und Ausbildung der Anwender sowie am jeweiligen Einsatzgebiet und am Risiko der Anwendung orientieren.

Kein „KI-Führerschein“ – trotzdem reicht Nichtstun nicht

Eine bestimmte Schulung, ein bestimmter Kurs oder gar ein staatlicher „KI-Führerschein“ ist nicht vorgeschrieben. Auch ein Zertifikat ist nicht erforderlich. Die Europäische Kommission empfiehlt jedoch, die ergriffenen Maßnahmen intern nachvollziehbar zu dokumentieren.

Das empfiehlt sich für die urologische Praxis:

  • KI-Anwendungen erfassen: Welche Systeme werden überhaupt eingesetzt – von der Telefonassistenz über Dokumentationssoftware bis zur medizinischen Entscheidungsunterstützung?
  • Anwendungszweck festlegen: Wer darf das jeweilige System wofür nutzen – und wofür ausdrücklich nicht?
  • Mitarbeitende qualifizieren: Anwender sollten Funktionsweise, Möglichkeiten und Grenzen des Systems kennen. Dazu gehören insbesondere mögliche Fehlresultate und „Halluzinationen“, Verzerrungen, Datenschutz- und Schweigepflichtfragen sowie der richtige Umgang mit den Ergebnissen.
  • Menschliche Kontrolle sicherstellen: KI-Ausgaben dürfen insbesondere bei medizinischen Entscheidungen nicht ungeprüft übernommen werden. Ärztliche Bewertung und Verantwortung bleiben entscheidend.
  • Maßnahmen dokumentieren und aktualisieren: Kurze interne Schulungen, Herstellerinformationen, Praxisanweisungen oder dokumentierte Einweisungen können Bestandteile eines angemessenen Konzepts sein. Bei neuen Anwendungen oder wesentlichen Änderungen sollte die Unterweisung angepasst werden.

Welche Maßnahmen erforderlich sind, hängt vom konkreten System ab. Wer eine KI lediglich zur Unterstützung administrativer Abläufe einsetzt, benötigt regelmäßig ein anderes Kompetenzniveau als jemand, der ein KI-basiertes System zur medizinischen Entscheidungsunterstützung verwendet.

Seit August 2026 ist die Pflicht auch aufsichtsrechtlich relevant

Die Vorgaben zur KI-Kompetenz sind damit keine bloße Empfehlung. Seit 2. August 2026 können die zuständigen nationalen Marktüberwachungsbehörden die Einhaltung des AI Act überwachen und entsprechende Durchsetzungsmaßnahmen ergreifen. In Deutschland übernimmt grundsätzlich die Bundesnetzagentur die Funktion der Marktüberwachungsbehörde, soweit nicht für bestimmte Bereiche andere Fachbehörden zuständig sind.

Dabei sollte allerdings nicht der Eindruck eines automatischen Bußgeldes entstehen: Eine fehlende Schulungsbescheinigung führt nicht automatisch zu einer Geldbuße. Entscheidend ist vielmehr, ob die Praxis ihrer gesetzlichen Organisationspflicht nachkommt und angemessene Maßnahmen zur Förderung der KI-Kompetenz getroffen hat. Je nach Verstoß kommen behördliche Anordnungen und weitere Sanktionen in Betracht.

Für die Praxis lautet die Konsequenz daher nicht: KI vermeiden. Sondern: KI bewusst einsetzen. Wer KI nutzt, sollte wissen, welches System im Einsatz ist, was es leisten kann, wo seine Grenzen liegen und wer seine Ergebnisse kontrolliert. Eine kurze dokumentierte Bestandsaufnahme und ein auf die tatsächlich eingesetzten Anwendungen zugeschnittenes Schulungs- und Nutzungskonzept sind hierfür der sinnvollste Einstieg.

Quellen: EU-KI-Verordnung – Verordnung (EU) 2024/1689 („AI Act“); Verordnung (EU) 2026/1744 – Digital-Omnibus-Verordnung zur KI, Deutsches KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG)