EURAID-Leitfaden: KI-Systeme sicher und verantwortungsvoll in Krankenhäusern entwickeln und einführen

fTeilen

Wie können Krankenhäuser KI-Systeme so entwickeln und einsetzen, dass sie
die Versorgung tatsächlich verbessern, anstatt medizinisches Fachpersonal
zusätzlich zu belasten? Unter der gemeinsamen Leitung von Prof. Stephen
Gilbert vom Else Kröner Fresenius Zentrum (EKFZ) für Digitale Gesundheit
an der Medizinischen Fakultät der Technischen Universität Dresden (MF-TUD)
und dem Universitätsklinikum Carl Gustav Carus Dresden sowie Dr. Anke
Diehl vom Universitätsklinikum Essen hat ein multidisziplinäres
Expertenteam einen praxisnahen Leitfaden entwickelt: EURAID: European
Responsible AI Development.

EURAID bietet Krankenhäusern eine strukturierte Anleitung zur gemeinsamen,
menschenzentrierten „in-house“ Entwicklung, Validierung und
Implementierung von KI-Systemen. Der Leitfaden zeigt, wie alle
Interessengruppen einbezogen werden können und definiert deren Rollen im
Prozess, skizziert Methoden für iteratives Design, Tests und klinische
Bewertung und bietet Strategien zur Konsensbildung. EURAID basiert auf
gemeinsamen Zielen, europäischen Werten, wie Achtung der Menschenwürde,
Schutz von Grundrechten und Gleichheit, sowie europäischen Gesetzen. Einen
raschen Einstieg in das Thema ermöglicht die deutschsprachige Kurzfassung,
die in der Serie „baua: Bericht kompakt“ begleitend erschienen ist.

EURAID wurde von Akteuren entwickelt, die das gesamte Spektrum des
Gesundheitswesens abbilden, darunter medizinisches und psychologisches
Fachpersonal sowie Expertinnen und Experten für digitale Transformation
von Krankenhäusern, Medizininformatik und Qualitätsmanagement. Darüber
hinaus flossen Perspektiven von Patienten- und Arbeitnehmervertretern, aus
Politik und Krankenversicherungen, der Regulatorik und Ethik sowie Wissen
aus der Forschung ein. Der Leitfaden bietet klare, umsetzbare Empfehlungen
für Krankenhäuser, die KI menschenzentriert, verantwortungsvoll und sicher
entwickeln und implementieren möchten – im Einklang mit den sich
wandelnden regulatorischen Anforderungen und gemeinsamen europäischen
Werten. Letztere meinen Patienten- und Mitarbeitersicherheit, Schutz von
Grundrechten, Transparenz und Nachvollziehbarkeit von KI-Systemen,
menschliche Aufsicht sowie Fairness und Nichtdiskriminierung.  Die
Empfehlungen stützen sich auf Impulse und Expertise aus deutschen
Universitätskliniken in Dresden, Hamburg, Aachen und Essen, dem
Bundesministerium für Gesundheit (BMG), der Bundesanstalt für
Arbeitsschutz und Arbeitsmedizin (BAuA), von Kranken- und
Unfallversicherungen (AOK und DGUV), Gewerkschaften (ver.di), einer
Anwaltskanzlei und mehreren Forschungseinrichtungen (u.a. Fraunhofer-
Heinrich-Hertz-Institut und Karlsruher Institut für Technologie – KIT).
Aus der TUD und dem Universitätsklinikum Dresden brachten mehrere
Professoren und Forschende ihr Fachwissen aus Medizin, klinischer KI und
Medizininformatik, Psychologie und Regulatorik ein.

KI-Technologien entwickeln sich rasch weiter, doch ihre Umsetzung in
Krankenhäusern stockt
Trotz schneller Fortschritte bei KI-Technologien und jüngster politischer
Bestrebungen zur Vereinfachung der Vorschriften für „in-house“ entwickelte
KI-Systeme – darunter der Vorschlag der Europäischen Kommission vom 16.
Dezember 2025 zur Überarbeitung der Medizinprodukteverordnung (MDR) und
der Verordnung über In-vitro-Diagnostika (IVDR) – geht die Einführung von
KI in der klinischen Praxis nur langsam voran. Viele Systeme haben
Probleme bei der Integration in die Routineversorgung, da
standortspezifische Arbeitsabläufe und Bedürfnisse von medizinischem
Fachpersonal nicht oder nur unzureichend während der Entwicklungs- und
Testphase einbezogen wurden. Dadurch werden die Systeme eher als
zusätzliche Belastung denn als eine Erleichterung wahrgenommen.

Wie können Krankenhäuser menschenzentrierte KI-Systeme entwickeln und
implementieren, die innovativ und sicher zugleich sind?
Um diese Balance zu finden, wurde EURAID entwickelt: ein praxisnaher
Leitfaden zur Unterstützung der digitalen Transformation von
Krankenhäusern, bei dem der Mensch im Mittelpunkt steht. EURAID zeigt, wie
KI-Systeme gemeinsam und unter konsequenter Berücksichtigung nicht-
technischer Kriterien entwickelt werden können. Der Ansatz wird anhand
eines „in-house“ entwickelten Systems veranschaulicht, da dies eine auf
das Krankenhaus maßgeschneiderte Anwendung unter Nutzung
krankenhauseigener Daten ermöglicht. Durch die systematische Einbeziehung
aller relevanten Stakeholder entlang des gesamten KI-Lebenszyklus, die
Klärung jeweiliger Rollen sowie Grad und Umfang der Beteiligung, die
Darstellung realer Anwendungsfälle sowie Methoden zur Erreichung eines
iterativen Konsenses bietet EURAID einen einzigartigen und
praxisorientierten Ansatz, verschiedene Perspektiven und regulatorische
Anforderungen in Einklang zu bringen.
„Mit EURAID wollen wir Krankenhäuser dabei unterstützen, innovative KI-
Systeme sicher zu entwickeln und nachhaltig in den Klinikalltag zu
integrieren. Damit kann die digitale Transformation im Gesundheitswesen
beschleunigt werden“, sagt Anett Schönfelder, Erstautorin der Publikation
und Forscherin im Team von Prof. Stephen Gilbert, der die Erstellung der
Publikation co-geleitet hat und Professor für Medical Device Regulatory
Science an der MF-TUD ist.

Medizinische Fachkräfte im Mittelpunkt der Entwicklung von KI-Systemen
Die Autorinnen und Autoren betonen, dass die erfolgreiche digitale
Transformation einen Wandel von primär technologie-getriebenen hin zu
kollaborativ-organisatorischem Denken erfordert. Erfolgreiche KI-
Implementierung in Krankenhäusern könne nur dann gelingen, wenn die
Menschen, die diese Systeme täglich nutzen und von ihnen betroffen sind,
von Anfang an einbezogen werden. EURAID zeigt, wie dies auch in
hochkomplexen, zeitkritischen Umgebungen möglich ist. Der Leitfaden klärt
transparent die Aufgaben der Stakeholder und zeigt, wie Hürden frühzeitig
identifiziert und gemeinsame Lösungswege gefunden werden können. EURAID
stellt dabei medizinische Fachkräfte in den Mittelpunkt – nicht nur als
Anwenderinnen und Anwender, sondern als Mitgestaltende, Implementierende
und Überwachende. So trägt EURAID dazu bei, dass KI im Gesundheitswesen
einen echten Mehrwert für die Menschen schaffen kann.
„Digitale Transformation im Krankenhaus gelingt nur, wenn sie gemeinsam
mit den Menschen gestaltet wird, die täglich mit den Systemen arbeiten.
EURAID zeigt praxisnah, wie sich die Einführung von KI auch in komplexen
klinischen Strukturen verantwortungsvoll, sicher und wirksam umsetzen
lässt“, erklärt Dr. Anke Diehl, Chief Transformation Officer an der
Universitätsmedizin Essen und Leiterin der Abteilung für digitale
Transformation, die gemeinsam mit Kolleginnen und Kollegen aus Aachen
wertvolle praktische Einblicke aus ihrer eigenen
Digitalisierungsinitiative lieferte.
Um EURAID in die Praxis zu überführen, sollten Krankenhäuser interne
Reifegradbewertungen durchführen, übergreifende KI-Governance-Strukturen
etablieren und rollenspezifische Verantwortlichkeiten definieren, die
ethische, rechtliche, technische und klinische Aspekte abdecken.

„Digitale Systeme und KI können einen spürbaren Beitrag zur Entlastung des
medizinischen Personals und zur Verbesserung der Patientenversorgung
leisten. Auch am Universitätsklinikum Dresden arbeiten wir daran, neue
digitale Lösungen verantwortungsvoll zu etablieren und schrittweise in den
Klinikalltag zu integrieren. EURAID bietet dafür eine wichtige und
strukturierte Orientierung“, sagt Prof. Dr. Uwe Platzbecker, Medizinischer
Vorstand des Universitätsklinikums Carl Gustav Carus Dresden.

„EURAID steht exemplarisch für den Anspruch unserer Fakultät, innovative
Forschung interdisziplinär zu entwickeln und rasch in die Praxis zu
überführen. So entstehen Lösungen, die medizinisch sinnvoll, technisch
umsetzbar, regulatorisch durchdacht und gesellschaftlich tragfähig sind“,
sagt Prof. Dr. Dr. Esther Troost, Dekanin MF-TUD.

Über EURAID – European Responsible AI Development
EURAID bietet einen pragmatischen, lösungsorientierten Leitfaden im
Einklang mit europäischen Werten (gem. Art. 2, EU-Vertrag, 2012) und
regulatorischen Vorgaben. Er stellt sicher, dass Hürden bei der „in-house“
Entwicklung und Implementierung von KI in Krankenhäusern frühzeitig
erkannt und durch gemeinschaftliche Problemlösung adressiert werden. Der
Leitfaden wurde auf Basis von vier Workshops sowie Expertendiskussionen
entwickelt. Die Autorinnen und Autoren vereinen ein breites Spektrum sich
ergänzender Expertise, darunter Regulierung von Medizinprodukten,
Management der Digitalisierung von Krankenhäusern, Qualitäts- und
klinisches Risikomanagement, Medizininformatik, Arbeitssicherheit und
Gesundheitsschutz sowie medizinisches Fachwissen aus verschiedenen
Gesundheitsberufen. Ergänzt wird dies durch Expertise aus Psychologie und
menschenzentriertem KI-Design sowie Recht, Ethik, Politik und akademischer
Forschung, zusammen mit Perspektiven aus Versicherungen und
Gewerkschaften.

Liste der Expertinnen und Experten der TUD und des Dresdner
Universitätsklinikums, die an EURAID beteiligt waren:
• Anett Schönfelder (Erstautorin)
• Prof. Maria Eberlein-Gonska (im Ruhestand)
• Prof. Jakob N. Kather
• Rebecca Mathias
• Dr. Hannah Sophie Muti
• apl. Prof. Hannes Schlieter
• Prof. Martin Sedlmayr
• Dr. Magdalena Wekenborg
• Prof. Stephen Gilbert (leitender Mitautor)