KI unterstützt, Mensch entscheidet: ChAmp schafft die Grundlage für effizientere Prüfprozesse
Erste empirische Ergebnisse zeigen: Hersteller und Prüfstellen haben
überraschend ähnli-che Anforderungen an ein KI-gestütztes Assistenzsystem.
Vor diesem Hintergrund unter-sucht das Forschungsprojekt ChAmp („Cyber-
humanes Arbeiten in Daten-Ökosystemen am Beispiel maschineller
Softwareprüfung“), wie große Sprachmodelle und weitere KI-Verfahren dazu
beitragen können, Dokumentations- und Prüfprozesse wirksam zu
unterstützen. Im Mittelpunkt steht die Entwicklung eines
datenschutzkonformen Assistenzsystems, das Hersteller und Prüfstellen bei
der Erstellung, Analyse und Bewertung technischer Softwaredokumentationen
unterstützt, ohne die Verantwortung des Menschen zu ersetzen.
Kein Marktzugang ohne Prüfung
Ohne eine erfolgreiche Prüfung der technischen Dokumentation erhalten
viele elektronische Produkte keinen Marktzugang. Hersteller müssen dabei
nachweisen, dass ihre Software regulatorische Anforderungen erfüllt und
dies nachvollziehbar dokumentieren. Für Hersteller und Prüfstellen
bedeutet dies einen hohen Aufwand: Umfangreiche Unterlagen müssen
erstellt, analysiert und bewertet werden.
Das Forschungsprojekt ChAmp untersucht, wie Künstliche Intelligenz diese
Prozesse effizienter und transparenter gestalten kann.
Anforderungen seitens Hersteller und Prüfer
Einen wichtigen Meilenstein hat das Projekt nun mit der Auswertung von
Experteninterviews er-reicht. Befragt wurden Fachleute des
Messgeräteherstellers Sartorius Lab Instruments GmbH & Co. KG sowie der
Physikalisch-Technischen Bundesanstalt (PTB). Ziel war es, die
Anforderungen an ein zukünftiges KI-gestütztes Assistenzsystem aus
Hersteller- und Prüferperspektive zu erfassen.
Ähnliche Herausforderungen
Die Ergebnisse zeigen, dass beide Seiten trotz unterschiedlicher Rollen
vor ähnlichen Herausforderungen stehen. Hersteller wünschen sich
Unterstützung bei der Interpretation regulatorischer Anforderungen, der
Bewertung technischer Lösungsansätze und der Erstellung vollständiger,
konsistenter Dokumentationen.
Prüfende sehen insbesondere Potenziale bei der Analyse umfangreicher
Dokumentationspakete, der intelligenten Suche nach relevanten
Informationen und der nachvollziehbaren Verknüpfung von Anforderungen und
Nachweisen.
„Die hohe Übereinstimmung der Anforderungen beider Akteursgruppen ist eine
der wichtigsten Erkenntnisse der bisherigen Projektarbeit“, erklärt
Katharina Adamczyk von der ZENIT GmbH. „Sie zeigt, dass ein gemeinsames
Assistenzsystem Mehrwert schaffen kann, indem Informationen strukturiert
aufbereitet, Zusammenhänge sichtbar gemacht und Wissensbestände besser
erschlossen werden.“
Was macht ChAmp?
Im Mittelpunkt von ChAmp steht dabei nicht die vollständige
Automatisierung von Prüfentscheidungen. Vielmehr verfolgt das Projekt
einen cyber-humanen Ansatz, bei dem KI Fachkräfte bei komplexen Analyse-,
Wissens- und Dokumentationsaufgaben unterstützt. Transparenz,
Nachvollziehbarkeit und Quellenoffenlegung gelten dabei als zentrale
Voraussetzungen. Die Verantwortung für regulatorische Entscheidungen
verbleibt ausdrücklich bei den Expertinnen und Experten.
Wie geht es weiter?
Die nun vorliegenden Anforderungskataloge bilden die Grundlage für die
nächste Projektphase. Aktuell wird ein prototypisches Assistenzsystem
entwickelt, das auf lokalen Sprachmodellen so-wie Verfahren zur
semantischen Suche und Informationsverknüpfung basiert. Dabei stehen
Datenschutz, Vertraulichkeit und Nachvollziehbarkeit im Mittelpunkt.
Die Erkenntnisse aus ChAmp reichen über die Softwareprüfung von
Messgeräten hinaus. Ver-gleichbare Herausforderungen finden sich auch in
Bereichen wie Produktsicherheit, Datenschutz,
Nachhaltigkeitsberichterstattu
Nachweis- und Prüf-pflichten im Umfeld der europäischen KI-Regulierung.
Mit den nun vorliegenden empirischen Ergebnissen ist damit ein wichtiger
Grundstein für die Entwicklung transparenter und menschenge-rechter KI-
Assistenzsysteme in regulierten Arbeitsumgebungen gelegt.
Mehr erfahren: Detaillierte Einblicke in die Untersuchungsergebnisse und
die nächsten Entwicklungsschritte des Forschungsprojekts ChAmp bietet der
vollständige Blogbeitrag auf der Website des Projekts: Zum Blogbeitrag
„ChAmp: Erste empirische Ergebnisse schaffen die Grundlage für ein cyber-
humanes Prüfassistenzsystem“.
Förderhinweise
Dieses Verbundprojekt wird unter dem Förderkennzeichen 02L25A070 im Rahmen
des Programms „Zukunft der Arbeit“ durch das Bundesministerium für
Forschung, Technologie und Raumfahrt (BMFTR) und die Europäische Union
gefördert und vom Projektträger Karlsruhe (PTKA) betreut.
