Autonome Systeme erfordern Paradigmenwechsel im Safety Engineering
Kooperationsprojekt von Fraunhofer IESE, Fraunhofer IKS und der
Universität York soll Markteinführung durch neue Sicherheitsarchitektur
beschleunigen
Im neuen Forschungsprojekt ICON »LOPAAS« (Layers of Protection
Architecture for Autonomous Systems) entwickelt das Fraunhofer IESE
gemeinsam mit dem Fraunhofer IKS und der Universität York in England mit
dem Assuring Autonomy International Programm (AAIP) eine Vorgehensweise,
um autonome Systeme und insbesondere autonome Fahrzeuge abzusichern. Das
interne Fraunhofer-Förderprogramm »ICON – International Cooperation and
Networking« unterstützt bilaterale Kooperationsprojekte mit international
herausragenden Universitäten und außeruniversitären
Forschungseinrichtungen. In den kommenden drei Jahren stehen 3 Millionen
Euro für die Kollaboration zur Verfügung, um den notwendigen
Paradigmenwechsel im Safety Engineering autonomer Systeme herbeizuführen.
Die Markteinführung von autonomen Systemen und insbesondere dem
automatisierten Fahren birgt viele Herausforderungen. Eine wesentliche
Herausforderung besteht darin, die Sicherheit zu gewährleisten, ohne dabei
mit so starken Einschränkungen hinsichtlich Geschwindigkeit und anderer
Faktoren zu arbeiten, dass der Mehrwert verschwindet. Genau diese
Herausforderung wurde bisher in vielen Prognosen unterschätzt, und auch
die Pilotstudien der Automobilhersteller bestätigen die Wahrnehmung der
Passagiere, dass autonome Fahrzeuge meist langsam und zögerlich sind.
Das Fraunhofer-Institut für Experimentelles Software Engineering IESE, das
Fraunhofer-Institut für Kognitive Systeme IKS und die Universität York
forschen seit Jahren an dieser Thematik und treiben den Stand der
Wissenschaft und Technik voran. Mithilfe des ICON-Projekts bündeln die
Partner nun ihre Forschungskompetenzen, um eine
Referenzsicherheitsarchitektur und -argumentation für automatisiertes
Fahren und autonome Systeme zu entwickeln. Dazu gehört insbesondere das
»dynamische Risikomanagement«, welches dem Fahrzeug ein besseres
»Verständnis« der aktuellen Risiken der Fahrsituation gibt. Das dynamische
Risikomanagement berücksichtigt nicht nur externe Einflussfaktoren wie das
Fahrverhalten anderer Verkehrsteilnehmer, sondern auch interne Faktoren
wie die Unsicherheiten bei der Wahrnehmung der aktuellen Situation. Die
Berücksichtigung von Unsicherheiten in der Sicherheitsarchitektur bietet
neue Möglichkeiten, Künstliche Intelligenz (KI) für sicherheitskritische
Aufgaben zu nutzen. Sie beschreibt, wie externe und interne
Einflussfaktoren verwendet werden können, um Risiken im laufenden Betrieb
automatisiert zu bestimmen und zu kontrollieren.
Das langfristige Ziel des Projekts ist es, autonomen Fahrzeuge zu
ermöglichen, schneller und unbeirrter zu fahren, da sie Risiken sicherer
und genauer abschätzen können. Die Ergebnisse des Projekts sollen
anschließend für den Technologietransfer in die Standardisierung und
Normierung einfließen.
Die Projektpartner – wer bringt welche Expertise ein?
Das Fraunhofer IESE und das Fraunhofer IKS sind die beiden führenden
Fraunhofer-Institute im Bereich Safety Engineering autonomer Systeme.
Zusammen mit der Universität York, die international als die zentrale
Forschungseinrichtung auf dem Gebiet Safety gilt, und dem Assuring
Autonomy International Programm entsteht ein Konsortium, das einen
prägenden Einfluss auf das autonome Fahren der Zukunft nehmen kann.
»Für das IESE ist das Thema »Autonome Systeme« von besonderer Relevanz, da
das Systems- und Software-Engineering der entscheidende Erfolgsfaktor für
die rechtzeitige Einführung und den verlässlichen Betrieb autonomer
Systeme ist. Im ICON-Projekt bringen wir insbesondere unsere Expertise im
dynamischen Risikomanagement ein, das autonome Systeme befähigt, die
Risiken ihrer Handlungsoptionen situationsspezifisch abzuschätzen und zu
kontrollieren«, so Dr. Rasmus Adler, Program Manager »Autonomous Systems«
am Fraunhofer IESE und Projektleiter von ICON »LOPAAS«.
Der Fokus des ICON-Projekts passt ebenso zur strategischen Ausrichtung des
Fraunhofer IKS. Das IKS konzentriert sich in dem Forschungsprojekt auf
vertrauenswürdige KI-basierte Situationserkennungen sowie eine
Laufzeitüberwachung der damit verbundenen Unsicherheiten.
ICON »LOPAAS« sorgt für Umbruch im Safety Engineering
Die Absicherung autonomer Systeme bedarf eines Paradigmenwechsels im
Safety Engineering. Es müssen viele neue Aspekte berücksichtigt werden,
wie die Verwendung von KI-basierten Algorithmen in sicherheitsrelevanten
Anwendungen und automatisierte Risikobewertungen. Die Expertise der
Universität York, die bereits seit über 30 Jahren an der Absicherung von
software-basierten Systemen forscht und maßgeblich den heutigen Standard
im Safety Engineering geprägt hat, ist entscheidend, um einen neuen
wissenschaftlichen Konsens zu schaffen und in einem überzeugenden,
strukturierten Sicherheitsnachweis darzustellen.
