Enhancing automotive safety through an ADAS violation dashboard

Abstract

Autonomous Driving (AD) is an active area of research in which Advanved Driver Assistance Systems (ADAS) play an important role. Ensuring the safety of ADAS systems is critical. However, most ADAS systems nowadays make use of Deep Learning or other types of Machine Learning. Formally verifying these systems to ensure their safety is hardly possible. For this reason, Radic explored the use of Runtime Monitoring (RM) to ensure the safety of ADAS systems by detecting violations of several specified Safety Requirements (SR) at runtime. After performing a test run with the system, she manually analyzed the causes of each series of violations in the extracted Violations Report. As this was laborious and time-consuming, this thesis should explore available approaches and techniques to automatically derive the root causes of violation series. To do this, we first perform an exploratory literature search. This allows us to identify that the most suitable approach to address our problem is Root Cause Analysis (RCA) using Language Models (LMs), Large Language Models (LLMs), Knowledge Graphs (KGs), or a combination of them. We perform a Rapid Review (RR) to find concrete techniques for this approach. We then conduct a narrative data synthesis to explore the techniques retrieved with our RR. This allows us to derive a plan to automatically analyze the causes of SR violations in a Violations Report. Our solution is then incorporated into a web-based safety dashboard application. This application enables our safety engineers to configure ADAS use cases, test tracks, and test runs. Then, the safety engineer can select a test run to display an interactive view of the test run. The safety engineer can then select individual violation series and analyze their root causes using our automated RCA solution based on LLMs. To evaluate the effectiveness of our system, we conduct a simple experiment. This experiment shows that our system already achieves comparable performance to a human baseline provided by Radic. Our system, therefore, represents a valuable tool for safety engineers to identify and repair safety-critical problems in ADAS systems in the context of AD. We also propose modified variants of our system that allow researchers to improve our automated RCA system in the future, e.g., by incorporating a KG. Autonomes Fahren ist ein aktives Forschungsgebiet, in dem fortschrittliche Fahrerassistenzsysteme (ADAS) eine wichtige Rolle spielen. Die Sicherheit dieser ADAS-Systeme zu gewährleisten, hat eine hohe Priorität. Allerdings nutzen moderne ADAS-Systeme heutzutage oft Deep Learning oder andere Arten von Machine Learning. Die formale Verifikation solcher Modelle zur Gewährleistung ihrer Sicherheit ist dadurch kaum möglich. Daher beschäftigte sich Radic mit der Verwendung von Runtime Monitoring (RM), um die Sicherheit von ADAS-Systemen zu gewährleisten. Dafür erkennt das RM-System zur Laufzeit Verstöße gegen diverse spezifizierte Sicherheitsanforderungen (SRs). Nach der Durchführung eines Testlaufs wertete Radic die Ursachen der Verstöße im Violations Report manuell aus. Da sich dies als mühsam und zeitaufwändig herausstellte, beschäftigt sich diese Arbeit mit der Erforschung von Ansätzen und Techniken zur automatischen Ermittlung der Ursachen der Verstöße im Violations Report. Dazu führen wir zunächst eine explorative Literaturrecherche durch. Auf Grundlage dieser, identifizieren wir Root Cause Analysis (RCA) mittels Language Models (LMs), Large Language Models (LLMs), Knowledge Graphs (KGs) oder einer Kombination dieser als geeignetsten Ansatz zur Lösung unseres Problems. Um konkrete Techniken zu diesem Ansatz zu finden, führen wir eine Rapid Review (RR) durch. Mit den Ergebnissen führen wir dann eine narrative Synthese der extrahierten RCA-Techniken durch. Damit leiten wir einen Plan zur automatischen Analyse der Ursachen von SR-Verstößen in einem Violations Report ab. Wir integrieren unsere Lösung in eine web-basierte Dashboard Anwendung. Diese Anwendung erlaubt es Sicherheitsingenieuren, ADAS Anwendungsfälle, Teststrecken und Testläufe zu konfigurieren. Daraufhin kann ein Testlauf zur Analyse ausgewählt werden, wodurch eine interaktive Sicht des Testlaufs dargestellt wird. Ein Sicherheitsingenieur kann dann einzelne Folgen von SR-Verstößen auswählen und deren Ursachen mit unserer automatischen RCA-Lösung, die auf LLMs beruht, ermitteln. Um die Effektivität unseres Systems zu untersuchen, führen wir ein einfaches Experiment durch. Das Experiment hat ergeben, dass die Leistung unseres Systems bereits jetzt vergleichbar mit einer menschlichen Analyse ist. Als Referenz diente uns dazu die manuelle Analyse von Radic. Unser System stellt somit ein wertvolles Werkzeug dar, das Sicherheitsingenieuren helfen kann, die Ursachen sicherheitskritischer Probleme von ADAS-System im Kontext des autonomen Fahrens schneller zu identifizieren und zu beheben. Zusätzlich präsentieren wir diverse Ansätze, wie unser automatisiertes RCA-System in Zukunft weiter verbessert werden könnte, etwa durch das Zusammenspiel zwischen unseren LLMs und einem KG.