Explainability of operating systems

Abstract

With the recent rise of machine learning and artificial intelligence, the explainability of software has found its way into the focus of research activities. Black box-like approaches that take critical decisions must be enabled to justify its actions in a comprehensible manner. This thesis takes these considerations and applies them to the area of operating systems and problem analysis thereof. To do so, a user study, conducted among professionals, is presented that shows that simplifying the generation of explanations of the operating system behavior can bring additional value. Furthermore, already available tools will be discussed based on their capabilities with regard to explanation generation. Subsequently, a new approach is proposed that allows to visualize decisions taken by the operating system in a decision graph. These graphs allow to examine how and why a certain value was set by the operating system in a convenient and efficient way. Finally, this approach is evaluated in another user study, which is again conducted among professionals. The final conclusion of this thesis then yields, that an increased focus on explainability capabilities in the context of operating system problem analysis would bring additional value to people working in this area. There is a wide range of other publications that focus on either problem analysis or explainable software, but not on the combination thereof. The proposed approach aims to connect the two areas by providing assistance in deriving explanations and justifications for the internal reasoning processes of operating systems in a convenient way. The potential value is successfully confirmed with an evaluation study conducted among professionals.

Mit den jüngsten Fortschritten im Bereich von Maschinellem Lernen und Künstlicher Intelligenz geht ein verstärktes Interesse in der Forschung einher inwiefern Entscheidungen, die von Software getroffen werden, erklärt werden können. Blackbox-artige Ansätze, die kritische Entscheidungen treffen, müssen in die Lage versetzt werden ihre getroffenen Aktionen in verständlicher Art und Weise verteidigen zu können. Diese Abschlussarbeit wendet diese Fragestellung auf den Bereich der Betriebssysteme an. Hierbei wird Fokus auf das Teilgebiet der Problemeanalyse gelegt. Um diese Themengebiete zusammenzubringen, wird zunächst eine Studie unter Experten aus der Industrie präsentiert, um zu zeigen, dass eine Vereinfachung in der Herleitung von Erklärungen für das Betriebssystemverhalten einen zusätzlichen Wert darstellen kann. Zusätzlich werden von den Experten tatsächlich genutzte Tools auf ihre Fähigkeiten bezüglich der Herleitung von Erklärungen untersucht, um zu zeigen, dass eine Erweiterung der Funktionalitäten in Bezug auf Erklärbarkeit möglich ist. Eine mögliche Herangehensweise auf Basis von Entscheidungsgraphen, die es erlaubt schnell und effizient abzulesen warum und wie Entscheidungen im Betriebssystem getroffen werden, wird im Anschluss präsentiert. Dieser Vorschlag wird zu guter Letzt in einer Evaluation verifiziert, die wieder im Rahmen einer Studie mit Experten aus der Industrie durchgeführt wurde. Diese Abschlussarbeit kommt abschließend zum Schluss, dass ein verstärkter Fokus auf einen erklärbaren Entscheidungsprozess im Bereich der Problemanalyse von Betriebssystemen zusätzlichen Wert generieren würde. Es existiert eine Fülle an anderen Publikationen, die sich mit den Themen Problemanalyse und Erklärbarkeit von Software beschäftigen. Die Kombination der beiden Felder wird dabei jedoch vernachlässigt. Der in dieser Arbeit vorgeschlagene Ansatz zielt darauf ab diese beiden Gebiete zusammenzuführen indem eine Möglichkeit aufgezeigt wird Erklärungen für den internen Entscheidungsprozess des Betriebssystem einfacher herzuleiten. Der potentielle Wert dieses Konzepts wird erfolgreich mit einer Studie unter Experten aus der Industrie bestätigt.