Entwicklung eines interaktiven Systems für das FALCC Framework

Abstract

In der heutigen digitalisierten Welt werden immer öfter KI-Modelle verwendet, um Entscheidungen zu treffen, von denen Menschen betroffen sind. Es ist erwiesen, dass künstliche Intelligenz gute Leistungen erbringen kann. Es ist allerdings wichtig, die Eignung von KI-Modellen nicht nur hinsichtlich ihrer Genauigkeit zu bewerten, sondern auch bezüglich ihrer Fairness. In diesem Aspekt gibt es große Bedenken. Es wurde gezeigt, dass Modelle häufig voreingenommen gegenüber unterschiedlichen gesellschaftlichen Gruppen sind. Dieses Problem wird aktuell von vielen Forschern untersucht und es wurden bereits einige Ansätze für Verbesserungen entwickelt. Einer dieser Ansätze ist das FALCC-Framework der Universität Stuttgart. Trotz der vielversprechenden Ergebnisse des FALCC-Algorithmus besteht eine Lücke in der Nutzbarkeit und Erklärbarkeit durch die Abwesenheit einer benutzerfreundlichen Schnittstelle. Diese Arbeit stellt FALCC-IS, ein interaktives System für das FALCC-Framework vor, das speziell dafür entwickelt wurde, den FALCC-Algorithmus zugänglicher zu machen. FALCC-IS bietet eine intuitive Benutzeroberfläche, die es Benutzern ermöglicht, das FALCC-Framework zu erforschen. Es verfügt über einige Analyse- und Evaluationswerkzeuge, die nicht nur das Aufdecken von Bias ermöglichen, sondern auch die Erklärbarkeit des FALCC-Algorithmus verbessern. Ein besonderes Merkmal ist die Möglichkeit, Datensätze zweidimensional darzustellen, wodurch Benutzer neue Vorhersagen treffen und kontrafaktische Untersuchungen anstellen können. Zudem können neue Metriken kreiert werden, welche sich aus mehreren bereits implementierten Metriken zusammensetzen.