Konzeption und Implementierung eines Empfehlungssystems für die Auswahl und Anwendung von XAI-Methoden
Masterarbeit
Um den Einsatz von Explainable AI (XAI) und dadurch die Nachvollziehbarkeit komplexer KI-Systeme zu fördern, wird der Frage nachgegangen, wie man den Nutzer bei der Auswahl und der anschließenden Anwendung von geeigneten XAI-Methoden auf Black-Box Modelle durch Empfehlungen unterstützen kann. Gemäß dem Requirements Driven Design Science Research Framework wird dafür, nach einer initialen Anforderungsanalyse in Form von qualitativen, halbstrukturierten Interviews, ein webbasiertes XAI-Empfehlungssystem (XAIR) konzipiert und implementiert. Der XAIR schlägt, basierend auf den Eingaben des Nutzers unter Berücksichtigung seiner Präferenzen, die am besten geeigneten, modellagnostischen und post-hoc anwendbaren XAI-Methoden vor. Dafür wird zunächst geklärt, wie die Eignung von XAI-Methoden beurteilt werden kann, welche Kriterien eines spezifischen Modell-, Daten- und Nutzungskontexts diese beeinflussen und wie sich dieses Wissen formalisieren lässt. Aufgrund der Vagheit des vorhandenen XAI-Expertenwissens ist in diesem Kontext die Fuzzy-Logik von besonderer Relevanz. Die resultierende, modular aufgebaute Software kann als Web-Anwendung oder automatisiert, bspw. innerhalb einer ML-Pipeline, verwendet werden. Eine Nutzerevaluation weist darauf hin, dass der entwickelte XAIR durch eine begründete Empfehlung nicht nur die Auswahl einer XAI-Methode und ihrer Implementierung vereinfacht, sondern darüber hinaus durch Bereitstellung tieferer und gezielter Informationen diesbezüglich auch die Bereitschaft der tatsächlichen Anwendung erhöht.
Autoren: Barth, Verena
Seiten: 121
Weiterführende Links:
["['', '']", "['', '']"]
Autoren
- Name:
- Verena Barth
Eingetragen von
- Name:
-
Prof.
Dr. Christian Becker-Asano
Mehr zu diesem Autor
