KIT | KIT-Bibliothek | Impressum | Datenschutz

Prozessorientiertes Reinforcement Learning: Grafische Modellierung zur Unterstützung der Erklärbarkeit

Schreiber, Clemens; Schiefer, Gunther; Alpers, Sascha; Take, Marius; Oberweis, Andreas

Abstract:
Das Verstärkende Lernen (Reinforcement Learning) stellt einen wichtigen Ansatz für Systeme der Künstlichen Intelligenz (KI-Systeme) dar. Dabei steigt der Anspruch an die Erklärbarkeit der KI-Systeme mit zunehmender Risikobehaftung der zu lösenden Problemstellungen. Um den Lernprozess beim Verstärkenden Lernen nachvollziehbar zu machen, verfolgen wir einen prozessorientierten Lernansatz. Zunächst soll der Lernprozess mit Hilfe eines grafischen Prozessmodells abgebildet werden, um eine Visualisierung der einzelnen Lernschritte zu ermöglichen. Diese Prozessmodellierung soll durch die Verwendung von Process Mining Methoden erfolgen. In einem weiteren Schritt soll den Anwendern die Möglichkeit gegeben werden, anhand der Prozessmodelle die Entscheidungsfindung der Algorithmen zu beeinflussen. Eine mögliche Art der Einflussnahme ist zum Beispiel die Beschränkung des Hypothesenraumes, der mit Hilfe des Verstärkenden Lernens erkundet werden soll. Auf diese Weise agiert das Prozessmodell als grafische Schnittstelle zwischen maschinellem Lernprozess und Anwender. Das wesentliche Ziel dieses neuen Ansatzes ist es, die Erklärbarkeit von KI-Systemen und die Kooperationsfähigkeit zwischen Anwendern und KI-Systemen zu verbessern. ... mehr

Open Access Logo


Verlagsausgabe §
DOI: 10.5445/IR/1000129156
Veröffentlicht am 01.02.2021
Cover der Publikation
Zugehörige Institution(en) am KIT Institut für Angewandte Informatik und Formale Beschreibungsverfahren (AIFB)
Publikationstyp Proceedingsbeitrag
Publikationsdatum 19.02.2020
Sprache Deutsch
Identifikator ISSN: 1613-0073
KITopen-ID: 1000129156
Erschienen in Modellierung-C 2020: Modellierung 2020 short, workshop and tools & demo papers. Edited by Judith Michael and Dominik Bork
Verlag RWTH Aachen
Seiten 172-177
Serie CEUR workshop proceedings ; 2542
Schlagwörter Reinforcement Learning Prozessmodellierung Interaktives Maschinelles Lernen Erklärbare Künstliche Intelligenz
Nachgewiesen in Scopus
KIT – Die Forschungsuniversität in der Helmholtz-Gemeinschaft
KITopen Landing Page