XAI für tiefe neuronale Netze zur Bilderkennung – globale vs. lokale Erklärungen

Methoden aus dem Bereich eXplainable Artificial Intelligence (XAI) sind einer der Schlüssel zur Anwendung von Machine Learning Algorithmen in sicherheitsrelevanten Bereichen, wie zum Beispiel dem autonomen Fahren. Die Ansätze können grob in lokale und globale Erklärverfahren unterteilt werden, wobei das Ziel Black Box Modelle besser zu verstehen und somit Vertrauen in KI-Lösungen zu steigern immer im Vordergrund steht. Im Vortrag werden wir verschiedene XAI-Ansätze betrachten, die ein tiefes Neuronales Netz für die Erkennung von Verkehrsschildern erklären sollen, deren Ergebnisse gegenüberstellen und Erkenntnisse über das Modell ableiten.

Nutzen für die Besucher:innen :

Die Teilnehmer und Teilnehmerinnen erhalten eine Einführung in die Welt der Erklärbarkeit und lernen den Nutzen von XAI-Verfahren während der Entwicklung von KI-Lösungen und im späteren Einsatz kennen. Die Methoden werden anwendungsnah am Beispiel Klassifikation von Verkehrsschildern erläutert und Chancen sowie mögliche Herausforderungen beim Einsatz in eigenen Projekten verdeutlicht.

Speaker:

Lena Lörcher, Fraunhofer IPA

Lena Lörcher hat Mathematik im Bachelor an der Eberhard Karls Universität Tübingen studiert und anschließend ihren Master in Mathematics in Science and Engineering an der Technischen Universität München absolviert. Derzeit ist sie als wissenschaftliche Mitarbeiterin am Fraunhofer IPA tätig und beschäftigt sich damit, die Entscheidungen intransparenter maschineller Lernmodelle (z.B. tiefe Neuronale Netze) besser nachvollziehbar zu machen. Ihr Fokus liegt auf lokalen und globalen Erklärverfahren für bildverarbeitende KI-Systeme und wie die entsprechenden Erklärungen interpretiert und bewertet werden können.