Gewinner 2019: 1. Preis
Dr. rer. nat. Sebastian Lapuschkin, Fraunhofer-Institut für Nachrichtentechnik, Heinrich-Hertz-Institut, HHI
Doktorarbeit: Opening the Machine Learning Black Box with Layer-wise Relevance Propagation
Maschinelles Lernen unterstützt mit Erfolg eine Vielzahl von Anwendungen zur Entscheidungsfindung. Dabei werden die Vorhersagen scheinbar intransparent gefällt. Dieser »Black Box-Charakter« beeinträchtigt die Akzeptanz bei zahlreichen Anwendungsgebieten, auf denen das Verstehen individueller Modellvorhersagen und somit das Vertrauen in das Vorhersagemodell unumgänglich sind.
Diesem fundamentalen Problem widmete sich Dr. Sebastian Lapuschkin, Post-Doktorand am Fraunhofer-Institut für Nachrichtentechnik, Heinrich-Hertz-Institut, HHI, in seiner mit summa cum laude abgeschlossenen Dissertation. Dazu entwickelte der Informatiker mit »Layer-wise Relevance Propagation (LRP)« eine Methode für die Erklärung von individuellen Modellentscheidungen sowie ein methodisches Gerüst für die systematische Analyse genereller, von Systemen der Künstlichen Intelligenz (KI) erlernten, Verhaltensweisen und Vorhersagestrategien.
Mit dieser Methode schafft es Dr. Lapuschkin, die technischen, ethischen und rechtlichen Einschränkungen moderner KI-Ansätze im Wesentlichen beseitigen zu können. Er ebnet so den Weg für den Einsatz und die Anwendbarkeit moderner und leistungsstarker KI in neuen Anwendungsgebieten in einem zuvor nicht realisierbaren Maß an Transparenz.