Fraunhofer-GesellschaftOb in autonomen Autos oder als Entscheidungsunterstützung in der Medizin – entscheidet eine KI falsch, kann das weitreichende Folgen haben. Fraunhofer-Forschende prüfen, wie verlässlich KI-Aussagen sind und arbeiten an einer KI-Zertifizierung »made in Germany«.
Am Fraunhofer-Institut für Experimentelles Software Engineering IESE wird eine KI entwickelt, die permanent KI überwacht, ob sie Fehler macht, frei erfindet oder aber Fakten liefert, denen wir vertrauen können. Der »Uncertainty Wrapper« prüft mit statistischen Methoden, wie verlässlich eine KI-Aussage tatsächlich ist. Janek Groß ist Data Scientist in der Abteilung Data Science am Fraunhofer IESE und weiß mehr darüber.
Wie sehr können wir künstlicher Intelligenz vertrauen? An einer Zertifizierung für eine absolut vertrauenswürdige KI, einem Gütesiegel »made in Germany«, arbeitet das Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) und weiteren Partnern im Projekt »Zertifizierte KI«. Dr. Maximilian Poretschkin, Leiter KI-Absicherung und -Zertifizierung am Fraunhofer IAIS, spricht mit Sven Oswald darüber.