Automatisiertes Fahren Bergische Uni forscht zur „KI-Absicherung“
Wuppertal · Mit der Zuverlässigkeit von künstlicher Intelligenz (KI), die in sicherheitskritischen Bereichen eingesetzt wird, beschäftigt sich das Verbundprojekt „KI-Absicherung – Methoden und Maßnahmen zur Absicherung von KI basierten Wahrnehmungsfunktionen für das automatisierte Fahren“. Die Bergische Universität Wuppertal ist darin mit einem Teilvorhaben involviert.
Es ist an der Fakultät für Mathematik und Naturwissenschaften im Fach Angewandte Mathematik angesiedelt ist. Vom Bundesministerium für Wirtschaft und Energie (BMWi) erhalten die Wuppertaler Forscher in den nächsten drei Jahren 730.000 Euro. „Wird künstliche Intelligenz im sicherheitskritischen Kontext – wie zum Beispiel dem automatisierten Fahren – eingesetzt, ist Zuverlässigkeit eine entscheidende Eigenschaft“, betont Prof. Dr. Hanno Gottschalk von der Arbeitsgruppe Stochastik.
Gemeinsam mit Prof. Dr. Stefan Bracke, der in der Fakultät für Maschinenbau und Sicherheitstechnik den Lehrstuhl für Zuverlässigkeitstechnik und Risikoanalytik leitet, und Dr. Matthias Rottmann, Angewandte Informatik, führt er das Teilprojekt durch. Die drei Wissenschaftler, die im Interdisziplinären Zentrum für Machine Learning und Data Analytics (IZMD) zusammenarbeiten, wollen mögliche Unsicherheiten sowie Fehler der künstlichen Intelligenz analysieren und sie in Bezug zu traditionellen Beschreibungen von funktionaler Sicherheit setzen.
„Als statistische Verfahren besteht bei vielen KI-Ansätzen die Möglichkeit von Fehlern. Wann sich die KI jedoch irrt, ist aufgrund ihrer so genannten Blackbox-Eigenschaften – also der fehlenden Transparenz darüber, was die KI mit den eingegebenen Daten macht – nur schwer abzusehen“, so Gottschalk. Im Ergebnis erhofft sich das Team schließlich neue KI-Algorithmen und die Entwicklung von Kennzahlen, mit denen sich Aussagen in puncto Qualität und Sicherheit treffen lassen. Darüber hinaus soll es um die Frage gehen, ob sich die Erkenntnisse für das automatisierte Fahren auch auf andere Technologiebereiche übertragen lassen. Ein Beispiel dafür wäre die Medizintechnik.
Das Wuppertaler Forschungsteam ist Teil eines Konsortiums, das neben den großen deutschen Automobilherstellern auch technologisch führende Zulieferer, Tech-Startups und insgesamt sechs weitere Forschungseinrichtungen umfasst. Das Verbundprojekt wird im Rahmen der KI-Leitinitiative des Verbandes der Deutschen Automobilindustrie (VDA) durchgeführt.
