Kilbertus gehört zu den Pionieren der ethischen maschinellen Lernsysteme und wird im Rahmen der Herbstveranstaltung für seine Forschungsleistungen mit dem Leopoldina-Preis für junge Wissenschaftlerinnen und Wissenschaftler 2024 geehrt.
Niki Kilbertus ist seit 2021 Professor für Ethics in Systems Design and Machine Learning an der Technischen Universität München im Fachbereich Informatik und seit 2020 Forschungsgruppenleiter bei Helmholtz AI am Helmholtz Zentrum München. Ihm gelang es, kausale Konzepte der Fairness bei automatisierten Entscheidungsprozessen zu formalisieren. Um Entscheidungen treffen zu können, müssen maschinelle Lernsysteme mit Daten trainiert werden, die sie zueinander in Beziehung setzen. Kilbertus legt in seiner Forschung einen besonderen Schwerpunkt auf die Ursache-Wirkungs-Beziehungen aus Beobachtungsdaten, die kausalen Inferenzen. Diese zielen darauf ab, echte kausale Zusammenhänge von bloßen Korrelationen in Daten zu unterscheiden. Bei der Weiterentwicklung des Systems sollen die maschinellen Lernsysteme in die Lage versetzt werden, sich von fehlerhaften Annahmen zu lösen und so angemessene Entscheidungen zu treffen. Die Forschung dient der Entwicklung von hochpräzisen, ethisch vertretbaren und vertrauenswürdigen KI-Systemen. Bei der Herbstveranstaltung widmet sich Kilbertus in seinem Vortrag der Rolle von Methoden des maschinellen Lernens in Fragen der sozialen Gerechtigkeit und Diskriminierung.