Die Forschung an Systemen der Künstlichen Intelligenz hat in den vergangenen Jahren so gewaltige Fortschritte gemacht, dass diese nun mehr und mehr in die praktische Anwendung drängen. Damit verbunden sind Diskussionen in Politik und Gesellschaft über die Auswirkungen und die  Legitimität des Einsatzes solcher Systeme zur automatisierten Entscheidungsfindung.

In Bereichen wie der industriellen Produktion oder der medizinischen Diagnostik geht es dabei vorrangig um Fragen der Sicherheit und Verlässlichkeit von KI-Systemen. Wird die KI jedoch in Bereichen eingesetzt, in denen sie direkt oder indirekt über menschliche Belange entscheidet – zum Beispiel in der Rechtsprechung, dem Personalmanagement oder der Kreditvergabe – stellen sich darüber hinaus auch sehr grundsätzliche Fragen der Transparenz, Nachvollziehbarkeit und Kontrolle.