Leopoldina Menü

Leopoldina Home

Thema im Fokus

Künstliche Intelligenz und Gesellschaft

Künstliche Intelligenz und Gesellschaft

Foto: Adobe Stock

Aus der Perspektive der Gesellschaft wirkt KI oftmals wie eine doppelte Black Box: Zum einen sind viele der Algorithmen, die KI zugrunde liegen, Eigentum von Startups und Technologiefirmen und nicht öffentlich einsehbar. Zum anderen gehört es zum Wesen insbesondere von künstlichen neuronalen Netzen, dass sie nicht explizit programmiert werden, sondern quasi selbständig lernen. Das heißt, wir nutzen KI-Anwendungen, über deren Struktur und Funktion wir vergleichsweise wenig wissen.

Mit dieser doppelten Black Box wird sich die Gesellschaft auseinandersetzen müssen. Die europäische Datenschutzgrundverordnung (DSGVO), die seit 2018 in Kraft ist, gibt strenge Kriterien vor: Nach ihr dürfen schwerwiegende Entscheidungen über unser Leben nicht allein von Maschinen getroffen werden. Und beim Einsatz von Algorithmen haben Verbraucherinnen und Verbraucher ein Recht auf „aussagekräftige Informationen über die involvierte Logik“. Dies zielt auf die inzwischen bekannte Tatsache ab, dass ein Algorithmus immer mit vorhandenen Daten trainiert wird, die bisheriges Verhalten und Entscheiden widerspiegeln. Wenn also Frauen gegenüber Männern oder Minderheiten gegenüber Mehrheiten benachteiligt werden, besteht das Risiko, dass diese Benachteiligung in den Algorithmus Eingang findet und somit auch bei automatisierten Auswahlprozessen oder bei einer automatisierten Gesichtserkennung fortgeschrieben wird.

Zugleich kann KI ein mächtiges Mittel in der Hand von Regierungen sein. So führt China seit 2014 ein Sozialkredit-System ein, das die „Aufrichtigkeit in Regierungsangelegenheiten“ steigern soll. Vorerst auf freiwilliger Basis im Großraum Peking installiert, geht mit einem solchen Scoring die Gefahr politischer Überwachung bis hin zur Selbstzensur einher. Ebenso wird KI längst im militärischen Bereich eingesetzt. Mit Sensoren ausgerüstete Drohnen und Roboter können Angreifer und Verteidiger unterscheiden. Aber sollen sie ohne menschliche Steuerung über Leben und Tod von Menschen entscheiden? Während die internationale Gemeinschaft gerade erst beginnt, diese ethischen Fragen zu diskutieren, wird in Ländern wie Russland, China und den USA an autonomen Waffensystemen gearbeitet.

Ob und wann jemals der Schritt von der „schwachen KI“ zur „starken KI“ vollzogen wird, ist nicht absehbar. Derzeit geht es eher darum, in Forschung, Wirtschaft und Politik gleichermaßen neue Strukturen zur nutzerzentrierten Integration von KI in die Gesellschaft aufzubauen – wie sie unter anderem die Munich School of Robotics und Machine Intelligence, das Cyber Valley in der Region Stuttgart-Tübingen, das Kompetenznetzwerk für Künstliche Intelligenz in Nordrhein-Westfalen, die KI-Startups made in Berlin, die Digitale Agenda des Landes Sachsen-Anhalt sowie das Hightech-Netzwerk Silicon Saxony verkörpern.

CONTACT

Leopoldina

Daniela Weber

Editor Newsletter and Project Manager, Science Course for Journalists

Phone 0345 - 47 239 - 801
Fax 0345 - 47 239 - 809
E-Mail daniela.weber @leopoldina.org

CONTACT

Leopoldina

Caroline Wichmann

Head of Department Press and Public Relations

Phone 0345 - 472 39 - 800
Fax 0345 - 472 39 - 809
E-Mail caroline.wichmann @leopoldina.org