Künstliche Intelligenz und Gesellschaft

In seiner Antwort auf die Frage, ob man ihr vertrauen könne, liefert das KI-System „Perplexity“ bereits einige Beispiele für ethische Herausforderungen, die mit der Nutzung von KI einhergehen – etwa den Datenschutz, den Ursprung und die Qualität von Trainingsdaten, die Nichtobjektivität oder die Frage, wer für mögliche Konsequenzen haftet, wenn die KI eine Falschentscheidung trifft. Diese Fragen stellen sich überall dort, wo KI in der Gesellschaft bereits genutzt wird.

Die Diskussion darüber, was KI leisten kann und was nicht, schwankt oft zwischen utopischen Heilsversprechen und dystopischen Schreckensszenarien. Klar ist jedoch: In vielen Bereichen greift KI schon heute in unseren Alltag ein. Sie kann helfen, Texte zu übersetzen, Energie im Haushalt zu sparen, oder uns das Navigieren durch den Verkehr erleichtern und unsere Fitnessdaten überwachen. Doch gleichzeitig gilt: In sensiblen Anwendungsbereichen ist Vorsicht geboten.

Die fortschreitende Digitalisierung führt dazu, dass Dienstleistungs- und Produktionsprozesse neu organisiert werden. So werden etwa Daten über Arbeitsabläufe genutzt, um diese effizienter zu gestalten oder sogar zu automatisieren. Automatisierung bedeutet, dass bestimmte Aufgaben entweder vollständig ohne menschliches Zutun oder mithilfe digitaler Assistenzsysteme ausgeführt werden. 

Diese Entwicklung betrifft zahlreiche Branchen und Berufsgruppen – und stellt den Arbeitsmarkt insgesamt vor große Herausforderungen. Welche langfristigen Folgen das genau haben wird, ist noch unklar. Häufig geäußerte Befürchtungen, dass eine rasante Automatisierung, insbesondere durch den Einsatz Künstlicher Intelligenz, zu massenhafter Arbeitslosigkeit führen könnte, gelten allerdings als überzogen. Wahrscheinlicher ist, dass sich in vielen Berufsfeldern die Anforderungen an Qualifikationen und Kompetenzen verändern werden. Die menschliche Arbeitskraft bleibt jedoch weiterhin unverzichtbar.

Digitale, KI-gestützte Assistenzsysteme haben ein sehr großes Potenzial, die Arbeitsbedingungen in vielen Bereichen zu verbessern und die Produktivität zu steigern. In der Industrie leiten sie z. B. Beschäftigte in der Montage oder Logistik bei ihren Arbeitsschritten an und unterstützen sie bei der Wartung und Problemlösung an Anlagen. In Sachbearbeitungsprozessen gibt die genutzte Software zunehmend Empfehlungen, wie bestimmte Aufgaben zu erledigen sind. Auch in der Landwirtschaft kommen mittlerweile Assistenzsysteme zum Einsatz – etwa bei der Planung des Ressourceneinsatzes oder bei Instandhaltungsaufgaben. Auch Large-Language-Modelle wie GPT-5 (ChatGPT) können bei komplexen Arbeitsprozessen wie der Datenanalyse oder der Programmierung sinnvoll eingesetzt werden. 

Gleichzeitig ergeben sich jedoch auch neue Herausforderungen: Wenn Mitarbeitende sich zu sehr auf Assistenzsysteme verlassen, kann es an Problemlösungskompetenz mangeln – etwa bei Störungen, die das System nicht selbst beheben kann. Daher sollte der Einsatz digitaler Assistenzsysteme stets mit geeigneten Qualifizierungsmaßnahmen verknüpft werden. 

Zudem gilt es, Missbrauch durch Kontrolle und Überwachung zu verhindern. Viele Systeme erfassen Daten über die Arbeitsprozesse, die Zeit, den Ort und mitunter auch über die Person – dies bringt Gefahren der Überwachung und Kontrolle mit sich, die für Beschäftigte schwer einzuschätzen sind.

Algorithmen kommen zunehmend dort zum Einsatz, wo statistische Methoden zur Grundlage einer Entscheidung gemacht werden können, also z. B. in Bewerbungsverfahren, bei Kreditvergaben oder bei Versicherungsentscheidungen. Oft wird behauptet, KI-basierte Entscheidungen seien fairer, da die KI – im Gegensatz zu menschlichen Entscheidern – keine Vorurteile hegen und nicht diskriminieren würde. Doch das ist ein Trugschluss. Generative KI-Systeme neigen dazu, etablierte Stereotype und Diskriminierungsformen zu reproduzieren. Da sie mit bestehenden, von Menschen erstellten Daten trainiert werden, lernen sie folglich auch die darin enthaltenen Vorurteile, Wertungen und Ungleichheiten. Schlimmer noch: Diskriminierende Entscheidungen erhalten dadurch, dass sie auf der Grundlage von KI getroffen wurden, einen vermeintlich objektiven Charakter.

Studien zeigen, dass KI-basierte Entscheidungen oft einen sogenannten Bias (eine Verzerrung) zum Nachteil ohnehin benachteiligter Gruppen aufweisen. Besonders besorgniserregend ist das z. B. in den folgenden Bereichen: 

• Predictive Policing: Personen aus bestimmten Gruppen geraten in der vorausschauenden Polizeiarbeit eher unter Verdacht als andere, obwohl es dafür keinen Grund gibt.
• Finanzwesen: Frauen erhalten bei Banken trotz gleicher Bonität weniger Kredite als Männer.
• Arbeitswelt: Bewerbungen mit bestimmten Nachnamen werden von KI-Systemen seltener berücksichtigt – trotz gleicher Qualifikation. 

Um systematischen Verzerrungen entgegenzuwirken, braucht es ein aktives Gegensteuern. Dies wird als „De-Biasing“ bezeichnet. Sowohl die Entscheidung für De-Biasing als auch die Wahl spezifischer De-Biasing-Methoden sind jedoch ethisch und politisch von großer Bedeutung. Daher sollten solche Entscheidungen auch nicht ausschließlich von Entwicklerinnen und Entwicklern getroffen werden – es braucht einen breiten, interdisziplinären Diskurs darüber, in den auch die potenziell von Diskriminierung betroffenen Personengruppen einbezogen werden.

Generative KI ermöglicht es Nutzerinnen und Nutzern, innerhalb kürzester Zeit Antworten auf Fragen aller Art zu erhalten oder Texte, Bilder und Videos zu generieren. Dies kann enorm nützlich sein – birgt jedoch auch Risiken. Mithilfe von KI können täuschend echte Videos oder Stimmen generiert werden (sogenannte "Deepfakes") und die Unterscheidung, was wahr ist und was nicht, fällt immer schwerer.

KI-gesteuerte Algorithmen bestimmen, welche Informationen uns in sozialen Netzwerken angezeigt werden. Bereits 2021 kritisierten die Leopoldina, die Deutsche Akademie der Technikwissenschaften acatech und die Union der Deutschen Akademien der Wissenschaften in einer gemeinsamen Stellungnahme, dass die Algorithmen digitaler Plattformen kommerzielle Inhalte statt unabhängiger Informationen priorisieren würden. Obwohl die Selektionsmechanismen der Algorithmen einen großen Einfluss auf die öffentlichen Informationsströme ausüben würden, unterlägen sie keiner demokratisch legitimierten Kontrolle. 

Die bisherigen gesetzlichen Regelungen und ihre Durchsetzung zur Prävention und Verfolgung undemokratischer oder herabwürdigender Meinungsäußerungen sowie gezielter Falschinformationen im Netz sind unzureichend. Gerade im Hinblick auf gezielte Falschinformationen braucht es plattformunabhängige Werkzeuge, die Nutzerinnen und Nutzer bei der Erschließung und Bewertung digitaler Informationen unterstützen.

Wie im Kapitel zu technologischen Entwicklungen in Künstlicher Intelligenz bereits beschrieben wurde, ist es für Nutzerinnen und Nutzer von Large-Language-Modellen wie GPT-5 (ChatGPT) oft nicht nachvollziehbar, inwiefern die generierten Texte und Informationen tatsächlich korrekt und verlässlich sind. Um dieses Problem zu umgehen, arbeiten Wissenschaftlerinnen und Wissenschaftler im Forschungsfeld „Erklärbare KI“ gegenwärtig daran, dass Large-Language-Modelle ihre Vorgehensweisen und Ergebnisse selbst erklären. Eine gewisse Intransparenz lässt sich aktuell jedoch nicht auflösen – es gilt daher zu hinterfragen, in welchen Anwendungsfällen Entscheidungen KI-Systemen überlassen werden können und in welchen Bereichen letztlich ein Mensch die Entscheidung treffen sollte.

Zwar sind sich Politik und Gesellschaft vieler Risiken bewusst, die mit der Entwicklung und Anwendung von Künstlicher Intelligenz einhergehen – wie ein verantwortungsvoller Umgang mit diesen Risiken aussehen kann, ohne Innovationen im KI-Bereich zu hemmen, ist jedoch fraglich. 

Viele Länder haben bereits Ethikrichtlinien oder politische Strategien für KI verabschiedet. Meist basieren diese aber auf Freiwilligkeit. Als erste Regulierungsbehörde weltweit hat die EU eine KI-Verordnung eingeführt, die einen rechtsverbindlichen Rahmen für die verantwortungsvolle Entwicklung und Verwendung von KI in der EU vorgibt: den EU Artificial Intelligence Act.

Neben dem EU AI Act hat die EU auch weitere Verordnungen eingeführt, die die Regulierung von KI beinhalten. Der Digital Service Act (DSA) reguliert Onlineplattformen, wenn sie KI im Rahmen von Online-Diensten einsetzen, beispielsweise bei Algorithmen oder personalisierter Werbung. Der Digital Market Act (DMA) reguliert sogenannte Gatekeeper, also große digitale Plattformen, die digitale Dienste wie Suchmaschinen, App-Stores und Messenger-Dienste anbieten. Ziel ist es faire Wettbewerbsbedingungen zu schaffen. Die Datenschutzgrundverordnung (DSGVO) reguliert die Erhebung, Verarbeitung und Speicherung personenbezogener Daten und gilt auch bei KI-Systemen, sobald diese personenbezogene Daten verarbeiten.

Die EU-Verordnungen gelten nicht nur für Unternehmen innerhalb der EU, sondern für alle Anbieter weltweit, sobald sie KI-Systeme auf dem EU-Markt anbieten oder einsetzen. Damit haben sie das Potenzial, sich zu einem globalen Standard zu entwickeln. Nichtsdestotrotz befürchten Kritiker, dass durch zu viel Bürokratie Innovationen im Bereich KI in der EU verhindert werden. Auch ist noch nicht abzusehen, wie konsequent und effektiv die Verordnungen umgesetzt werden können.

Die Wissenschaftsakademien der G7-Staaten haben sich in Vorbereitung der jährlichen G7-Gipfel ebenfalls intensiv mit Regulierungsfragen befasst. Sie empfehlen unter anderem Maßnahmen zum Datenschutz, zur Transparenz und zur Verhinderung von Täuschungen, bspw. durch die Kennzeichnung von Deep Fakes. Sie sprechen sich dafür aus, dass Regierungen rechtlich durchsetzbare Standards für KI-generierte Inhalte fördern. Zudem empfehlen sie die Zusammenarbeit zwischen dem öffentlichen und dem privaten Sektor, um KI verantwortungsvoll und eingebettet in demokratische Prozesse weiterzuentwickeln.

Leistungsstarke KI-Systeme, die bei Missbrauch ein Risiko für die Öffentlichkeit darstellen, müssen angemessen gegen Cyber- und physische Angriffe geschützt werden. Bei sensiblen KI-Anwendungen sind Datenschutzrahmenwerke, die dem Risikoniveau angemessen sind (z. B. die Datenschutz-Grundverordnung der EU), sowie Technologien zum Schutz der Privatsphäre unerlässlich, um personenbezogene Daten zu schützen. Bei der Interaktion mit KI-Systemen benötigen Nutzerinnen und Nutzer klare Datenschutzhinweise darüber, wie und wie lange ihre Daten verwendet, wiederverwendet und gespeichert werden. 

Zu den Hauptbereichen, in denen generative KI einen großen Einfluss hat, gehören die Kreativwirtschaft und die Forschung. Generative KI bietet enormes Potenzial für die Erstellung von kreativen Inhalten und die Softwareentwicklung, wirft jedoch auch Fragen zum Schutz geistigen Eigentums auf, wenn sie scheinbar neue Inhalte aus existierenden Werken generiert. Eine Überarbeitung des bestehenden Rechtsrahmens für Urheberrecht und den Schutz geistigen Eigentums für das KI-Zeitalter ist dringend geboten. Dafür ist eine Kombination aus klaren Rechtsvorschriften, Selbstregulierung der Branche und unabhängiger Aufsicht erforderlich.

Die Nutzung sozialer Medien ist für einen Großteil der Kinder und Jugendlichen in Deutschland längst alltäglich. Welche Auswirkungen das auf die Psyche von Kindern und Jugendlichen hat, wird in Wissenschaft, Politik und Gesellschaft derzeit stark diskutiert. Immer leistungsfähigere Algorithmen und KI-Systeme werden eingesetzt, um das Verhalten der Nutzerinnen und Nutzer vorherzusagen, zu lenken und emotionale Bindung zu erzeugen. Immer stärker werden soziale Medien auch dazu verwendet, die politischen Einstellungen der Nutzerinnen und Nutzer zu beeinflussen. Die psychologischen Konsequenzen dieser digitalen Einflussnahme für die sozioemotionale Entwicklung und psychische Gesundheit von Kindern und Jugendlichen sind noch weitgehend unbekannt. Allerdings gibt es überzeugende Hinweise darauf, dass die Nutzung sozialer Medien die psychische Gesundheit, das Wohlbefinden und die Entwicklungschancen von Kindern und Jugendlichen erheblich beinträchtigen kann. Es braucht daher wirksame Schutzmaßnahmen.

Eine Maßnahme könnte z. B. die Verankerung eines sogenannten „digitalen Bildungskanons“ in Kitas und Schulen sein, welcher die Heranwachsenden auf zentrale Themen des digitalen Lebens vorbereitet. Den Kindern und Jugendlichen sollte ein Verständnis für die Geschäftsmodelle sozialer Medien vermittelt werden. Außerdem sollten Machtstrukturen im Internet und in sozialen Medien thematisiert und Medienkompetenzen vermittelt werden – z. B., wie man Falschnachrichten von vertrauenswürdigen Quellen unterscheiden kann. Darüber hinaus sollten die weite Verbreitung von KI sowie die Konsequenzen davon thematisiert werden.

Zu einem solchen digitalen Bildungskanon sollte auch gehören, Kindern und Jugendlichen ein Bewusstsein für die Umweltauswirkungen von KI-Technologien (z. B. Nachhaltigkeit, Verbrauch seltener Erden etc.) zu vermitteln. KI-Technologien sind sehr ressourcenintensiv und wirken sich damit auch auf unser Klima aus.

Veröffentlicht: September 2025