Künstliche Intelligenz (KI) ist längst kein Science-Fiction-Szenario mehr, sondern prägt unseren Alltag. Doch wo große Chancen liegen, finden sich auch erhebliche Risiken. Das Europäische Parlament warnt vor verschiedenen Gefahren, die von Manipulation bis hin zu struktureller Diskriminierung reichen.

1. Gefährdung der Sicherheit und Grundrechte

KI-Systeme können, wenn sie unzureichend reguliert sind, zur Gefahr für die physische und psychische Sicherheit von Menschen werden.

• Biometrische Identifizierung: Der Einsatz von Gesichtserkennung in Echtzeit im öffentlichen Raum birgt das Risiko einer Totalüberwachung.
• Social Scoring: KI-Systeme, die das Verhalten von Menschen bewerten (ähnlich wie Kredit-Scores, aber umfassender), könnten dazu führen, dass bestimmte Bevölkerungsgruppen ungerechtfertigt benachteiligt werden.

2. Manipulation und Desinformation

KI kann dazu genutzt werden, Informationen zu verzerren und die öffentliche Meinung zu beeinflussen.

• Deepfakes: Die Erstellung täuschend echter Video- oder Audioaufnahmen kann zur Manipulation von Wahlen oder zur Rufschädigung eingesetzt werden.
• Filterblasen: Algorithmen, die uns nur Inhalte zeigen, die unsere Meinung bestätigen, können die Polarisierung der Gesellschaft vorantreiben.

3. Diskriminierung durch voreingenommene Algorithmen

Eine KI ist nur so gut wie die Daten, mit denen sie trainiert wurde.

• Wenn Trainingsdaten Vorurteile (Biases) enthalten (z. B. rassistische oder sexistische Stereotypen), lernt die KI diese und wendet sie an.
• Dies kann zu Ungerechtigkeiten führen, etwa bei der automatisierten Sichtung von Bewerbungen oder bei der Kreditvergabe.

4. Auswirkungen auf den Arbeitsmarkt und die Wirtschaft

Die Automatisierung durch KI stellt die Arbeitswelt vor große Herausforderungen:

• Jobverlust: Viele Berufe könnten durch KI ersetzt werden, was eine großflächige Umschulung der Arbeitskräfte erforderlich macht.
• Mangelnde Transparenz: Oft ist unklar, wie eine KI zu einer Entscheidung gekommen ist (das sogenannte „Black-Box-Problem“), was die Rechenschaftspflicht erschwert.

5. Umweltschutz und Ressourcenverbrauch

Oft unterschätzt, aber dennoch real: Das Training großer KI-Modelle benötigt enorme Mengen an Energie und führt zu einem hohen CO2-Fußabdruck sowie einem hohen Wasserverbrauch zur Kühlung der Rechenzentren.

Wichtig zu wissen: Um diesen Gefahren zu begegnen, hat die EU den AI Act auf den Weg gebracht. Er unterteilt KI-Anwendungen in Risikoklassen – von „minimalem Risiko“ bis hin zu „unannehmbarem Risiko“ (welche verboten sind).