Künstliche Intelligenz (KI) - EU-Parlament

Das Europäische Parlament hat zum Bereich KI unter der Überschrift „Was ist künstliche Intelligenz und wie wird sie genutzt?“ einige Feststellungen veröffentlicht, die auch immer wieder aktualisiert werden. https://www.europarl.europa.eu/news/de/headlines/society 

Definition von künstlicher Intelligenz

Künstliche Intelligenz ist die Fähigkeit einer Maschine, menschliche Fähigkeiten wie logisches Denken, Lernen, Planen und Kreativität zu imitieren.

KI ermöglicht es technischen Systemen, ihre Umwelt wahrzunehmen, mit dem Wahrgenommenen umzugehen und Probleme zu lösen, um ein bestimmtes Ziel zu erreichen. Der Computer empfängt Daten (die bereits über eigene Sensoren, z. B. eine Kamera, vorbereitet oder gesammelt wurden), verarbeitet sie und reagiert.

KI-Systeme sind in der Lage, ihr Handeln anzupassen, indem sie die Folgen früherer Aktionen analysieren und autonom arbeiten.

Warum ist KI wichtig?

Einige Technologien gibt es bereits seit über 50 Jahren, doch Fortschritte bei der Rechenleistung sowie die Verfügbarkeit großer Datenmengen und neue Algorithmen haben in den letzten Jahren zu bahnbrechenden Durchbrüchen in der KI geführt.

Künstliche Intelligenz ist ein wesentlicher Treiber für die digitale Transformation unserer Gesellschaft. Deshalb ist KI auch eine wichtige Priorität der EU.

Auch wenn KI in unserem Alltag bereits präsent ist, dürften neue Anwendungen in der Zukunft enorme Veränderungen mit sich bringen.

Zu den Gefahren und Risiken finden sich u.a. folgende Beispiele:

Gefahren und Herausforderungen der KI

Die zunehmende Abhängigkeit von KI-Systemen birgt auch potenzielle Risiken

Gefahren für Grundrechte und Demokratie

Die Ergebnisse künstlicher Intelligenz hängen davon ab, wie sie konzipiert ist und welche Daten verwendet werden. Sowohl Daten als auch Design können absichtlich oder unabsichtlich verzerrt werden. So werden einige wichtige Faktoren einer Problemstellung möglicherweise nicht in den Algorithmus eingebettet oder dieser so programmiert, dass strukturelle Verzerrungen widergespiegelt und nachgebildet werden. Darüber hinaus könnte die Verwendung von Zahlen KI faktenbasiert und präzise erscheinen lassen, auch wenn dies nicht der Fall ist ("Mathwashing").

Außerdem ergeben sich mögliche entscheidende Auswirkungen auf Privatsphäre und Datenschutz. KI kann beispielsweise für Gesichtserkennung oder Online-Tracking und Profiling von Einzelpersonen verwendet werden.

KI kann auch eine Bedrohung für die Demokratie darstellen. In diesem Zusammenhang wird beispielsweise oft kritisiert, dass Internetseiten dazu neigen, dem Benutzer nur Informationen anzuzeigen, die mit seinem bisherigen Online-Verhalten übereinstimmen ("Filterblasen"), anstatt eine Umgebung für eine pluralistische, gleichermaßen zugängliche und integrative öffentliche Debatte zu schaffen. KI kann sogar dazu genutzt werden, extrem realistische gefälschte Videos, Audioaufnahmen und Bilder zu erzeugen, die als "Deepfakes" bezeichnet werden. Diese Mechanismen können zu Polarisierung und Wahlmanipulation beitragen.

Durch Tracking und Profiling sind auch Auswirkungen auf die Versammlungs- und Demonstrationsfreiheit möglich.

Herausforderungen im Zusammenhang mit Transparenz

Ungleichgewichte beim Informationszugang könnten ausgenutzt werden. Auf der Grundlage des Online-Verhaltens einer Person oder anderer Daten kann ein Online-Anbieter beispielsweise ohne deren Wissen KI nutzen, um vorherzusagen, wie viel die Person zur Zahlung bereit ist. Ein weiteres Transparenzproblem besteht darin, dass es für die Menschen manchmal unklar sein kann, ob sie mit einer KI-Anwendung oder einer echten Person interagieren.

Vorschriften zum Schutz der Privatsphäre, der Transparenz und der Grundrechte

Die Abgeordneten erklärten, dass die Vorschriften auf den Werten der EU in den Bereichen Schutz der Privatsphäre, Transparenz und Achtung der Grundrechte beruhen sollten. Die freie gemeinsame Nutzung von Daten müsse auf nicht personenbezogene Daten bzw. irreversibel anonymisierte Daten beschränkt sein. Einzelpersonen müssten die volle Kontrolle über ihre Daten haben und durch die EU-Datenschutzvorschriften, insbesondere die Datenschutz-Grundverordnung, geschützt werden.

Neue KI-Rechtsvorschriften sollten den Risiken entsprechen.

à       Sie sollten wirksam sein, aber Innovationen nicht im Weg stehen;

à       Vorschreiben, dass KI-Systeme mit hohem Risiko transparent sind, Rückverfolgbarkeit gegeben ist und unter der Kontrolle des Menschen stehen;

à       Behörden müssen KI-Systeme ebenso überprüfen können wie Kosmetika, Autos und Spielzeug.

à       Sicherstellen, dass Daten neutral sind;

Datensätze, in denen bestimmte Bevölkerungsgruppen unterrepräsentiert sind, können zu Diskriminierung führen. In KI-Systeme eingebettet können sich solche Verzerrungen ziemlich nachteilig auswirken, weil u. U. viele Menschen diskriminiert werden. Auswirkungen verzerrter Datensätze: zB: Datensätze aus klinischen Studien beinhalten häufig mehr Daten von Männern als von Frauen. Dies kann zu falschen Schlüssen und zu negativen Konsequenzen für die Behandlung von Frauen führen.

Das Gesetz über künstliche Intelligenz (informell meist als KI-Verordnung bezeichnet) ist ein Vorschlag der Europäischen Kommission für eine EU-Verordnung über die Regulierung von künstlicher Intelligenz, das nicht zuletzt wegen der neuen Diskussionen rund um den KI-Chatbot ChatGPT noch nicht finalisiert ist.