Wettbewerbsfähig bleiben und Künstliche Intelligenz sicher nutzen: Die neue Künstliche Intelligenz-Verordnung der EU legt neue Richtlinien dafür fest. Alles News zur KI-Verordnung der EU
Was ist die KI-Verordnung?
Die Künstliche Intelligenz-Verordnung der EU legt einen einheitlichen Rahmen für alle KI-Systeme fest. Dieser soll die Technologie zukünftig transparent, sicher, unparteiisch und ethisch regeln. Das KI-Gesetz beschäftigt die EU-Kommission bereits seit 2018 und im April 2021 wurde schließlich ein erster Entwurf der KI-Verordnung vorgelegt. Insgesamt plant die Europäische Union etwa eine Milliarden Euro aus Digitalprogrammen für KI zu verwenden.Die EU-Richtlinie sieht vor, dass zum Zwecke der Innovation private und öffentliche Akteure der digitalen Wirtschaft zusammenarbeiten. Künftig sollen darum KI-Exzellenzzentren entstehen. Außerdem soll die Zusammenarbeit mit der Forschung in den Bereichen KI und Robotik vorangetrieben werden.
Wieso wurde die KI-Verordnung verabschiedet?
Die KI-Verordnung der EU dient zum einen dazu, Europas Stellung im internationalen Wettbewerb zu sichern. Der europäische Binnenmarkt für künstliche Intelligenz soll dabei gestärkt werden. Zum anderen will die EU so auch Akzeptanz und Vertrauen in KI-basierte Systeme schaffen. Das KI-Projekt kann als Teil einer großangelegten Digitaloffensive der Europäische Union verstanden werden.Unter anderem sollen mit verschiedenen EU-Richtlinien Krisenreaktionen wie jüngst in der Coronavirus-Pandemie abgestimmt werden. Bereits geförderte KI-Projekte hatten laut EU-Kommission bereits einen gesellschaftlichen Nutzen: So konnten bereits sinnvolle Online-Tools zur Überprüfung von Fakenews entwickelt werden. Auch für Unternehmen steigere sich durch Künstliche Intelligenz Produktivität und Effizienz.
Was beinhaltet die KI-Verordnung der EU?
Der Entwurf der KI-Verordnung sieht eine neue Definition von verschiedenen Arten Künstlicher Intelligenz vor. Unter anderem wird dort risikobasiert zwischen verschiedenen KI-Systeme unterschieden: Zum einen in KIs mit geringem oder minimalem Risiko, KIs mit hohem Risiko oder solche mit unannehmbarem Risiko, die darum verboten sind. Grundlage der Risikobewertung sind Aspekte der Sicherheit, Privatsphäre und Grundrechte.KI, die ein geringes Risiko darstellen, können ohne spezifische zusätzliche Regelungen genutzt werden. Dazu zählen zum Beispiel Chatbots oder Spamfilter. Die generierten Daten der Künstlichen Intelligenz unterliegen jedoch weiterhin den Bestimmungen der DSGVO.
Welche KI-Systeme gelten als risikoreich?
KI-Systeme mit hohem Risiko sollen zwar weiterhin erlaubt bleiben, aber zusätzlich geprüft, dokumentiert und registriert werden. Die EU-Richtlinie führt die Systeme, die zukünftig unter diese KI-Verordnung fallen würden namentlich auf. Dazu zählen unter anderem KI-Systeme in der kritischen Infrastruktur wie beispielsweise im Verkehrs-, Gesundheits- oder Energiesektor.Weiterhin fallen darunter KI-Systeme, die bestimmte Arbeitsschritte von Bildung, Beschäftigung, Dienstleitungen oder Strafverfolgung erfüllen. Alle „Hochrisiko“-KI-Systeme müssen sich darum künftig zu Transparenz verpflichten. Gleichzeitig sollen Nutzer:innen die Entscheidung über die Nutzung solcher Technologien informierter und eigenständiger treffen.
Welche KI wird verboten?
Zu Künstlicher Intelligenz, die als unannehmbar risikoreich gilt, zählt solche, die Grundrechte innerhalb der Europäischen Union verletzt. Darunter werden zum Beispiel KI-Projekte gefasst, die die behördliche Bewertung sozialen Verhaltens, sogenanntes „Social Scoring“, anstreben. Solche dystopisch anmutenden KI-Systeme sollen auch in Zukunft nicht Teil der Gesellschaft werden.Auch beispielsweise Spielzeuge für Kinder, die diese per Sprachassistenz zu riskantem Verhalten anstiften könnten, werden klar verboten. Die EU KI-Verordnung zieht damit eine explizite rote Linie für die Verwendung von gefährlicher KI.
Wie regelt KI-Verordnung die biometrische Fernidentifizierung?
Besonders kontrovers wird in diesem Zusammenhang Fahndung nach Straftäter:innen per biometrischer Überwachung diskutiert. Im derzeitigen Entwurf der KI-Verordnung wird diese grundsätzlich verboten. Als Gründe führt die EU-Kommission den Schutz personenbezogener Daten und den Grundsatz der Nichtdiskriminierung an.Biometrische Identifizierung über ein KI-System kann jedoch bei der Benutzerauthentifizierung angewendet werde. So können beispielsweise Smartphones weiterhin automatisch entsperrt werden. Doch auch bei Grenzübertritten soll die Technologie weiter Anwendung finden.
Für wen soll die KI-Verordnung der EU gelten?
Das KI-Gesetz soll für alle Akteur:innen inner- und außerhalb der Europäischen Union gelten. Das meint konkret einerseits Anbieter:innen von KI-Systemen wie zum Beispiel Entwicklerinnen von Software-Anwendungen im Personalsektor. Andererseits umschließt das Nutzer:innen wie Unternehmen oder den öffentlichen Sektor, die potenziell Hochrisiko-Systeme nutzen und durch die EU-Verordnung geschützt werden sollen. Rein private und nicht gewerbliche Nutzer:innen sind laut EU-Kommission nicht von der KI-Verordnung betroffen.
Welche Sanktionen sind bei Verstößen gegen die Künstliche Intelligenzverordnung vorgesehen?
Der Entwurf der KI-Verordnung der EU-Kommission sieht empfindliche Geldstrafen bei Nichteinhaltung vor. Diese umfassen Bußgelder von maximal 30 Milliarden Euro oder sechs Prozent des weltweiten Gesamtumsatzes bei Anwendung verbotener Praktiken.
Wie steht Deutschland zur EU KI-Verordnung?
Die Bundesregierung begrüßt das neue KI-Gesetz der EU, insbesondere deren einheitliche Regularien. Gleichzeitig betont die deutsche Beauftrage für Digitale Wirtschaft den Definitionsspielraum bei der Risikogruppe „hoch“. Denn: Darunter fielen auch biometrische Identifikationssysteme. Es müsse sichergestellt werden, dass Innovation bestärkt werden. Das deutsche Justizministerium lehnte die Anwendung von biometrischer Überwachung im öffentlichen Raum ab.Die deutsche Industrie hingegen kritisiert das KI-Projekt der EU sehr deutlich. Besonders bezüglich der Hochrisikosysteme herrsche Unklarheit und die Gefahr einer Doppelregulierung. Man beurteile die Regularien als innovationshemmend.
Mit einer KI-Strategie will die EU die Vorteile von KI-Systemen für Gesellschaft und Wirtschaft nutzbar machen. Über den aktuellen Stand des Entwurfs der KI-Verordnung informieren die Analysen und Überblicke der Europe.Table-Redaktion.