Die Abgeordneten des EU-Parlaments nahmen am 13. März mit großer Mehrheit die KI-Verordnung an. Dies wurde in einer Pressemitteilung verkündet. Das Gesetz über künstliche Intelligenz soll für Sicherheit und die Wahrung der Grundrechte sorgen und zugleich Innovationen fördern.
Folgende Verbote sieht die neue Verordnung vor:
- die biometrische Kategorisierung auf Grundlage sensibler Merkmale und ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungskameras für Gesichtserkennungsdatenbanken.
- Emotionserkennungssysteme am Arbeitsplatz und in Schulen sowie das Bewerten von sozialem Verhalten mit KI.
- vorausschauende Polizeiarbeit, die einzig auf der Profilerstellung oder der Bewertung von Merkmalen einer Person beruht
- Einsatz von künstlicher Intelligenz, um das Verhalten von Menschen zu beeinflussen oder ihre Schwächen auszunutzen.
Die Nutzung von biometrischen Fernidentifizierungssystemen durch Strafverfolgungsbehörden ist grundsätzlich verboten. Ausnahmen von diesen Regelungen sind nur unter Einhaltung strenger Sicherheitsbestimmungen (zeitliche und räumliche Beschränkung, Notwendigkeit einer speziellen behördlichen oder gerichtlichen Genehmigung) vorgesehen.
Verpflichtungen für Hochrisikosysteme
KI-Systeme, die in kritischer Infrastruktur, Bildung oder Beschäftigung, für grundlegende private und öffentliche Dienstleistungen, in bestimmten Bereichen der Strafverfolgung sowie im Zusammenhang mit Migration, Justiz und demokratischen Prozessen genutzt werden, gelten als hochriskant.
Solche KI-Systeme müssen Risiken bewerten und verringern, Nutzungsprotokolle führen, transparent und genau sein und von Menschen beaufsichtigt werden. Die Bevölkerung hat künftig das Recht, Beschwerden über KI-Systeme einzureichen und Entscheidungen erklärt zu bekommen, die auf der Grundlage hochriskanter KI-Systeme getroffen wurden und ihre Rechte beeinträchtigen.
Nächste Schritte
Die Verordnung wird nun von Rechts- und Sprachsachverständigen abschließend überprüft. Sie dürfte noch vor Ende der Wahlperiode im Rahmen des sogenannten Berichtigungsverfahrens angenommen werden. Auch muss der Rat die neuen Vorschriften noch förmlich annehmen.
Die Verordnung tritt 20 Tage nach ihrer Veröffentlichung im Amtsblatt der EU in Kraft und ist – bis auf einige Ausnahmen – 24 Monate nach ihrem Inkrafttreten uneingeschränkt anwendbar.
