Spanien verbietet KI-gestützte Überwachung und Sexualstraftaten

Regierungsbeschluss leitet parlamentarisches Verfahren ein

Das spanische Kabinett hat am Dienstag einen Gesetzesentwurf verabschiedet, der den verantwortungsvollen Einsatz Künstlicher Intelligenz (KI) in Spanien regeln soll. Wie die Regierung mitteilte, wird der Text nun dem Parlament zur Beratung vorgelegt. Die als "organisch" eingestufte Vorlage, die Grundrechte berührt, benötigt für ihre Verabschiedung eine absolute Mehrheit im Abgeordnetenhaus.

Kern des Entwurfs ist die Anpassung der nationalen Gesetzgebung an die Vorgaben der geplanten Europäischen KI-Verordnung. Das System basiert auf einer Risikoklassifizierung, die von Systemen mit freier Nutzung bis hin zu ausdrücklich verbotenen Anwendungen reicht. "Das heutige Gesetz ist der definitive Schritt", betonte Digitalisierungsminister Óscar López bei der Vorstellung des Projekts. Er forderte die Entwicklung eines "humanistischen" und "vertrauenswürdigen" KI-Modells, das die Menschenrechte schütze.

Katalog verbotener Praktiken: Von Deepfakes bis zur Emotionserkennung

Der Gesetzentwurf enthält einen umfassenden Katalog von KI-Anwendungen, die untersagt werden sollen. Hierzu zählen:

• Manipulative Techniken: Der Einsatz subliminaler oder aus Nutzerschwächen abgeleiteter Methoden zur unbemerkten Verhaltensbeeinflussung.
• Biometrische Überwachung: Die Klassifizierung von Personen anhand biometrischer Daten, Sozialkredit-Systeme oder die Echtzeit-Fernidentifizierung im öffentlichen Raum – mit engen Ausnahmen für Strafverfolgung.
• Predictive Policing: Die vorhersagende polizeiliche Überwachung, die auf Profilerstellung oder Ortungsdaten basiert.
• Emotionserkennung: Die automatisierte Analyse von Gesichtsausdrücken, Stimme oder Gestik am Arbeitsplatz oder im Bildungswesen zur Beurteilung von Motivation oder Stress.
• Spezifische Exploits: Der Einsatz von KI, um beispielsweise Personen mit Spielsucht gezielt anzusprechen oder Kinder über Spielzeuge zu gefährlichen Handlungen zu animieren.

Eine deutliche Verschärfung gegenüber dem ursprünglichen Entwurf ist das explizite Verbot von Werkzeugen zur Erstellung sexualisierter Deepfakes und KI-generierter Kinderpornografie. Minister López begründete diesen Schritt mit konkreten Vorfällen, bei denen KI-Assistenten wie "Grok" von der Plattform X genutzt worden seien, um Bilder von Mitschülerinnen zu manipulieren. "Dies geschah, und dies ist verboten", stellte López klar.

Hohe Strafen und neue Aufsichtsstrukturen

Für Verstöße sieht der Entwurf ein abgestuftes Sanktionssystem vor. Die schwerwiegendsten Vergehen, wie die Vermarktung verbotener Systeme, können mit Geldbußen von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes eines Unternehmens geahndet werden. Für den missbräuchlichen Einsatz von Hochrisiko-KI, etwa bei diskriminierenden Algorithmen in Personalprozessen, sind bis zu 15 Millionen Euro oder 3 Prozent des Umsatzes vorgesehen.

Zur Überwachung der Einhaltung wird die "Spanische Aufsichtsbehörde für Künstliche Intelligenz" (AESIA) eingerichtet. Sie soll eng mit anderen Institutionen wie der Datenschutzbehörde oder der Bankenaufsicht zusammenarbeiten. Für die öffentliche Verwaltung werden zudem spezielle KI-Beauftragte eingeführt. "Was wir vom Markt verlangen, fordern wir von der öffentlichen Verwaltung doppelt", so López. Zur Unterstützung der Entwicklung sicherer KI plant die Regierung die Einrichtung kontrollierter Testumgebungen (Sandboxes).

Der Minister warb für breite politische Unterstützung und wies Vorbehalte zurück, die Regulierung hemme Innovation. Er verwies darauf, dass Spanien mit diesem Schritt international eine Vorreiterrolle einnehme und auch der Vatikan das Thema in einer Enzyklika aufgegriffen habe.

---

Quelle: 20minutos.es