Gestern in Madrid hat der Ministerrat den Gesetzentwurf für "den verantwortungsvollen Einsatz und die Steuerung von Künstlicher Intelligenz" genehmigt. Diese Regelung, die darauf abzielt, eine ethische, inklusive und vorteilhafte Nutzung der KI zu gewährleisten, wird bestimmte Praktiken sanktionieren, mit Geldstrafen von bis zu 35 Millionen Euro oder 7 % des Jahresumsatzes der Unternehmen. Dazu gehört das Fehlen einer Kennzeichnung von durch KI generierten oder manipulierten Bildern, Audios oder Videos.
Der Gesetzentwurf orientiert sich an den Richtlinien des AI Act, der strenge Transparenzverpflichtungen für KI-Systeme mit hohem Risiko vorschreibt. Oscar Lopez, Minister für digitale Transformation und öffentliche Verwaltung, betonte auf der Pressekonferenz nach dem Ministerrat, dass "Spanien eines der ersten Länder in der Europäischen Union ist, das diese Regeln anwendet, die als umfassender gelten als die der Vereinigten Staaten, die weitgehend auf freiwilliger Einhaltung und einer Reihe staatlicher Regelungen beruhen."
Neben dem Fehlen einer Kennzeichnung von durch KI generierten Inhalten, das als schwerwiegender Verstoß gilt, zielt das Gesetz auch auf andere riskante Praktiken ab. Dazu gehört der Einsatz von Subliminaltechniken, um gefährdete Gruppen zu manipulieren. Oscar Lopez nannte insbesondere das Beispiel von Chatbots, die spielsüchtige Nutzer identifizieren und diese Schwäche ausnutzen, um sie zu weiterem Spielen zu ermutigen. Erwähnt wurden auch interaktive Spielzeuge, die Kinder zu gefährlichen Herausforderungen anregen.
Das Gesetz verbietet zudem die biometrische Klassifizierung basierend auf ethnischer Herkunft, politischen Meinungen, Religion oder sexueller Orientierung. Das soziale Scoring, also die Bewertung von Individuen auf Basis von Verhaltensweisen oder persönlichen Merkmalen, ist untersagt, wenn es dazu benutzt wird, den Zugang zu Subventionen zu beschränken, einen Kredit zu verweigern oder die Wahrscheinlichkeit vorherzusagen, dass eine Person eine Straftat begeht, basierend auf ihren persönlichen Daten, wie ihrer familiären Vorgeschichte, ihrem Wohnort oder ihrem Bildungsstand.
Die Umsetzung dieser neuen Regeln wird der Spanischen Agentur für die Überwachung der KI (AESIA) obliegen, der ersten öffentlichen europäischen Behörde, die sich ausschließlich der Regulierung und Überwachung von Künstlicher Intelligenz widmet. Einige Bereiche werden jedoch sektoraler Überwachung unterliegen: Die Spanische Datenschutzbehörde (AEPD) wird sich um biometrische Fragen kümmern, der Zentralwahlrat wird KI-Systeme überwachen, die den demokratischen Prozess beeinflussen könnten, während der Oberste Justizrat für diejenigen zuständig sein wird, die die Anwendung der Justiz betreffen.