Generative KI

Worum es geht

Generative KI bezeichnet eine Gruppe von Systemen, die neue Inhalte erzeugen können: Texte, Bilder, Videos, Quellcode und synthetische Daten. Trainiert auf umfangreichem Material, erkennen diese Modelle Muster und liefern passende Antworten auf konkrete Anfragen. Anders als Klassifikations- oder Vorhersagesysteme verbreiten sich generative Modelle als übergreifende Schicht, die schrittweise in betriebliche Software einzieht und jeder Funktion einen automatisierten Assistenten zur Seite stellt.

Fragen und Debatten

Vier Themen prägen die öffentliche Debatte. Das geistige Eigentum: Die Modelle werden mit von Menschen geschaffenen Inhalten trainiert, ohne Vergütung oder ausdrückliche Zustimmung der Urheber, was Fragen zu Entlohnung und Nutzungsrechten aufwirft. Die Desinformation: Die Fähigkeit, glaubwürdige Inhalte in großem Umfang zu erzeugen, senkt die Kosten der Täuschung und erschwert die Überprüfung. Die Verzerrungen: Die Modelle reproduzieren und verstärken die in ihren Trainingsdaten vorhandenen Ungleichheiten. Schließlich bleibt die Transparenz fragil: Nachzuvollziehen, wie ein Modell zu einer Antwort gelangt, ist weiterhin schwierig, was rechtliche Verantwortung und Vertrauen erschwert.

Regulierung und europäischer Rahmen

In Europa schafft die KI-Verordnung einen risikobasierten Rahmen. Universell einsetzbare Modelle, sogenannte Basismodelle, unterliegen besonderen Pflichten: Dokumentation der Trainingsdaten, Bewertung systemischer Fähigkeiten und Verhinderung verbotener Inhalte. Die Umsetzung erfolgt in Etappen. Die Datenschutzbehörden präzisieren die Anforderungen an Transparenz und Datenverarbeitung, während die Europäische Kommission die Durchsetzung steuert. Die europäischen Behörden diskutieren zudem über technologische Souveränität und die Aufsicht über Basismodelle.

Was ActuIA verfolgt

ActuIA begleitet die Entwicklung des Rechtsrahmens, die Debatten über geistiges Eigentum und die Abwägung zwischen Innovation und Schutz, Fortschritte bei Robustheit und Prüfung der Modelle, Pilotprojekte im öffentlichen und privaten Sektor sowie Kontroversen über problematische Nutzungen wie gefälschte Medien und automatisierte Diskriminierung. Wir verfolgen außerdem Initiativen zu Transparenz und Standardisierung sowie quelloffene Alternativen zu proprietären Modellen.