KI-Agenten

Worum es geht

Ein KI-Agent ist ein System, das eigenständig handeln kann, um ein festgelegtes Ziel zu erreichen. Anders als dialogorientierte Werkzeuge führt der Agent Aufgaben ohne menschliches Eingreifen bei jedem Schritt aus. Er interpretiert Anweisungen, plant mehrere Handlungen, führt sie über verschiedene Systeme oder Werkzeuge aus und passt sich an die Ergebnisse an.

Ein Agent zur Steuerung der Lieferkette kann Lieferantendatenbanken abfragen, Lieferzeiten und Preise vergleichen, eine Angebotsanfrage verfassen, sie versenden und die Interaktion in einem Verwaltungssystem erfassen. Diese Aufgaben folgen aufeinander, ohne dass bei jedem Schritt eine menschliche Anweisung nötig ist.

Herausforderungen und Debatten

Die Autonomie der Agenten schafft erhebliche Herausforderungen. Wenn ein Agent einen Fehler produziert oder eine fragwürdige Entscheidung trifft, wird die Verantwortung unklar: sein Entwickler, sein Betreiber oder die Organisation, die ihn eingesetzt hat? Diese Systeme übernehmen auch die in ihren Trainingsdaten vorhandenen Verzerrungen. Die Frage der menschlichen Kontrolle bleibt zentral: eine angemessene Überwachung aufrechtzuerhalten, weder fehlend noch lähmend, in einem Ökosystem, in dem Agenten fortlaufend kritische Aufgaben bearbeiten, wirft organisatorische und technische Schwierigkeiten auf. Auch der Energieverbrauch dieser Systeme wird thematisiert.

Europäische Regulierung und Rahmen

In Europa legt die Verordnung über künstliche Intelligenz (AI Act) den rechtlichen Rahmen fest, der auf einem risikobasierten Ansatz beruht: Die Systeme werden nach ihren möglichen Auswirkungen auf Gesundheit, Sicherheit und Grundrechte eingestuft. Autonome Agenten fallen oft in Kategorien mit hohem Risiko. Das Zusammenspiel zwischen dem AI Act und der DSGVO bleibt wesentlich: Die DSGVO regelt die Verarbeitung personenbezogener Daten, während der AI Act Anforderungen an die Funktionsweise und das Risikoniveau der Systeme selbst hinzufügt.

Was ActuIA verfolgt

ActuIA beobachtet die regulatorischen Entwicklungen rund um KI-Agenten: Klarstellungen zu ihrer Risikoeinstufung, erste Erfahrungsberichte der Organisationen, Debatten über die erforderliche Governance und Transparenz. Wir berichten auch über technologische Innovationen, die Sicherheits- und Prüfbarkeitsfragen autonomer Systeme und die organisatorischen Veränderungen, die sie auslösen.