Vertrauen, der Schlüssel zur Zusammenarbeit zwischen Mensch und KI im Zeitalter der agentischen KI, laut Capgemini

Vertrauen, der Schlüssel zur Zusammenarbeit zwischen Mensch und KI im Zeitalter der agentischen KI, laut Capgemini

TLDR : Der großflächige Einsatz von KI-Agenten hängt mehr vom Vertrauen der Unternehmen ab als von der Technologie, laut dem Capgemini Research Institute. Die Haupthemmnisse sind ethische Bedenken, eine unreife Infrastruktur und eine unzureichende Datenvorbereitung, trotz eines erheblichen wirtschaftlichen Potenzials.

Während 2025 als das Jahr der Reife der KI-Agenten angekündigt wurde, hängt ihre Implementierung weniger von der Technologie ab als vom Vertrauen, so der neueste Bericht des Capgemini Research Institute. Trotz eines Potenzials von 450 Milliarden Dollar an wirtschaftlichen Auswirkungen bis 2028 haben nur 2 % der Unternehmen sie tatsächlich im großen Maßstab umgesetzt.
Für seine Studie "Rise of agentic AI: How trust is the key to human-AI collaboration" befragte das Forschungsinstitut des IT-Dienstleisters im vergangenen April 1.500 Führungskräfte von Unternehmen mit einem Jahresumsatz von mehr als einer Milliarde Dollar in 14 Ländern. Diese Unternehmen hatten alle begonnen, die agentische KI zu erkunden.

Die Begeisterung wird durch einen signifikanten Rückgang des Vertrauens gebremst

Die anfängliche Begeisterung für die agentische KI basierte auf verlockenden Versprechen: Zeitgewinn für Menschen, Beschleunigung von Entscheidungsprozessen und Umstrukturierung ganzer Bereiche von Support- oder operativen Funktionen. Doch innerhalb eines Jahres ist das Vertrauen in vollständig autonome KI-Agenten von 43 % auf nur 27 % gesunken. Ethische Bedenken (Vertraulichkeit, Vorurteile, mangelnde Erklärbarkeit) bremsen die Einführung: 2 von 5 Führungskräften glauben, dass die Risiken die Vorteile überwiegen.
Allerdings zeigen Unternehmen, die bereits KI-Agenten implementiert haben, ein um 10 Punkte höheres Vertrauen als der Durchschnitt.

Der Mensch bleibt essenziell

Das aufkommende Modell ist nicht mehr, dass KI den Menschen ersetzt, sondern dass hybride Teams entstehen, in denen Agenten und Mitarbeiter ein verteiltes Team bilden. Fast 60 % der befragten Organisationen planen, dieses Modell innerhalb der nächsten 12 Monate einzuführen.
Wie Niraj Parihar, CEO der Insights and Data Global Business Line bei Capgemini, betont: "KI-Agenten sind Teammitglieder, keine Ersatzspieler".
Der erwartete Nutzen dieser Zusammenarbeit ist greifbar: Die Befragten erwarten nicht nur einen Anstieg des menschlichen Engagements in wertschöpfenden Aufgaben um 65 %, sondern auch einen Zuwachs der Kreativität um 53 % und eine Verbesserung der Mitarbeiterzufriedenheit um 49 %.

Organisatorische Hürden bestehen weiterhin

Trotz der Begeisterung von 93 % der befragten Führungskräfte haben nur 2 % der Unternehmen KI-Agenten im großen Maßstab eingeführt. Die Haupthemmnisse sind eine noch unreife Infrastruktur bei 80 % der Unternehmen und ein unzureichender Stand der Datenaufbereitung (bei fast 4 von 5 Unternehmen).
In diesem Kontext sollten bis 2026 nur 15 % der Funktionen KI-Agenten auf einem semi-autonomen oder autonomen Niveau integrieren. Dieser Anteil könnte bis 2028 auf 25 % steigen, so Capgemini.
KI-Agenten sollten zunächst in Bereichen wie Kundenservice, IT und kommerziellen Funktionen Fuß fassen, wo ihre Automatisierungsfähigkeit schnelle Gewinne bietet. Ihre Einführung sollte sich dann in den nächsten drei Jahren schrittweise auf komplexere Bereiche wie Betrieb, F&E und Marketing ausweiten.
Um ihr volles Potenzial auszuschöpfen, empfiehlt der Bericht, über den Hype hinauszugehen und Prozesse neu zu denken, Geschäftsmodelle zu erneuern, die Organisationsstruktur zu transformieren und schließlich das richtige Gleichgewicht zwischen Autonomie der Agenten und menschlichem Eingreifen zu finden.
Franck Greverie, Chief Portfolio und Technology Officer bei Capgemini, Leiter der Global Business Lines und Mitglied des Executive Committee der Gruppe, schließt:
"Um erfolgreich zu sein, müssen Unternehmen ergebnisorientiert bleiben und ihre Prozesse mit einem 'AI first'-Ansatz überdenken. Der Erfolg dieser Transformation liegt in der Notwendigkeit, Vertrauen in die KI zu schaffen, indem sie verantwortungsbewusst entwickelt wird, wobei Ethik und Sicherheit von Anfang an integriert werden. Dies erfordert auch, Unternehmen so zu reorganisieren, dass eine effektive Zusammenarbeit zwischen Mensch und KI gefördert wird, und die Bedingungen zu schaffen, unter denen diese Systeme das menschliche Urteilsvermögen stärken und die wirtschaftliche Leistung verbessern."