La confianza, clave de la colaboración humano-IA en la era de la IA agentiva, según Capgemini

La confianza, clave de la colaboración humano-IA en la era de la IA agentiva, según Capgemini

TLDR : El despliegue a gran escala de los agentes de IA, prometedores pero aún poco implementados, depende más de la confianza de las empresas que de la tecnología, según el Capgemini Research Institute. Los principales obstáculos siguen siendo las preocupaciones éticas, una infraestructura inmadura y una preparación insuficiente de los datos, a pesar de un potencial de ganancias económicas considerable.

Mientras que 2025 se anunciaba como el año de la madurez de los agentes de IA, su despliegue dependerá menos de la tecnología que de la confianza, según el último informe del Capgemini Research Institute. A pesar de un potencial de 450 mil millones de dólares en repercusiones económicas para 2028, solo el 2 % de las empresas los han implementado efectivamente a gran escala.
Para su estudio "Rise of agentic AI: How trust is the key to human-AI collaboration”, el instituto de investigación de la ESN entrevistó en abril pasado a 1,500 ejecutivos de empresas que generan más de mil millones de dólares en ingresos anuales, repartidas en 14 países. Estas empresas ya habían comenzado a explorar la IA agentiva.

El entusiasmo frenado por una significativa caída de la confianza

El interés inicial por la IA agentiva se basaba en promesas atractivas: liberación del tiempo humano, aceleración de la toma de decisiones y reestructuración de partes enteras de las funciones de soporte u operativas. Sin embargo, en un año, la confianza en los agentes de IA completamente autónomos ha pasado del 43 % a solo el 27 %. Las preocupaciones éticas (confidencialidad, sesgos, falta de explicabilidad) frenan la adopción: 2 de cada 5 ejecutivos creen que los riesgos superan los beneficios.
No obstante, las empresas que ya han implementado agentes de IA muestran una confianza superior en 10 puntos a la media.

El humano, siempre esencial

El modelo emergente ya no es el de una IA que reemplaza a los humanos, sino el de parejas híbridas donde agentes y colaboradores forman un equipo distribuido. Cerca del 60 % de las organizaciones encuestadas planean implementar este modelo en los próximos 12 meses.
Como señala Niraj Parihar, CEO de Insights and Data Global Business Line, Capgemini: “Los agentes de IA son miembros del equipo, no reemplazos”.
El beneficio esperado de esta colaboración es tangible: los encuestados anticipan no solo un aumento del 65 % en el compromiso humano en tareas de alto valor agregado, sino también un incremento del 53 % en creatividad y una mejora del 49 % en la satisfacción de los colaboradores.

Barreras organizacionales aún presentes

A pesar del entusiasmo mostrado por el 93 % de los ejecutivos encuestados, solo el 2 % de las empresas han desplegado agentes de IA a gran escala. Las principales barreras son una infraestructura aún inmadura para el 80 % de ellas y un nivel de preparación de datos insuficiente (casi 4 de cada 5 empresas).
En este contexto, solo el 15 % de las funciones deberían integrar agentes de IA a un nivel semi-autónomo o autónomo para 2026. Este porcentaje podría alcanzar el 25 % para 2028, según Capgemini.
Los agentes de IA deberían encontrar primero su lugar en áreas como el servicio al cliente, la informática y las funciones comerciales, donde su capacidad de automatización ofrece ganancias rápidas. Su adopción debería luego expandirse progresivamente, en los próximos tres años, a sectores más complejos como las operaciones, I+D y marketing.
Para explotar plenamente su potencial, el informe recomienda superar el efecto de moda y repensar los procesos, reinventar los modelos económicos, transformar la estructura organizacional y, por último, encontrar el equilibrio correcto entre la autonomía de los agentes y la implicación humana.
Franck Greverie, Chief Portfolio y Technology Officer en Capgemini, a la cabeza de Global Business Lines y miembro del Comité de Dirección general del Grupo, concluye:
"Para tener éxito, las empresas deben mantenerse enfocadas en los resultados, repensando sus procesos con un enfoque 'AI first'. El éxito de esta transformación radica en la necesidad de crear confianza en la IA asegurándose de desarrollarla de manera responsable, integrando la ética y la seguridad desde el diseño. Esto también implica reorganizar las empresas para fomentar una colaboración efectiva entre humanos e IA, y crear las condiciones propicias para que estos sistemas refuercen el juicio humano y mejoren el rendimiento económico".