La confiance, clé de la collaboration humain–IA à l'ère de l'IA agentique, selon Capgemini

La confiance, clé de la collaboration humain–IA à l'ère de l'IA agentique, selon Capgemini

TLDR : Le déploiement à grande échelle des agents d'IA, prometteurs mais encore peu implémentés, dépend plus de la confiance des entreprises que de la technologie, selon le Capgemini Research Institute. Les obstacles principaux restent les inquiétudes éthiques, une infrastructure immature et une préparation insuffisante des données, malgré un potentiel de gains économiques considérable.

2025년이 AI 에이전트의 성숙기로 예고되었지만, 그 배치는 기술보다는 신뢰에 달려 있다고 Capgemini Research Institute의 최신 보고서는 말합니다. 2028년까지 4500억 달러의 경제적 영향을 미칠 잠재력에도 불구하고, 단 2%의 기업만이 이를 대규모로 배치했습니다.
연구소는 'Rise of agentic AI: How trust is the key to human-AI collaboration' 연구를 위해 지난 4월, 연간 매출 10억 달러 이상을 기록하는 14개국의 1,500명의 기업 임원을 조사했습니다. 이 기업들은 모두 에이전트 AI를 탐색하기 시작했습니다.

신뢰의 현저한 감소로 인한 열정 저하

에이전트 AI에 대한 초기 열정은 인간의 시간 해방, 의사결정 가속화, 지원 및 운영 기능의 전체 구조 조정과 같은 매력적인 약속에 기반을 두고 있었습니다. 그러나 1년 만에 완전히 자율적인 AI 에이전트에 대한 신뢰는 43%에서 27%로 감소했습니다. 윤리적 우려(프라이버시, 편향, 설명 부족)가 채택을 저해하고 있으며, 5명 중 2명의 임원이 위험이 이익을 초과한다고 믿고 있습니다.
그러나 이미 AI 에이전트를 구현한 기업들은 평균보다 신뢰도가 10포인트 높습니다.

여전히 중요한 인간

이제 떠오르는 모델은 AI가 인간을 대체하는 것이 아니라 에이전트와 협력자가 분산된 팀을 구성하는 하이브리드 쌍체입니다. 조사된 조직의 약 60%가 향후 12개월 내에 이 모델을 도입할 계획입니다.
Capgemini의 Insights and Data Global Business Line의 CEO인 Niraj Parihar는 “AI 에이전트는 대체자가 아니라 팀의 일원입니다.”라고 강조합니다.
이 협력의 예상 이점은 명확합니다: 응답자들은 고부가가치 작업에서 인간 참여가 65% 증가하고, 창의성이 53% 증가하며, 직원 만족도가 49% 향상될 것으로 기대합니다. 

여전히 존재하는 조직적 장애물

조사된 임원의 93%가 열정을 보였음에도 불구하고, 단 2%의 기업만이 AI 에이전트를 대규모로 배치했습니다. 주요 장애물은 80%의 기업들이 인프라가 아직 성숙하지 않았고, 데이터 준비 수준이 부족하다는 점입니다(기업 5곳 중 거의 4곳).
이러한 상황에서, 2026년까지 15%의 기능만이 반자율적 또는 자율적 수준으로 AI 에이전트를 통합할 것으로 예상됩니다. Capgemini에 따르면, 이 비율은 2028년까지 25%에 이를 수 있습니다.
AI 에이전트는 먼저 고객 서비스, IT 및 상업 기능과 같은 분야에서 자리 잡아, 빠른 이익을 제공할 수 있는 자동화 능력을 갖춥니다. 그런 다음, 향후 3년 동안 운영, R&D 및 마케팅과 같은 더 복잡한 부문으로 채택이 점진적으로 확대될 것입니다.
이들의 잠재력을 최대한 활용하기 위해, 보고서는 유행을 뛰어넘고 프로세스를 재구상하며, 비즈니스 모델을 재발명하고, 조직 구조를 변혁하며, 마지막으로 에이전트의 자율성과 인간의 참여 간의 올바른 균형을 찾을 것을 권장합니다.
Capgemini의 Chief Portfolio 및 Technology Officer인 Franck Greverie는 글로벌 비즈니스 라인을 이끌고 그룹의 경영위원회의 일원으로서 결론을 내립니다:
“성공하기 위해 기업은 결과에 집중하고 'AI 우선' 접근 방식으로 프로세스를 재구상해야 합니다. 이 변혁의 성공은 AI를 책임감 있게 개발하고 윤리와 보안을 설계 초기부터 통합하여 신뢰를 구축하는 데 달려 있습니다. 이는 또한 인간과 AI 간의 효과적인 협력을 촉진하기 위해 기업을 재조직하고, 이러한 시스템이 인간의 판단을 강화하고 경제적 성과를 향상시킬 수 있는 조건을 만드는 것을 포함합니다.”