Orange는 어제 OpenAI의 open-weight gpt-oss-120b 및 gpt-oss-20b 모델을 자사의 안전하고 주권적인 인프라에 통합했다고 발표했습니다. 이 진전은 2024년 11월 말에 체결된 협약의 결과로, 캘리포니아 회사에서 개발한 최첨단 AI 모델에 대한 사전 접근을 통신사에 제공하여, Orange가 이러한 기술을 배포하는 세계 최초의 그룹 중 하나가 되었습니다.
OpenAI에 따르면, gpt-oss-120b 모델의 성능은 주요 추론 평가에서 o4-mini와 유사하며, 80GB 메모리를 갖춘 단일 GPU에서 실행할 수 있습니다. 한편, gpt-oss-20b 모델은 o3-mini와 유사한 결과를 보여주며, 16GB 메모리만으로도 실행할 수 있어, 로컬 추론, 빠른 반복, 적은 하드웨어 투자로도 필요한 배포에 적합한 솔루션이 됩니다.
영토에 봉사하는 주권적인 AI
이 협력은 유럽, 중동 및 아프리카의 26개국에 분산된 데이터 센터에 모델을 로컬 호스팅하여 디지털 주권을 강화하려는 Orange의 전략에 부합합니다. 이 선택은 민감한 데이터 보호 및 현지 규제 준수뿐만 아니라 성능 최적화도 보장합니다. AI 엔지니어링 전문 지식을 통해 Orange는 특정 사용 사례에 맞추어 이러한 모델을 조정하고 증류할 수 있습니다.
통신사는 예를 들어 다음과 같은 일을 할 수 있습니다:
- 다국어 음성 비서 및 더 반응적이고 정확한 챗봇을 통해 고객 경험을 향상시킵니다;
- 민감한 데이터의 보안을 보장하면서 복잡한 문제를 진단할 수 있는 주권적 AI 모델을 통해 네트워크의 품질과 회복력을 강화합니다;
- 음성 인식 서비스 및 데이터 보안 분석을 포함하여 고객 맞춤형 솔루션을 개발합니다,
절약 및 에너지 효율성: 책임 있는 AI의 기둥
Orange는 기술 성능과 환경 발자국 감소를 결합하는 "절약" 접근 방식을 채택하고 있습니다. 모델의 로컬 실행을 우선시함으로써, 기업은 에너지 소비를 직접 제어할 수 있으며, 이는 탄소 배출을 줄이고 자원의 최적화를 돕습니다. 효율성을 전략적이면서도 윤리적인 문제로 만드는 실용적인 접근 방식입니다.
포용적 배포의 중심에 있는 아프리카
디지털 포용성과 아프리카 대륙의 지속 가능한 개발은 2023년 Orange가 시작한 "Lead the future" 계획의 핵심입니다. 여러 방언이 공존하는 18개국에 존재하는 통신사는 언어 및 문화적 다양성을 전략의 중심에 두고 있습니다.
세밀하게 조정된 모델은 지역 언어를 통합하여 사람들이 지원, 판매 또는 마케팅 서비스와 더 자연스럽게 의사소통할 수 있도록 할 것입니다. 이후 이 모델들은 공공 서비스를 위해 사용할 수 있도록 지역 당국에 오픈 소스로 제공될 것입니다.