OVHcloud, işletme uygulamaları ve hizmetlerine yapay zeka modellerinin entegrasyonunu kolaylaştırmak amacıyla tasarlanmış yeni bir sunucusuz bulut çözümü olan AI Endpoints'un resmi lansmanını duyurdu. Yapay zekanın kullanımını demokratikleştirmek için tasarlanan platform, profesyonel kullanım durumlarının geniş bir yelpazesini kapsayan 40'tan fazla açık kaynak modelinden oluşan bir kütüphane sunuyor.
AI Endpoints, geliştiricilerin doğal dil işleme modelleri (LLM), kod üretimi, ses tanıma veya görüntü oluşturma gibi modellere, altyapı yönetimi veya makine öğrenmesi konusunda derin bir uzmanlığa sahip olmadan erişmelerini sağlıyor. Çözüm, OVHcloud'un egemen bulut ortamına dayanıyor ve Avrupa'daki verilerin güvenli bir şekilde barındırılmasını ve ekstra Avrupa düzenlemelerine karşı korunmasını garanti ediyor.
Platform, geliştiricilere modellerin entegrasyon öncesi yeteneklerini deneyimlemeleri için bir test ortamı (sandbox) sunuyor ve mevcut geliştirme ortamlarına entegrasyonu kolaylaştıran API'ler sağlıyor. Hedeflenen kullanım durumları arasında müşteri hizmetlerinin otomasyonu, kodlama desteği, yapılandırılmamış belgelerden metin çıkarma veya ses-metni ve metin-sesi dönüşümleri bulunuyor. OVHcloud, açık ağırlıklarla sağlanan modellerin, organizasyonların ihtiyaçlarına göre üçüncü taraf altyapılarda veya yerinde dağıtılabileceği şeffaf yaklaşımını vurguluyor.
Bir önizlemeden sonra, çözüm kullanıcı geri bildirimleri (kararlı modellerin desteği, API anahtarlarının daha iyi yönetimi...) göz önünde bulundurularak yeni modellerle kademeli olarak zenginleştirildi. Şu anda, AI Endpoints, son nesil 40'tan fazla açık kaynak AI modeli sunuyor, bunlar arasında:
LLM : Llama 3.3 70B, Mixtral 8x7B, ...
SLM : Mistral Nemo, Llama 3.1 8B, ...
Kod : Qwen 2.5 Coder 32B, Codestral Mamba
Akıl Yürütme : DeepSeek-R1 (damıtılmış Llama)
Multimodal : Qwen 2.5 VL 72B, ...
Görüntü Üretimi : SDXL
Ses ve Konuşma : ASR (konuşmadan metne), TTS (metinden konuşmaya)
Platform, model başına dakika başına tüketilen jeton sayısına dayalı bir kullanım tabanlı fiyatlandırma ile talep üzerine çıkarım yapılmasına olanak tanıyor. Dunkerque yakınlarındaki Gravelines veri merkezinde barındırılan ve çevresel etkiyi en aza indirmek için su soğutma sistemi kullanan platform, şu anda Avrupa, Kanada ve Asya-Pasifik bölgesinde kullanılabilir durumda.