OVHcloud, yapay zeka modellerinin uygulamalara ve iş hizmetlerine entegrasyonunu kolaylaştırmak için tasarlanmış yeni sunucusuz bulut çözümü AI Endpoints'in resmi lansmanını duyurdu. Yapay zekanın kullanımını demokratikleştirmek için tasarlanan platform, geniş bir profesyonel kullanım alanını kapsayan 40'tan fazla açık kaynak model kütüphanesi sunuyor.
AI Endpoints, geliştiricilerin dil işleme (LLM), kod üretimi, ses tanıma veya görüntü üretimi gibi modellerine altyapıyı yönetmek zorunda kalmadan veya ileri düzeyde makine öğrenimi uzmanlığına sahip olmadan erişmelerini sağlıyor. Çözüm, OVHcloud'un egemen bulut ortamına dayanıyor ve Avrupa'daki verilerin güvenli bir şekilde barındırılmasını ve Avrupa dışı düzenlemelere karşı korunmasını garanti ediyor.
Platform, geliştiricilerin modellerin entegrasyonundan önce kapasitelerini test etmeleri için bir test ortamı (sandbox) sunuyor ve mevcut geliştirme ortamlarına entegrasyonu kolaylaştıran API'ler sağlıyor. Hedeflenen kullanım alanları arasında müşteri hizmetleri otomasyonu, kodlama desteği, yapılandırılmamış belgelerden metin çıkarımı veya ses-metin ve metin-ses dönüşümü yer alıyor. OVHcloud, açık ağırlıklarla sağlanan modellerle yaklaşımının şeffaflığını vurguluyor ve bu modellerin organizasyonların ihtiyaçlarına göre üçüncü parti altyapılar veya yerel olarak konuşlandırılabileceğini belirtiyor.
Ön izleme sonrası çözüm, kullanıcı geri bildirimleri dikkate alınarak yeni modellerle kademeli olarak zenginleştirildi (kararlı model desteği, API anahtarlarının incelikli yönetimi...). Şu anda, AI Endpoints, son teknoloji 40'tan fazla açık kaynak yapay zeka modeli sunuyor, bunlar arasında:
LLM : Llama 3.3 70B, Mixtral 8x7B, ...
SLM : Mistral Nemo, Llama 3.1 8B, ...
Kod : Qwen 2.5 Coder 32B, Codestral Mamba
Akıl Yürütme : DeepSeek-R1 (Llama distillé)
Multimodal : Qwen 2.5 VL 72B, ...
Görüntü Üretimi : SDXL
Ses ve Konuşma : ASR (speech-to-text), TTS (text-to-speech)
Platform, modele ve dakikada tüketilen token sayısına dayalı kullanım bazlı bir fiyatlandırma ile talep üzerine çıkarım yapma imkanı sağlıyor. Dunkerque yakınlarındaki Gravelines veri merkezinde barındırılan ve çevresel etkiyi en aza indirmek için su soğutma sistemi kullanan platform, Avrupa, Kanada ve Asya-Pasifik bölgesinde kullanıma sunulmuş durumda.