Geçen Ocak ayının sonunda herkes DeepSeek ve model R1'e odaklanmışken, Mistral AI sessizce Small 3'ü tanıttı ve gelişmiş akıl yürütme yeteneklerine sahip Mistral modellerinin yakında geleceğini duyurdu. Bu artık gerçekleşti: Geçtiğimiz Mart ayında tanıtılan Small 3.1'in ardından, unicorn şirket ilk büyük ölçekli akıl yürütme modeli Magistral'i tanıttı. Model, açık kaynaklı "Magistral Small" ve işletmeler için odaklanmış "Magistral Medium" olmak üzere iki varyantta sunuluyor.
Magistral ile Mistral AI yeni bir aşamaya geçiyor. Büyüklük yarışında değil, daha açıklanabilir, insan akıl yürütmesine daha yakın ve özellikle işletmelerin operasyonel gerçeklerine daha uygun bir yapay zeka arayışında önemli bir adım atıyor. Yeni model, Small 3.1'in ilerlemelerine dayanıyor ve İngilizce, Fransızca, İspanyolca, Almanca, İtalyanca, Arapça, Rusça ve basitleştirilmiş Çince dahil birçok dili destekliyor. Kullanıcının dilinde izlenebilir, sorgulanabilir ve denetlenebilir adım adım bir akıl yürütme zinciri uyguluyor.
Magistral Small
Mistral AI, Magistral Small'u Apache 2.0 lisansı altında yayımladı, böylece topluluk bunu farklı kullanım durumları için kullanabilir, iyileştirebilir ve dağıtabilir. Şu adresten indirilebilir: https://huggingface.co/mistralai/Magistral-Small-2506 .
Bu sürüm, Magistral Medium'un etkileşimleri sırasında ürettiği akıl yürütme izleri üzerinden denetimli ince ayar (SFT) ile optimize edilmiş ve akıl yürütmenin kalitesini ve tutarlılığını iyileştirmek için pekiştirilmiş öğrenme (RLHF) ile güçlendirilmiştir.
Small 3 modelleri gibi 24 milyar parametreye sahip olan Magistral Small, bir kez nicemlendiğinde, bir RTX 4090 GPU'ya sahip bir PC veya 32 GB RAM'e sahip bir Mac gibi erişilebilir donanım yapılandırmalarında dağıtılabilir, bu da geliştiricilerin merkezi bir bulut altyapısına bağımlı olmadan hassas verilerini kontrol etmelerini sağlar.
Magistral Medium
Bu varyant, Magistral'in işletme odaklı sürümüdür. Daha güçlüdür ve Mistral'in Le Chat platformunda ve şirket API'si aracılığıyla sunulmaktadır. Şu anda Amazon SageMaker üzerinde dağıtılmıştır ve yakında IBM WatsonX, Azure AI ve Google Cloud Marketplace'te sunulacaktır.
Unicorn şirkete göre, Chat'teki Flash Answers yanıtların gecikmesini büyük ölçüde azaltmaktadır. Magistral Medium, birçok rakibine göre 10 kat daha yüksek işlem hızına ulaşmaktadır.
Magistral'in Performansı
Mistral AI, Magistral'in performansını Mistral Medium ve DeepSeek'in rakip modelleriyle farklı akıl yürütme ve anlama ölçütlerinde karşılaştırdı.
Magistral-Medium, tüm ölçütlerde Mistral-Medium 3'ü geride bırakarak geliştirilmiş akıl yürütmenin etkinliğini kanıtladı. AIME 2024 ölçütlerinde Medium, %90 çoğunluk oyu ile %73,6 puan alırken, Small %70,7 ve %83,3 puan aldı. Rekabetçi sonuçlar, ancak Deepseek bazı ölçütlerde üstünlüğünü koruyor.
Hedeflenen Kullanım Durumları
Mistral AI, adım adım düşüncenin belirleyici olduğu kullanım durumlarını hedefliyor:
- Stratejik karar alma
- Hukuki araştırma
- Finansal tahmin
- Çok aşamalı yazılım geliştirme
- Anlatı yazımı ve içerik üretimi
- Düzenleyici analiz ve uyumluluk
Bu çeşitlilik, hem düzenlemeye tabi sektörlere hem de yoğun bilişsel teknik mesleklere girmeyi amaçladığını, aynı zamanda daha "yaratıcı" kullanımlara da açık olduğunu gösteriyor.