Kanadyjski jednorożec Cohere niedawno zaprezentował „Command A”, najnowszą wersję swojego flagowego modelu. Specjalnie zaprojektowany, podobnie jak jego poprzednicy, aby sprostać potrzebom przedsiębiorstw, ten LLM o 111 miliardach parametrów, łączący wydajność i efektywność energetyczną, rywalizuje z wiodącymi modelami, takimi jak GPT-4o i DeepSeek-V3.
Jednym z głównych atutów Command A dla przedsiębiorstw jest jego minimalny ślad sprzętowy. Podczas gdy większość porównywalnych modeli wymaga aż 32 GPU, Command A działa efektywnie z zaledwie dwoma GPU A100 lub H100, co przekłada się na znaczące obniżenie kosztów i opóźnień oraz wyższą szybkość wykonania. Oprócz szybszej generacji pierwszego tokena, może generować do 156 tokenów/s, czyli 1,75 razy szybciej niż GPT-4o i 2,4 razy szybciej niż DeepSeek-V3.
Wydajność Command A
Cohere oceniło wydajność Command A w porównaniu do GPT-4o i DeepSeek-V3 na akademickich benchmarkach: MMLU (wiedza ogólna), MATH, IFEval (śledzenie instrukcji), testy agentów inteligentnych (BFCL, Taubench) i benchmarki kodowania (MBPPPlus, SQL, RepoQA).
Jego zdolności w śledzeniu instrukcji, kodowaniu, zwłaszcza w SQL, oraz w zadaniach agentowych przewyższają te u konkurencji.
W testach ewaluacji ludzkiej, Command A, który obejmuje 23 główne języki, przewyższył swoich konkurentów w kilku językach, zwłaszcza w dialekcie arabskim, gdzie okazał się bardziej spójny i precyzyjny niż GPT-4o i DeepSeek-V3. Ta zdolność adaptacji do lokalnych kontekstów stanowi strategiczną zaletę dla przedsiębiorstw działających na rynku międzynarodowym.
Optymalizowane możliwości dla przedsiębiorstw
W przeciwieństwie do swojego poprzednika, który obsługiwał długość kontekstu 128 000 tokenów, Command A jest wyposażony w długość kontekstu 256 tokenów, co czyni go odpowiednim do analizy długich dokumentów biznesowych. Zawiera zaawansowane funkcjonalności, takie jak generacja wspomagana przez odzyskiwanie (RAG) z weryfikowalnymi cytatami i użycie bezpiecznych narzędzi agentowych.
Jest szczególnie skuteczny w:
- Analizie i ekstrakcji informacji z obszernych raportów finansowych;
- Zarządzaniu polityką HR zgodnie z lokalnymi specyfikacjami;
- Weryfikacji i interpretacji złożonych regulacji prawnych.
Dzięki płynnej integracji z North, platformą agentów AI firmy Cohere, Command A pozwala firmom rozwijać dostosowane rozwiązania AI przy jednoczesnym utrzymaniu wysokiego poziomu bezpieczeństwa i zgodności.
Dostępność i wycena
Już dostępny na platformie Cohere, z planowanym wsparciem przez głównych dostawców chmury, Command A jest oferowany w cenie 2,50 $ za 1 milion tokenów wejściowych i 10,00 $ za 1 milion tokenów wyjściowych. Jest również dostępny do celów badawczych na Hugging Face.