Канадський єдиноріг Cohere нещодавно представив “Command A”, останню версію своєї флагманської моделі. Спеціально розроблений, як і його попередники, для задоволення потреб підприємств, цей LLM з 111 мільярдами параметрів, який поєднує продуктивність та енергоефективність, конкурує з провідними моделями, такими як GPT-4o і DeepSeek-V3.
Однією з головних переваг Command A для підприємств є його мінімальний матеріальний відбиток. У той час як більшість подібних моделей вимагають до 32 GPU, Command A ефективно працює лише з двома GPU A100 або H100, що призводить до значного зниження витрат і затримки, а також підвищення швидкості виконання. Окрім швидшого генерування першого токена, він може генерувати до 156 токенів/с, що в 1,75 рази перевищує швидкість GPT-4o і в 2,4 рази перевищує швидкість DeepSeek-V3.
Продуктивність Command A
Cohere оцінив продуктивність Command A у порівнянні з GPT-4o та DeepSeek-V3 на академічних бенчмарках: MMLU (загальні знання), MATH, IFEval (виконання інструкцій), тести інтелектуальних агентів (BFCL, Taubench) та бенчмарки кодування (MBPPPlus, SQL, RepoQA).
Його можливості у виконанні інструкцій, кодуванні, особливо в SQL, та агентських завданнях перевершують можливості його конкурентів.
У тестах з оцінки людиною, Command A, що охоплює 23 основні мови, перевершив своїх конкурентів у кількох мовах, зокрема в діалектній арабській, де він виявився більш узгодженим та точним, ніж GPT-4o і DeepSeek-V3. Ця здатність адаптуватися до місцевих контекстів є стратегічною перевагою для підприємств, що працюють на міжнародному рівні.
Оптимізовані можливості для підприємств
На відміну від свого попередника, який підтримував контекстну довжину у 128 000 токенів, Command A має контекстну довжину у 256 токенів, що робить його придатним для аналізу довгих ділових документів. Він інтегрує передові функції, такі як генерування, підвищене за допомогою відновлення (RAG), з перевіреними цитатами і використання безпечних агентських інструментів.
Він особливо ефективний для:
- Аналізу та вилучення інформації з великих фінансових звітів;
- Управління політиками HR згідно з місцевими специфіками;
- Перевірки та інтерпретації складних юридичних нормативів.
Завдяки плавній інтеграції з North, платформою AI агентів Cohere, Command A дозволяє підприємствам розробляти індивідуальні AI рішення, підтримуючи високий рівень безпеки та відповідності.
Доступність та ціноутворення
Вже доступний на платформі Cohere, з подальшою підтримкою з боку основних постачальників хмарних послуг, Command A пропонується за ціною 2,50 $ за 1 мільйон вхідних токенів і 10,00 $ за 1 мільйон вихідних токенів. Він також доступний для досліджень на Hugging Face.