OVHcloud anuncia o lançamento oficial do AI Endpoints, uma nova solução cloud serverless destinada a facilitar a integração de modelos de inteligência artificial em aplicativos e serviços empresariais. Projetada para democratizar o uso da IA, a plataforma oferece uma biblioteca de mais de 40 modelos open source, cobrindo uma ampla gama de casos de uso profissionais.
AI Endpoints permite que os desenvolvedores acessem modelos de processamento de linguagem natural (LLM), geração de código, reconhecimento de fala ou ainda geração de imagens, sem precisar gerenciar a infraestrutura subjacente ou ter conhecimento avançado em machine learning. A solução se baseia no ambiente cloud soberano da OVHcloud, garantindo uma hospedagem segura dos dados na Europa, bem como sua proteção em relação às regulamentações extraeuropeias.
A plataforma oferece um ambiente de teste (sandbox) que permite aos desenvolvedores experimentar as capacidades dos modelos antes de sua integração completa, além de APIs que facilitam a integração nos ambientes de desenvolvimento existentes. Os casos de uso visados incluem automação do atendimento ao cliente, assistência ao código, extração de texto a partir de documentos não estruturados, ou ainda a conversão voz-texto e texto-voz. A OVHcloud destaca a transparência de sua abordagem, com modelos fornecidos em open weight, podendo ser implantados em infraestruturas terceiras ou localmente, conforme as necessidades das organizações.
Após uma prévia, a solução foi progressivamente enriquecida com novos modelos, levando em conta o feedback dos usuários (suporte a modelos estáveis, gestão refinada das chaves API...). Atualmente, o AI Endpoints oferece mais de 40 modelos de IA open-source de última geração, incluindo:
LLM: Llama 3.3 70B, Mixtral 8x7B, ...
SLM: Mistral Nemo, Llama 3.1 8B, ...
Código: Qwen 2.5 Coder 32B, Codestral Mamba
Raciocínio: DeepSeek-R1 (Llama destilado)
Multimodal: Qwen 2.5 VL 72B, ...
Geração de imagens: SDXL
Voz e discurso: ASR (speech-to-text), TTS (text-to-speech)
A plataforma permite inferência sob demanda, com uma precificação baseada no uso, de acordo com o número de tokens consumidos por minuto e por modelo. Hospedada no data center de Gravelines, perto de Dunquerque, que utiliza um sistema de resfriamento por água para minimizar o impacto ambiental, ela já está disponível na Europa, Canadá e na região da Ásia-Pacífico.