Le succès fulgurant de ChatGPT a coûté cher à OpenAI, lui faisant perdre des millions de dollars chaque jour… Le rentabiliser devenait urgent, la société a travaillé depuis décembre à l’optimisation de son modèle. OpenAI annonce aux développeurs qu’ils peuvent désormais créer des applications, produits et services avec sa nouvelle API ChatGPT mais aussi avec la nouvelle API Whisper.
Lors de son annonce, OpenAI déclare :
« Les modèles ChatGPT et Whisper sont désormais disponibles sur notre API, ce qui permet aux développeurs d’accéder à un langage de pointe (pas seulement au chat !) et à des capacités de conversion de la parole en texte. Grâce à une série d’optimisations à l’échelle du système, nous avons réalisé une réduction des coûts de 90% pour ChatGPT depuis décembre; nous transmettons maintenant ces économies aux utilisateurs d’API ».
L’API ChatGPT
La nouvelle API Chat est alimentée par gpt-3.5-turbo, le modèle utilisé pour ChatGPT, le modèle le plus performant d’OpenAI pour de nombreux cas d’utilisation non liés au chat. La société déclare d’ailleurs avoir vu les premiers testeurs migrer de text-daVinci-003 à GPT-3.5-turbo avec seulement une petite quantité d’ajustement nécessaire à leurs invites.
Le prix
Son prix est de 0,002 $ pour 1 000 jetons, soit environ 750 mots, ce qui est 10 fois moins cher que pour les modèles GPT-3.5 existants.
Mises à jour du modèle
OpenAI déclare travailler constamment à améliorer ses modèles de chat pour mettre ces améliorations à la disposition des développeurs. Selon elle, ceux qui utilisent le modèle gpt-3.5-turbo obtiendront toujours le modèle stable recommandé, tout en ayant la possibilité d’opter pour une version de modèle spécifique.
Elle déclare :
« Par exemple, aujourd’hui, nous publions “gpt-3.5-turbo-0301”, qui sera pris en charge au moins jusqu’au 1er juin, et nous mettrons à jour gpt-3.5-turbo vers une nouvelle version stable en avril. La page des modèles fournira des mises à jour de basculement ».
L’API Whisper
En septembre dernier, OpenAI a lancé Whisper, un modèle d’IA de 1,6 milliard de paramètres capable de transcrire et de traduire l’audio vocale de 97 langues différentes, affichant des performances robustes sur un large éventail de tâches de reconnaissance vocale automatisée (ASR). Le modèle formé sur 680 000 heures de données audio collectées sur le Web a très vite été publié en open source sur GitHub.
OpenAI annonce que le modèle large-v2 est disponible via son API en tant que whisper-1, ce qui en fait le moyen le plus rapide, le moins cher et le plus pratique d’utiliser le modèle.
Le prix
L’API est au prix de 0,006 $ / minute, arrondi à la seconde supérieure.
Modifications des politiques d’OpenAI et de la manière dont elle utilise les données
Suite aux commentaires des utilisateurs de ses API, OpenAI a apporté un certain nombre de changements concrets, tels que :
- Les données soumises via l’API ne sont plus utilisées pour la formation du modèle ou d’autres améliorations de service, sauf en cas d’acceptation explicite;
- Mise en œuvre d’une stratégie de conservation des données par défaut de 30 jours pour les utilisateurs d’API, avec des options pour des fenêtres de rétention plus courtes en fonction des besoins de l’utilisateur;
- Suppression de l’examen préalable au lancement;
- Simplification des conditions d’utilisation et des politiques d’utilisation, y compris les conditions relatives à la propriété des données : les utilisateurs possèdent les entrées et les sorties des modèles.
