O’Reilly, plateforme de formation et d’apprentissage, publie chaque année une étude sur les tendances technologiques basée sur les données de sa plateforme d’apprentissage en ligne. L’édition 2023 souligne un intérêt croissant pour l’IA, le deep learning et les langages de programmation Go, Rust et C++.
Selon Mike Loukides, Vice-Président de la stratégie de contenu pour O’Reilly Media, auteur du rapport, les données montrent sur quoi travaillent réellement les 2,8 millions d’utilisateurs d’O’Reilly et ce qu’ils apprennent au quotidien.
Les données de 2021 et 2022 sont comparées pour identifier les tendances émergentes et les changements significatifs et faire des prédictions sur ce que 2023 apportera.
Intelligence artificielle et NLP
Au cours des deux dernières années, le traitement du langage naturel (NLP) a été à l’avant-garde de la recherche sur l’IA, avec la sortie des outils populaires d’Open AI GPT-3 et ChatGPT. Le NLP a de nombreuses applications industrielles, allant des serveurs de chat automatisés à la génération de code (par exemple, GitHub Copilot) aux outils d’écriture.
Le contenu de NLP a été le plus regardé et a connu une croissance significative d’une année à l’autre (42%). Tous ces progrès sont basés sur le deep learning, qui était le deuxième sujet le plus utilisé, avec une croissance de 23%.
L’intérêt pour l’apprentissage par renforcement semble diminuer (baisse de 14%), bien que cela puisse changer à mesure que les chercheurs tentent de développer des systèmes d’IA plus précis et qui ne peuvent pas être trompés dans le discours de haine. L’apprentissage par renforcement avec rétroaction humaine (RLHF) pourrait améliorer les modèles linguistiques.
Il y a eu en 2022 également relativement peu d’intérêt pour le contenu sur les chatbots (une baisse de 5,8 % d’une année à l’autre), la sortie de GPT-3 avait été un événement décisif en 2021.
Pour Mike Loukides :
” Il n’est pas surprenant que nous ayons constaté d’énormes gains pour le traitement du langage naturel et l’apprentissage profond. GPT-3 et son successeur ChatGPT sont les stars actuelles du spectacle. Bien qu’il y ait eu beaucoup de discussions sur un autre « hiver de l’IA », cela ne se produira pas. Le succès de ChatGPT (sans parler de Stable Diffusion, Midjourney et de nombreux projets en cours chez Meta et Google) éloignera l’hiver, au moins pour une autre année “.
La plateforme d’apprentissage d’O’Reilly donne un aperçu des outils que les développeurs et les chercheurs utilisent pour travailler avec l’IA :
- scikit-learn est la bibliothèque la plus populaire. C’est un outil relativement ancien, mais il est toujours activement maintenu et évidemment apprécié par la communauté : l’utilisation a augmenté de 4,7% sur l’année;
- l’utilisation de contenu sur PyTorch et TensorFlow est à peu près équivalente avec une légère avance pour PyTorch qui a augmenté de 20%, tandis que TensorFlow a diminué de 4,8%. Keras, une bibliothèque frontale qui utilise TensorFlow, a chuté de 40%;
- L’utilisation de contenu sur MLOps connaît une légère baisse (4,0%) de 2021 à 2022.
Les langages de programmation
Java reste le leader (avec une croissance de 1,7% d’une année sur l’autre), suivi de Python (croissance de 3,4%). JavaScript connaît quant à lui une baisse de 4,6%, C # de 6,3% et Scala de 16%.
Go (+20%), Rust (+22%) et C++(+19%) sont les langages de programmation qui ont le plus progressé en 2022,.
Le Cloud
Amazon Web Services (AWS) reste en tête, suivi de Microsoft Azure, puis de Google Cloud. Tous trois représentent 97 % de l’utilisation du contenu de la plateforme cloud mais connaissent de faibles baisses qui pourraient ne pas être significatives : AWS est en baisse de 3,8 %, Azure de 7,5 % et Google Cloud de 2,1 %.
La migration vers le cloud a augmenté de 45%, les modèles de services cloud de 41 %.
Selon le rapport, il faut s’attendre à une nouvelle vague d’adoption du cloud.
Les autres résultats
- Les sujets qui ont connu la plus forte croissance sont les affaires (30%), la conception (23%), les données (20%), la sécurité (20%) et le matériel (19%), tous autour de 20% de croissance.
- Côté données, Microsoft Power BI est le plus utilisé et affiche 31 % de croissance;
- L’intérêt pour la sécurité réseau tout comme celui pour la réalité augmentée et virtuelle sont en forte hausse;
- L’intérêt pour les pratiques de codage a connu une croissance de 35 %, les développeurs désirant améliorer leurs compétences en programmation;
- L’informatique quantique affiche un gain de 24 %;
- Les trois principaux gains de recherche d’une année sur l’autre ont été pour la certification CompTIA Linux +, la certification CompTIA A + et les transformateurs quand bien même le nombre de recherche les concernant a été très restreint;
- Les baisses les plus marquées de la fréquence de recherche ont été enregistrées pour la crypto-monnaie, Bitcoin, Ethereum et Java 11.
