Actualité Sonnet, la bibliothèque de réseau neuronal orientée objet de DeepMind, devient open...

Pour approfondir le sujet

Le Québec, nouvel eldorado de l’intelligence artificielle?

'Fortune' a récemment mis à l'honneur la ville de Montréal et le Québec. Selon le magazine américain, il s'agit désormais de l’un des endroits...

Google rend disponible Tensor2Tensor en open source et facilite la recherche grâce au deep learning

Dans un post de blog, l'équipe de Google annonce avoir mis en open source Tensor2Tensor, une nouvelle bibliothèque de deep learning spécialement pensée pour...

Uber propose en open source Pyro, son langage de programmation probabiliste

Après moins d'un an d'existence, le laboratoire d'intelligence artificielle d'Uber n'a de cesse de se développer et de chercher à attirer les experts IA. Il...

HEALTH DATA HUB 2019 : Annonce des 10 lauréats du premier appel à projets

Initié le 31 janvier, l’appel à projets pour le Health Data Hub a été clos le 9 mars dernier. Ce sont 189 projets qui...

Sonnet, la bibliothèque de réseau neuronal orientée objet de DeepMind, devient open source

En 2015, Google rendait open source TensorFlow, sa bibliothèque d’apprentissage automatique. La firme a également lancé en open source, en décembre 2016, le projet DeepMind Lab qui utilise le Deep Reinforcing Learning ou DeepRL, et s’adresse à la communauté de développeurs spécialisés dans la création de jeux vidéo et intégrant l’intelligence artificielle. DeepMind, filiale de Google, se veut également très active et développe notamment une API open source pour la recherche sur StarCraft II.

Début avril, DeepMind a annoncé sur son blog que c’était au tour de Sonnet de passer en open source. Un partage important puisque comme l’indique la firme:

« la bibliothèque utilise une approche orientée objet, similaire à Torch / NN, permettant de créer des modules qui définissent le passage en avant de certains calculs »

Sonnet est optimisée pour qu’au cours de leurs expériences les chercheurs ne soient pas contraints de modifier leurs projets. Cette facilitation de l’alternance entre modèles a été rendue possible par l’ajout de plusieurs éléments par rapport à TensorFlow tels que la transparence au partage des variables ou l’examen des modèles en tant que hiérarchies, comme l’explique DeepMind:

« De nombreux modèles dans la littérature peuvent naturellement être considérés comme une hiérarchie – par exemple Un Ordinateur Différentiel Neuronal contient un contrôleur pouvant être un LSTM. Ce dernier peut être implémenté comme contenant une couche linéaire standard.

Nous avons constaté que le code d’écriture représentant explicitement les sous-modules permettait une réutilisation facile du code et une expérimentation rapide.

Sonnet favorise les modules d’écriture qui déclarent d’autres sous-modules en interne ou sont passés à d’autres modules au moment de la construction ».

Pour les ingénieux, cette bibliothèque sera particulièrement utile, notamment lorsqu’il s’agit pour différents modules de fonctionner sur des collections de Tensors arbitrairement assemblées:

« Les états des réseaux neuronaux récurrents (RNN pour Recurrent Neural Network) sont souvent mieux représentés sous la forme d’une collection de Tensors hétérogènes, et les représenter comme une liste forfaitaire peut être sujet à une erreur.

Sonnet fournit des services publics pour traiter ces hiérarchies arbitraires, de sorte que changer votre expérience pour utiliser un type différent de RNN ne nécessite pas de modifications fastidieuses du code. Nous avons également apporté des modifications au TF principal pour mieux supporter ce cas d’utilisation ».

Sonnet fonctionne donc avec TensorFlow. Vous pourrez accéder aux Tensors, aux variables systèmes et aux autres éléments sous-jacents sans aucun problème. Dans le même temps, le code TensorFlow peut être mélangé librement avec des modèles écrits dans Sonnet dans d’autres bibliothèques.

Le partage en open source de cette bibliothèque a pour objectif de permettre à la communauté de chercheurs de l’utiliser afin qu’elle se familiarise avec ce type de bibliothèques internes et contribue plus efficacement au développement du secteur en les utilisant dans des travaux. Il ne s’agit pour Google DeepMind que du début d’une série de publications qui sera accessible à tous:

« Nous allons régulièrement mettre à jour notre dépôt GitHub pour qu’il puisse correspondre à notre version maison ».

Dépôt GitHub de Sonnet: lien

Dépôt GiHub de DeepMind Lab: lien

Dépôt GiHub de TensorFlow: lien

Johanna Diaz

Partager l'article

Focus sur le projet APRIORICS de l’IUCT-O Toulouse : IA et médecine personnalisée pour lutter contre le cancer du sein

Le projet APRIORICS (Apprentissage Profond Renforcé par l’ImmunohistOchimie pour la Requalification d’Images de Cancers du Sein) a pour objectif d’utiliser l’intelligence artificielle afin de décrire...

Focus pays : Webinaire « L’intelligence artificielle, instrument de relance économique en Tunisie ? »

Le 29 juillet dernier, le ministère de l'industrie et des PME, en collaboration avec le projet Innov’i – EU4Innovation, a organisé un webinaire réunissant...

Le corpus d’articles arXiv est désormais disponible sur Kaggle

Le corpus d'articles arXiv permet depuis plus de 30 ans à la communauté de chercheurs et au public d'avoir accès aux articles scientifiques dans...

Scikit-learn, SOFA, Coq, Pharo : Inria lance son Academy de formation continue dédiée aux logiciels libres

Inria a présenté fin juillet son nouveau dispositif de formation continue. Centré sur les logiciels libres cette structure permettra l’accès aux grands noms des...