James Wexler, Ingénieur logiciel chez Google AI, a annoncé le lancement d’un nouvel outil pour TensorBoard : What-If. Comme son nom l’indique, l’outil encourage les chercheurs à se poser la question “Qu’est-ce que ça donnerait si … ?” en facilitant l’exploration de divers scénarios.
What-If permet notamment d’éditer manuellement les jeux de données afin d’analyser les répercussions que les changements provoquent sur les résultats. Il permet également de générer des graphiques de dépendance permettant de visualiser l’impact qu’a une caractéristique (feature) sur le résultat obtenu.
Le tout est présenté dans une interface interactive permettant de visualiser les résultats des modèles.
Points de bascule
L’outils permet également de mettre en évidence les points de bascule, appelés “counterfactuals”, et qui sont les points les plus proches de part et d’autre d’une frontière de décision. Il est alors possible d’éditer l’un des points à la main et de constater l’impact que cela aura sur sa position autour de la frontière.
Performances et équité algorithmique
L’outil permet enfin de mesurer la performance et l’équité algorithmique.
3 démos permettant de comprendre le fonctionnement de What-If et son utilisation en contexte sont fournies.
Consulter l’article de James Wexler sur le blog de Google AI
Découvrez la revue professionnelle de l'intelligence artificielle