Deux questions à Salima Hassas
En matière de programmation multi-agents, vous travaillez notamment sur les approches constructives et auto-*. Quels sont selon vous les enjeux de la conception et de l’utilisation des SMA adaptatifs pour la modélisation et la résolution de problèmes complexes et dynamiques ? Les approches auto-* (auto-adaptation, auto-organisation, auto-assemblage etc.) dans les systèmes multi-agents sont inspirées des systèmes naturels, connus pour leur robustesse, leur résilience et leur capacité naturelle à s’adapter aux changements de leur environnement. Ces caractéristiques sont très intéressantes pour le développement de solutions informatiques (dites intelligentes) dans un contexte de distribution à grande échelle (ressources, données) et dans des environnements dynamiques imprédictibles. Les approches auto-* permettent alors la mise en place d’un contrôle décentralisé, endogène au système, qui s’appuie sur sa dynamique interne induite par les interactions multiples de ses composants (ex. : un organisme vivant qui s’auto-soigne, une colonie d’insectes qui s’auto-organise etc.). À titre d’exemple, on peut citer la coordination décentralisée d’un trafic routier avec des véhicules connectés qui doivent s’auto-organiser pour s’adapter aux perturbations de l’environnement (par ex. accidents ou panne), les absorber au plus vite pour éviter la formation de bouchons et garantir à la fois l’homogénéité du trafic et sa sécurité. Parmi les enjeux majeurs de ce domaine, citons la contrôlabilité de solutions émergentes de ces mécanismes auto-*. Un autre enjeu consiste à trouver comment doter ces systèmes de capacités cognitives et d’autonomie, domaine exploré actuellement par le courant constructiviste et les approches à base d’apprentissage développemental (auto-développement cognitif). Le sujet des interactions et des « robots-humains » attire beaucoup l’attention et suscite des débats nourris autour de l’éthique, du futur du travail, etc. Comment pensez-vous que la présence d’IA devrait être introduite dans nos sociétés et selon vous, ces interactions peuvent-elles modifier à plus ou moins long terme le comportement humain ? L’évolution spectaculaire du domaine de l’IA crée des peurs et des fantasmes au sein de la société. Chacun a tendance à attribuer aux systèmes d’IA des qualités et des défauts qu’ils sont loin d’avoir, par exemple des robots capables de ressentir des émotions. L’acceptabilité de l’IA dans la société passe par la confiance que l’on peut accorder aux systèmes d’IA, qui passe à son tour par l’éducation et la formation du plus grand nombre à l’IA. L’interaction des humains avec les systèmes d’IA aura forcément un impact sur leur comportement, ne serait-ce que par la réaction de rejet ou de fascination éprouvée et la forme d’adaptation qui en sera induite. Un des enjeux importants dans ce rapport Humain-IA est la façon de penser la conception du système d’IA, dans sa dimension sociale avec l’humain, pour permettre au couple Humain-Machine d’aboutir à une forme d’intelligence sociale, induisant des transformations mutuelles vertueuses.Nos articles remonteront en priorité dans « À la une » de Google.
