Mila et ROOST lancent un filtre open source pour empêcher les chatbots IA d'encourager le suicide
L'institut québécois d'intelligence artificielle Mila et l'organisation à but non lucratif ROOST ont annoncé le 10 juillet 2026 le lancement d'un filtre en version bêta destiné à analyser les réponses des agents conversationnels et à signaler tout encouragement au suicide. Le filtre, à code source ouvert et gratuit pour les développeurs, se pose comme une couche de sécurité par-dessus un chatbot existant. Il s'agit du premier livrable concret du partenariat annoncé en juin 2026 par Mila et ROOST à l'issue de la réunion des ministres du Numérique du G7 à Paris, axé en priorité sur la sécurité des jeunes face aux risques d'automutilation et de suicide dans leurs échanges avec les IA conversationnelles. Son usage reste volontaire : les grandes plateformes comme ChatGPT ou Claude ne sont pas tenues de l'intégrer.





