Un outil propose de détecter les textes générés par ChatGPT d'OpenAI

ChatGPT, l'agent conversationnel d'Open AI, est devenu viral dès après son lancement par Open AI le 30 novembre dernier. De nombreux élèves s'en sont emparés, se reposant sur lui pour leurs dissertations, résumer des livres... au grand désespoir des enseignants, bien démunis pour prouver la tricherie. La start-up Draft & Goal vient à leur secours : elle leur propose un détecteur de contenu ChatGPT - GPT3, fiable à 93%. DnG.AI ou Draft & Goal, start-up montréalaise cofondée par Nabil Tayeb et Vincent Terrasi, développe une solution de flux de production contenu IA automatisé pour ses clients. Défendant "une IA éthique qui ne soit pas utilisée de façon trompeuse", elle a entraîné un algorithme de détection aider les enseignants à identifier la triche mais il peut être également utile pour lutter, entre autres, contre les informations erronées et les fake news.

Comment fonctionne le détecteur de contenu?

Le fonctionnement du détecteur de contenu ChatGPT-GPT3 est très simple. Il suffit d'entrer un texte d'au moins 400 caractères et de cliquer sur analyser. Le détecteur établit rapidement si tout ou une partie du texte a été écrit par une IA et dans quel pourcentage. Pour l'instant, il ne fonctionne qu'avec des textes écrits en anglais, mais une version française est envisagée très prochainement. Draft & Goal a analysé ses performances sur 2 000 textes et la fiabilité était de 93%, la start-up continue à entraîner son algorithme afin d'améliorer les résultats.

Détecter les empreintes laissées par l'IA

Les enseignants ont habituellement recours à des logiciels pour déceler le plagiat par rapport à des textes publiés sur Internet. Les modèles comme chatGPT synthétisent les informations qui y sont contenues pour générer de nouveaux textes, les enseignants, même s'ils ont un doute, ne peuvent affirmer que les élèves l'ont utilisé. Selon Vincent Terrasi, ChatGPT a tendance à faire de nombreuses répétitions et exagérations, inventer, utiliser souvent des mots "creux" comme le verbe faire, autant d'indices pour le détecteur. Il concède toutefois que lorsque l'étudiant a ajouté quelques touches personnelles ou modifié quelque peu le texte généré, la tâche est beaucoup plus ardue pour le modèle. Celui-ci est pour l'instant totalement gratuit et accessible à tous.

Révéler les contenus générés par l'IA

Consciente du problème, OpenAI dit réfléchir au moyen de mettre en place une signature imperceptible dans les textes générés par GPT afin de pouvoir les identifier si besoin est. D'autres détecteurs de l'IA ont été conçus comme GPT Radar de Neuralext ou GPTZero, développé par Edward Tian, un étudiant en informatique et en journalisme à l’Université de Princeton (États-Unis), pendant les dernières vacances de Noël pour détecter la fraude chez les étudiants.