Intelligence artificielle Des faux profils générés par l'intelligence artificielle identifiés et supprimés du réseau...

Pour approfondir le sujet

Sur le même thème :

Un groupe de recherche de l’institut Idiap améliore la reconnaissance faciale dans les voitures

Les constructeurs automobiles cherchent à améliorer la sécurité de leurs voitures et s'intéressent de plus en plus à la reconnaissance faciale. Au CES 2019,...

Des chercheurs de l’Université d’Anvers étudient le rôle des lymphocytes T grâce à l’Intelligence Artificielle

Une équipe de chercheurs de l'Université d'Anvers a voulu savoir si certains globules blancs, les lymphocites T, jouaient un rôle dans la réponse immunitaire...

Espagne : Hewlett Packard annonce la création d’un centre dédié au développement de technologies et de solutions logicielles à Valence

Hewlett Packard Espagne a annoncé début mars l'ouverture d'un nouveau centre à Valencia, dédié au développement de technologies innovantes et de solutions logicielles qui...

Jaguar Land Rover et NVIDIA annoncent un partenariat

L'an passé, Jaguar Land Rover annonçait sa stratégie «Reimagine» visant à produire tous ses modèles en mode 100% électriques d'ici 2030, entendant ainsi créer...

Des faux profils générés par l’intelligence artificielle identifiés et supprimés du réseau LinkedIn

Deux chercheurs de l’Observatoire de l’Internet de Stanford, Renée DiResta et Josh Goldstein, ont trouvé plus de 1 000 faux profils sur LinkedIn créés avec des photos générées par l’IA, plus précisément avec les GAN (Generative Adversial Networks). Ces faux profils pourraient permettre aux entreprises de toucher plus de clients sans pour autant embaucher plus de personnel ni dépasser le nombre limite de messages imposé par LinkedIn.

Renée DiResta et Josh Goldstein, de l’Observatoire Internet de Stanford, ont décidé de mener une enquête sur les faux-profils à la suite d’un message reçu par Renée DiResta, provenant de « Keenan Ramsey », se présentant comme une employée de RingCentral. Bien qu’elle ne soit pas intéressée par le logiciel proposé à la vente, elle a regardé la photo de profil et s’est rendue compte qu’elle était étrange : Keenan Ramsey ne portait qu’une seule boucle d’oreille, ses yeux étaient alignés en plein milieu de l’image et des mèches de cheveux apparaissaient et disparaissaient…

Ensuite, elle a reçu un second message LinkedIn d’un prétendu employé de RingCentral et dont la photo de profil semblait également générée par ordinateur et, pour finir
un e-mail d’un troisième employé de RingCentral, faisant référence au message de Keenan Ramsey, qui, lui, s’est révélé un réel employé de l’entreprise.

Renée DiResta et Josh Goldstein se sont alors mis à la recherche des faux profils sur LinkedIn et en ont trouvé plus de 1 000.

Josh Goldstein a déclaré :

« En l’espace de quelques semaines, nous avons trouvé plus d’un millier de comptes qui semblent être de faux comptes avec des images générées par le GAN. Et lorsque nous avons recherché ces personnes sur Internet, nous n’avons trouvé aucune preuve de leur existence ailleurs, ce qui est rare. »

Renée DiResta ajoute sur twitter :

« Ce n’est pas une histoire de mésinformation ou de désinformation, mais plutôt l’intersection d’un cas d’utilisation commerciale assez banal avec la technologie de l’IA, et les questions d’éthique et d’attentes qui en résultent. Quelles sont nos hypothèses lorsque nous rencontrons d’autres personnes sur les réseaux sociaux ? Quelles actions traversent la ligne de la manipulation? »

Le site web NPR a décidé de continuer l’enquête auprès de plus de 70 entreprises dans lesquelles ces faux profils étaient censées travailler. La plupart ignoraient que ces faux profils existaient ayant sous-traité leur marketing à des agences spécialisées et ont affirmé qu’il n’avaient en aucun cas autorisé l’usage de photos générées par l’IA.

Les faux profils d’employés de RingCentral

Les chercheurs de Stanford ont trouvé 60 faux profils de prétendus employés de RingCentral, l’entreprise confirme qu’aucun d’entre eux n’y a jamais travaillé. La personne qui a envoyé un e-mail à Renée DiResta suite au message LinkedIn de Keenan Ramsey était un véritable employé de RingCentral mais a quitté l’entreprise.

RingCentral a reconnu avoir sous traité auprès d’autres entreprises pour contacter des clients potentiels et organiser des réunions avec ses propres vendeurs (ce que l’on appelle dans l’entreprise la « génération de leads »). L’une d’entres elle a créé de faux profils, mais RingCentral n’a pas révélé son nom. Heather Hinton, responsable de la sécurité de l’information chez RingCentral, a déclaré qu’elle n’était pas au courant de cette pratique et ne l’approuvait pas. Elle a déclaré à NPR lors d’une interview :

« Ce n’est pas comme ça que nous faisons des affaires. C’était pour nous un rappel que la technologie évolue plus vite que même ceux d’entre nous qui la regardent ne peuvent suivre. Et nous devons simplement être de plus en plus vigilants quant à ce que nous faisons et à ce que nos fournisseurs vont faire sur notre nom. »

La porte-parole de RingCentral, Mariana Leventis, a déclaré dans un communiqué :

« Bien que cela ait pu être une pratique acceptée par l’industrie dans le passé, à l’avenir, nous ne pensons pas que ce soit une pratique acceptable et va à l’encontre de notre engagement envers nos clients. Nous prenons des mesures spécifiques pour mettre à jour notre approche de la génération de prospects et pour éduquer nos employés sur ce qui est et n’est pas acceptable en termes de communication avec les clients et les partenaires. »

Plusieurs des autres entreprises répertoriées comme employeurs actuels sur les profils apparemment faux ont déclaré la même chose à NPR : elles ont utilisé des fournisseurs externes pour présenter des clients potentiels sur LinkedIn.

LinkedIn affirme que tous les profils non authentiques, y compris ceux utilisant des images qui ne représentent pas un utilisateur réel, vont à l’encontre de ses règles. Il indique d’ailleurs dans sa page « Politiques de la communauté professionnelle » : « N’utilisez pas l’image de quelqu’un d’autre, ou toute autre image qui ne vous ressemble pas, pour votre photo de profil ».

Le réseau professionnel a déclaré avoir enquêté et supprimé ceux qui enfreignaient ses politiques, notamment les règles concernant la création de faux profils ou la falsification d’informations.

Leonna Spilman, porte-parole de LinkedIn, confirme :

« Nos politiques indiquent clairement que chaque profil LinkedIn doit représenter une personne réelle. Nous mettons constamment à jour nos défenses techniques pour mieux identifier les faux profils et les supprimer de notre communauté, comme nous l’avons fait dans ce cas  En fin de compte, il s’agit de s’assurer que nos membres peuvent entrer en contact avec de vraies personnes, et nous nous efforçons de garantir qu’ils disposent d’un environnement sûr pour le faire. »


1ère Marketplace de l'IA et de la transformation numérique vous recommande :
Plateforme Pricing par EURODECISION

Eurodecision propose une plateforme de pricing fournissant aux équipes marketing les clés pour prendre les meilleures décisions et piloter au mieux le...

 
Marie-Claude Benoit

Partager l'article

Alphanie Midelet, doctorante de l’UGA, représente la France à la finale internationale de ma MT180

La lauréate nationale de ma MT180 (Ma Thèse en 180 secondes), Alphanie Midelet, représentera la France aujourd'hui pour la finale internationale de ce concours...

Digital Aquitaine, l’IMB et l’INRIA organisent le 6 Octobre 2022 un Workshop « Pricing Algorithms »

Les Domaines d’excellence, IA Data Science et Club Commerce Connecté, de l’association Digital Aquitaine, l’Institut de Mathématiques de Bordeaux et l’INRIA organisent le 6...

Le collectif Confiance.ai fait le bilan des avancées de son programme dédié à l’IA de confiance dans les systèmes critiques

En janvier 2021, le programme Confiance.ai, mis en œuvre dans le cadre du Grand Défi « Sécuriser, fiabiliser et certifier des systèmes fondés sur...

Évènement : le forum NAIA.R sur l’intelligence artificielle et la robotique se tiendra le 13 octobre

NAIA.R, le forum Néo-Aquitain sur l’intelligence artificielle et la robotique, donne rendez-vous aux scientifiques et professionnels du secteur le 13 octobre 2022, à la...
Recevoir une notification en cas d'actualité importante    OK Non merci