Secteur

IA dans les réseaux sociaux

Les systèmes d'IA transforment la gestion et la modération des réseaux sociaux. Réseaux professionnels et grand public confrontent des usages concrets mais aussi des enjeux réglementaires croissants en matière de transparence et de protection des publics.

37 articles · Mis à jour il y a 18 heures
Veille sectorielle

Vous gérez des communautés ou des réseaux sociaux ?

Suivez toute l'actualité de l'intelligence artificielle dans ce secteur — articles, brèves et signaux — réunie dans votre veille personnelle. Gratuit, sans publicité.

Brèves

Procès / plainte

États-Unis : l'autrice Amani Al-Khatahtbeh, fondatrice de Muslim Girl, poursuit xAI après des images de Grok la montrant sans hijab, selon ThePrint

Le 18 novembre 2026, Amani Al-Khatahtbeh, autrice et militante, fondatrice du média Muslim Girl, a déposé plainte devant un tribunal fédéral contre xAI, rapporte ThePrint en citant Wired. Elle reproche à l'entreprise d'avoir laissé des utilisateurs de Grok retirer son hijab d'une photo publiée le 1er janvier 2026 et la représenter en bikini ou en lingerie, sans son consentement.

La plainte invoque la création et la diffusion d'images sexuelles non consenties, la négligence et le préjudice moral, ainsi qu'une violation du droit californien. Elle réclame jusqu'à 250 000 dollars pour chaque diffusion non autorisée des images modifiées et soutient que xAI savait que Grok servait à cibler des femmes musulmanes voilées. L'article ne rapporte aucune réaction de xAI.

Usage malveillant (deepfake, fraude…)

Selon Press Association, les signalements de contenus d'abus sexuels sur mineurs générés par IA passent d'environ 4 700 en 2023 à plus de 400 000 en 2025, d'après Childlight

Le 16 novembre 2026, le Childlight Global Child Safety Institute, hébergé par l'Université d'Édimbourg, a publié une étude internationale selon laquelle les signalements d'images et de vidéos d'abus sexuels sur mineurs générés par IA, transmis par des entreprises technologiques au National Center for Missing and Exploited Children américain, sont passés d'environ 4 700 en 2023 à plus de 400 000 en 2025, rapporte Press Association Scotland. Childlight précise que l'amélioration de la détection et du signalement peut expliquer une partie de la hausse, qui dépasse 8 400 %, soit plus de 395 300 signalements supplémentaires en deux ans.

Le rapport estime aussi que plus de 300 millions d'enfants dans le monde subissent chaque année au moins une forme d'exploitation ou d'abus sexuel facilité par la technologie.

Nouvelle fonctionnalité

Meta étend au monde entier l'estimation d'âge par IA d'Instagram pour placer des adolescents dans les comptes protégés

Le 9 novembre 2026, Meta a annoncé étendre au monde entier sa technologie d'estimation de l'âge par intelligence artificielle sur Instagram. Elle repère les comptes que le groupe soupçonne d'appartenir à des adolescents, même lorsqu'une date de naissance d'adulte a été déclarée, et les place dans les « comptes Ado », qui limitent les contacts, les contenus visibles et le temps passé sur l'application.

Meta poursuit le déploiement sur Facebook et prévoit un lancement mondial comparable sur Threads plus tard dans l'année. Le groupe évoque des « millions d'adolescents supplémentaires » concernés, sans chiffre précis. En Australie, il exploite aussi le signal de tranche d'âge fourni par l'App Store d'Apple. L'annonce s'inscrit dans l'accord conclu avec 52 procureurs généraux américains, qui prévoit une meilleure détection des moins de 13 ans.

Nouvelle fonctionnalité

Meta lance Spaces, des outils personnalisés que les utilisateurs de Muse créent en décrivant leur idée à l'assistant

Le 6 novembre 2026, Meta a lancé Spaces dans l'application de son assistant Muse. Un « space » est une expérience sur mesure que l'utilisateur crée en décrivant son idée, puis qu'il peut continuer à ajuster avec Muse. Les spaces peuvent être épinglés dans la barre latérale ou les onglets principaux, masqués ou programmés pour apparaître à certains moments.

Meta cite neuf exemples, dont un organisateur de mariage pour suivre réponses, factures de prestataires et tâches, un suivi de commandes pour petites entreprises, un espace client pour freelances et un planificateur de voyage avec vols, hôtels et itinéraire jour par jour. La fonction est disponible partout où Muse l'est. Meta dit étudier la possibilité de partager les spaces avec d'autres utilisateurs.

Décision d'autorité (CNIL, CE…)

UE : la Commission estime à titre préliminaire que l'algorithme du fil « Pour toi » de TikTok enfreint le DSA par son effet de « terrier »

Le 6 novembre 2026, la Commission européenne a conclu à titre préliminaire que TikTok enfreint le règlement sur les services numériques (DSA) en raison de l'effet de « terrier » (rabbit hole) produit par le système de recommandation de son fil « Pour toi ». Les constatations portent sur l'évaluation des risques et sur les mesures d'atténuation mises en place par la plateforme.

Le fil propose un flux continu de vidéos personnalisées : plus un utilisateur interagit avec un type de contenu, plus l'algorithme lui recommande des contenus similaires. La Commission juge cet effet préjudiciable lorsque l'exposition répétée concerne la tristesse, l'isolement ou l'image du corps, avec des risques pour la santé mentale, en particulier des mineurs et des adultes vulnérables.

Nouvelle fonctionnalité

Meta ouvre à tous les utilisateurs américains Muse Voice, qui permet d'appeler et de discuter en vidéo avec l'avatar animé de son agent Muse, selon TechCrunch

Le 5 novembre 2026, Meta a annoncé le déploiement auprès de tous les utilisateurs américains de Muse Voice, qui permet d'appeler son agent d'IA grand public Muse et de discuter avec lui en vidéo, rapporte TechCrunch. La fonction, présentée en septembre lors de la conférence Connect, fonctionne sur mobile, sur le web et sur Mac, et doit arriver plus tard sur les lunettes de Meta et sur l'appareil « Muse Charm ».

Elle repose sur deux nouveaux modèles, Muse Realtime Avatar, qui anime l'avatar, et Muse Realtime Voice. L'avatar par défaut est un personnage animé, que l'utilisateur peut transformer en humain, en animal ou en autre personnage. Muse ne voit pas l'utilisateur : il l'entend et répond en fonction de la conversation.

Ranger dans…
Enregistré. Ajouter une note ?
Usage malveillant (deepfake, fraude…)

OIM : Amy Pope avertit que la désinformation sur les migrations, « de plus en plus amplifiée par l’IA », fait des migrants des cibles

Le 2 novembre 2026, à l’ouverture du Dialogue international sur les migrations à Genève, la directrice générale de l’Organisation internationale pour les migrations (OIM), Amy Pope, a déclaré que la désinformation sur les migrations se propage vite, « de plus en plus amplifiée par l’intelligence artificielle », et transforme l’inquiétude en suspicion et les personnes en cibles. Dans son communiqué, l’OIM indique que les récits faux ou trompeurs diffusés par les réseaux sociaux et l’IA générative creusent la polarisation et la défiance, alors que plus de 304 millions de personnes vivent hors de leur pays de naissance, dont 168 millions de travailleurs migrants. Amy Pope a formulé trois appels : coopérer le long des routes migratoires, investir en amont dans les communautés exposées aux inondations et aux mauvaises récoltes, et fonder les décisions sur des données fiables, avec des technologies qui protègent les informations personnelles et préviennent les biais. Les conclusions du Dialogue, qui fête ses 25 ans, alimenteront le Conseil de l’OIM en décembre.

Résultats financiers

Reddit basculera vers une expérience réservée aux utilisateurs connectés pour protéger son corpus de données, son trafic issu de la recherche reculant avec l'IA

Le 29 octobre 2026, dans sa lettre aux actionnaires du troisième trimestre, Steve Huffman, cofondateur et directeur général de Reddit, annonce le passage de la plateforme à une expérience « réservée aux utilisateurs connectés ». Cette bascule doit, selon lui, améliorer le ciblage publicitaire, « protéger l'accès au corpus de données extrêmement précieux de Reddit » et faciliter l'adaptation aux réglementations. Les premiers tests complets auront lieu au quatrième trimestre sur des marchés hors des États-Unis. La lettre décrit une recherche web qui devient elle-même une destination alimentée par l'IA : le trafic venu des moteurs a nettement baissé au troisième trimestre et, en octobre, il recule de plus d'un million de visites par semaine en moyenne. Si la tendance se poursuit, les visiteurs uniques quotidiens pourraient baisser d'un pourcentage à deux chiffres au quatrième trimestre, contre 130,3 millions au troisième. Le chiffre d'affaires trimestriel atteint 895 millions de dollars, en hausse de 53 %.

Procès / plainte

Floride : le procureur général poursuit l'opérateur de la plateforme A2E, accusée de permettre la « nudification » et la génération d'images pédocriminelles

Le 28 octobre 2026, le procureur général de Floride, James Uthmeier, a annoncé une plainte civile contre Rengstorff Consulting Ltd, opérateur de la plateforme d'IA générative A2E et de ses applications mobiles. Selon la plainte, ses outils de « nudification » permettent de téléverser des photos ou vidéos réelles de personnes non consentantes, enfants compris, pour produire des images sexualisées ou pédocriminelles, et de rajeunir numériquement des adultes pour les faire ressembler à des enfants dans des scènes sexuelles.

Le procureur reproche à A2E de ne mettre en place ni surveillance réelle, ni vérification du consentement, ni signalement aux forces de l'ordre, malgré les interdictions de ses conditions d'utilisation. La plainte cite des affaires pénales floridiennes, dont un dossier à Tampa où un homme a créé plus de 100 images sexualisées de ses beaux-enfants mineurs. L'État demande une injonction permanente, la restitution des gains et des amendes civiles allant jusqu'à 10 000 dollars par infraction au titre de la loi floridienne sur les pratiques commerciales trompeuses.

Projet de loi / consultation

Japon : Tokyo soumet à consultation des lignes directrices électorales qui demandent aux grandes plateformes de détecter les contenus d'IA

Le 23 octobre 2026, le ministère japonais des Affaires intérieures et des Communications a ouvert une consultation publique sur un projet de lignes directrices visant les atteintes à la sincérité des élections sur les réseaux sociaux.

Il rappelle que, selon la loi électorale modifiée en 2026, quiconque diffuse en ligne, pendant la campagne officielle, une image ou une vidéo créée ou modifiée par IA doit l'indiquer à l'écran, sauf retouche mineure ou absence de risque de confusion avec une prise de vue réelle.

Parmi les mesures recommandées aux grandes plateformes figurent des règles d'usage des contenus d'IA, une fonction d'étiquetage, la détection des contenus générés susceptibles de fausser le scrutin, même non étiquetés, et un avertissement aux utilisateurs. Les avis sont reçus du 24 octobre au 24 novembre ; les lignes directrices s'appliqueront à partir du 1er mars 2027, date d'entrée en vigueur de la loi.

Baromètre / sondage

France : selon une enquête YouGov pour interface, 40 % des 11-12 ans utilisent régulièrement une IA généraliste, leurs parents l'estiment à 26 %

Le 22 octobre 2026, le think tank berlinois interface a publié une enquête YouGov sur l'usage de l'IA générative par les adolescents français, menée en ligne du 24 au 30 juin 2026 auprès de 970 jeunes de 11 à 17 ans et de 1 138 parents.

63 % des parents comme des adolescents utilisent au moins un outil d'IA générative chaque semaine. Parmi les mineurs, 78 % déclarent utiliser une IA généraliste comme ChatGPT, 50 % l'IA intégrée aux réseaux sociaux et 32 % des compagnons IA. Les parents sous-estiment l'usage des plus jeunes : 40 % des 11-12 ans utilisent régulièrement une IA généraliste, contre 26 % selon leurs parents.

92 % des adolescents utilisateurs disent passer plus de temps qu'ils ne le voudraient sur au moins un outil, 59 % pour les compagnons IA. Seuls 32 % des parents se sentent suffisamment accompagnés ; 51 % attendent ce soutien de l'école, 41 % des fournisseurs d'IA et 30 % des pouvoirs publics.

Usage malveillant (deepfake, fraude…)

Spotify a retiré de ses recommandations plus de 50 millions de titres de « slop » et de spam, en partie générés par IA, depuis le début de l'année

Le 20 octobre 2026, Spotify a dressé le bilan d'un an de mesures contre la musique générée par IA trompeuse : depuis le début de l'année, plus de 50 millions de titres classés « slop » ou spam ont été sortis de ses recommandations, en plus de plus de 75 millions de titres supprimés de la plateforme pour violations graves ou répétées.

La détection combine l'engagement et les retours des auditeurs, les schémas de téléversement, les métadonnées et plusieurs outils tiers de détection d'IA. Les titres présentant une forte probabilité d'avoir été générés par IA sont dix fois plus susceptibles de rester sous le seuil de 1 000 écoutes qui conditionne la rémunération.

Plus de 300 000 artistes sont désormais vérifiés, des milliers d'« AI Personas » sont étiquetés et exclus par défaut des recommandations, et l'outil Artist Profile Protection sera ouvert à tous les artistes d'ici la fin de l'année.

À propos du secteur

Usages concrets

L'intelligence artificielle automatise plusieurs fonctions clés dans la gestion des réseaux sociaux. La modération du contenu à grande échelle repose de plus en plus sur des systèmes d'IA capables d'identifier rapidement les violations de politique ou les contenus problématiques. L'analyse du sentiment permet de comprendre les réactions des communautés et d'adapter les stratégies de communication. Les algorithmes de recommandation décident quoi afficher, à qui et quand, en traitant des signaux issus des interactions antérieures et du contexte utilisateur. La génération de contenu assiste les équipes pour formuler des publications, proposer des calendriers éditoriaux ou créer des visibles de base. Sur les réseaux professionnels, l'approche diffère : elle privilégie davantage la pertinence relationnelle et thématique plutôt que la simple maximisation de l'engagement.

Enjeux et limites

La dépendance aux systèmes d'IA pour la modération présente des risques. Retirer les humains du processus expose à des erreurs sur les cas limites qui exigent un jugement contextuel. Les algorithmes de recommandation peuvent perpétuer des biais implicites ou créer des bulles informationnelles sans que l'utilisateur n'en ait conscience. La question de la transparence devient centrale : les utilisateurs ignorent souvent comment l'IA détermine ce qu'ils voient. L'assistance d'IA pour la création n'élimine pas la nécessité d'une stratégie humaine et d'une réactivité authentique face aux dynamiques communautaires. L'IA reste un outil qui augmente l'efficacité mais ne substitue pas la compréhension contextuelle ni la relation de confiance entre marques et publics.

Acteurs et cadre en France

En France, la Commission Nationale de l'Informatique et des Libertés (CNIL) supervise la conformité des systèmes d'IA au regard de la protection des données. Arcom, l'autorité pour la communication audiovisuelle et les plateformes en ligne, intervient sur les obligations de transparence et de signalement des contenus manipulés. Le cadre européen impose désormais des obligations majeures : l'AI Act classe les systèmes selon leur niveau de risque et impose une identification explicite des contenus générés ou manipulés par IA. L'article 50 de ce règlement exige que les déployeurs signalent clairement les deepfakes et contenus artificiels. Une proposition de loi française récente anticipe ces obligations en demandant l'identification des contenus IA dès leur diffusion sur les réseaux sociaux, en vue de combattre la désinformation.

Ce que suit ActuIA

ActuIA observe l'évolution des capacités de modération par IA et leurs effets réels sur la circulation de l'information. Les débats autour de la transparence des algorithmes, les obligations de signalement des contenus générés, et l'équilibre entre automatisation et jugement humain sont au cœur de la veille. La mise en œuvre concrète de l'AI Act et l'harmonisation entre les directives européennes et les pratiques nationales constituent un axe majeur. Les développements technologiques en matière de détection de deepfakes ou d'analyse de sentiment, ainsi que leurs applications dans la gestion des crises réputationnelles ou de la modération à grande échelle, font partie de l'agenda. L'impact des systèmes d'IA sur les bulles informationnelles et la polarisation des débats en ligne est également suivi comme un enjeu sociétal fondamental.

Articles

37 au total
Pilote / POC / expérimentation

Meta AI fait ses premiers pas en Europe mais avec des fonctionnalités limitées

21/03
Nouvelle fonctionnalité

Meta AI Studio : créer ses propres IA pour Instagram, Messenger et WhatsApp

09/08
Nouvelle fonctionnalité

LinkedIn déploie de nouvelles fonctionnalités d'IA générative pour ses abonnés premium

14/06
Nouveau modèle

Meta dévoile les deux premiers modèles de la famille Llama 3

19/04
Tribune / opinion

CNNum : retrouver la liberté d’innover, de choisir et de penser avec le dégroupage des réseaux sociaux

08/04
Déploiement en entreprise / organisation

Comment la FIFA et la FIFPRO protègent le monde du football grâce à l'IA

26/12
Baromètre / sondage

Selon un sondage, humains et IA doivent être associés pour une modération de contenu en ligne efficace

07/11
Nouveau produit / service

Découvrez SuccessfulAI, plateforme d'accélération de l'adoption de l'intelligence artificielle

03/11
Nouveau produit / service

Microsoft lance Microsoft designer, une application de conception graphique qui intègre DALL-E 2

17/10
Déploiement en entreprise / organisation

META AI dévoile BlenderBot 3, un projet de recherche sur l'IA conversationnelle

19/08
Alliance stratégique

Football : Grâce à l’IA, la FIFA et la FIFPRO s’engagent contre le harcèlement en ligne

28/06
Usage malveillant (deepfake, fraude…)

Des faux profils générés par l'intelligence artificielle identifiés et supprimés du réseau LinkedIn

13/04
Tribune / opinion

Meta dévoile comment elle entend construire le métavers grâce à l'Intelligence Artificielle

01/03
Décision d'autorité (CNIL, CE…)

Pourquoi Meta a décidé d’abandonner la reconnaissance faciale pour Facebook

14/02
Avancée méthodologique

Meta AI dévoile une technologie d’IA pour améliorer la modération sur Facebook et Instagram

16/12
Déploiement en entreprise / organisation

Sur Tinder, l’intelligence artificielle et le Deep Learning au service de la lutte contre le harcèlement

16/11
Avancée méthodologique

Des chercheurs développent un outil pour quantifier la beauté d'un paysage grâce à l’intelligence artificielle

15/10
Sanction / amende

Irlande : WhatsApp condamné à payer 225 millions d'euros pour avoir enfreint plusieurs points du RGPD

16/09
Acquisition / rachat

Hootsuite acquiert Heydey pour exploiter sa plateforme d'intelligence artificielle conversationnelle

10/08
Nouveau produit / service

Par le biais de sa nouvelle filiale BytePlus, TikTok met en vente ses algorithmes d'intelligence artificielle

07/07
Rapport de marché / adoption

Deux rapports de l'ONU se penchent sur l'utilisation de l'IA pour lutter contre le terrorisme en ligne

05/07
Déploiement en entreprise / organisation

L'intelligence artificielle au service de la lutte contre l'exploitation sexuelle sur internet

01/07
Nouvelle fonctionnalité

Google cherche à lutter contre les contenus indésirables grâce à l'intelligence artificielle

06/05
Publication scientifique

Quelle est l'influence de l'intelligence artificielle sur les décisions de vote et les rencontres en ligne ?

30/04
Tribune / opinion

La police australienne souhaite utiliser l'intelligence artificielle pour agir contre les harceleurs sur Tinder

27/04
Nouvelle fonctionnalité

Google Meet utilise l'intelligence artificielle afin de proposer de nouvelles fonctionnalités

23/04
Avancée méthodologique

Projet STOP : comment l'analyse de publications sur Twitter peut prévenir les risques de suicide

16/04
Création d'entité / lancement de structure

Twitter annonce des travaux visant à rendre ses algorithmes plus éthiques et transparents

15/04
Acquisition / rachat

Demain.ai annonce l'acquisition de Kaption.fr, agence de sous-titrage de vidéos YouTube

13/04
Nouvelle fonctionnalité

Comment Facebook compte lutter contre les deepfakes

13/01
Avancée méthodologique

Le machine learning pour détecter les trolls en ligne au centre d'un projet de chercheurs de Caltech

09/01
Pédagogie / explication

Initiation à l'analyse de texte sur Twitter en Python avec Textblob et Tweepy

16/01
Nouvelle fonctionnalité

Facebook utilise l'intelligence artificielle pour lutter contre la propagande terroriste

16/06
Levée de fonds

Pinterest veut améliorer son expertise en vision par ordinateur et lève 150 millions de dollars

07/06
Déploiement en entreprise / organisation

Intelligence artificielle: trois perspectives de bouleversement dans les médias

16/05
Nouvelle fonctionnalité

Facebook créé un nouvel outil d'intelligence artificielle pour traduire mieux et plus rapidement

14/05
Nouveau produit / service

Facebook annonce des projets dans le domaine de la réalité augmentée

19/04