Des opérations classiques, rendues plus faciles par l’IA
Le rapport d’OpenAI emploie l’expression false fronts : des façades qui donnent à un message une apparence indépendante de ceux qui l’organisent. Une fausse identité de journaliste ou un institut apparemment sérieux peut ainsi servir d’intermédiaire entre une campagne clandestine et un lecteur qui ne sait pas qui finance ou dirige réellement la production.
Le phénomène n’a pas commencé avec les modèles génératifs. Les campagnes d’influence utilisaient déjà les signatures fictives, les organisations-écrans, les faux documents et les rédactions trompées. Ce que l’IA change ici, selon OpenAI, est la facilité avec laquelle des opérateurs peuvent retravailler un texte, l’adapter à une langue, préparer un courriel de soumission ou mettre en forme un bilan pour leurs commanditaires. L’outil ne remplace pas les accès aux médias, les relations locales ni les décisions humaines.
Depuis début 2024, OpenAI dit avoir exposé 30 opérations d’influence clandestines utilisant ses services. Elle estime que celles qui parviennent à faire publier du contenu dans des médias existants atteignent généralement une audience potentielle plus élevée que celles cantonnées à leurs propres comptes sociaux. Cette appréciation concerne la circulation possible des contenus ; elle n’établit ni le nombre de personnes convaincues ni un résultat politique mesuré.
Ce que le rapport permet de vérifier
OpenAI s’appuie sur les usages des comptes qu’elle a fermés et sur des recherches en sources ouvertes. Il faut distinguer trois niveaux de preuve. Le premier est ce que les opérateurs affirment avoir fait dans leurs messages et leurs bilans internes. Le deuxième est ce qu’OpenAI a pu retrouver : publications, reprises, réactions ou vérifications de faits. Le troisième serait l’effet réel sur les lecteurs et les décisions publiques. C’est souvent le plus difficile à établir.
Cette méthode est indispensable parce que les auteurs des campagnes peuvent gonfler leurs propres chiffres. Le rapport montre même des cas où ils se sont attribué des événements ou des arguments publics qui existaient indépendamment d’eux. Répéter leurs déclarations de succès sans les recouper reviendrait à prolonger l’opération d’influence dans le traitement journalistique.
Il faut aussi rester précis sur l’attribution. OpenAI parle de comptes provenant de Russie et d’Iran et décrit des indices sur les réseaux concernés. Cela ne signifie pas que le rapport identifie publiquement, pour chaque volet, une agence étatique responsable ou l’ensemble des personnes impliquées. Les deux groupes ont utilisé ChatGPT parmi d’autres moyens, et OpenAI dit avoir transmis des informations aux autorités compétentes.
« Dark Clark » : un institut de recherche comme façade
Le premier ensemble de comptes provenait, selon OpenAI, de Russie et ciblait plusieurs pays d’Amérique latine. L’entreprise l’a baptisé Dark Clark, d’après « Mia Clark », une identité fictive utilisée pour gérer des aspects de l’activité d’un prétendu Social Research Center. Les documents décrits par OpenAI évoquent le recrutement, la rémunération et la gestion de recherches. Les employés présents sur le terrain semblent avoir travaillé de bonne foi sans savoir, d’après les éléments disponibles, que la structure était contrôlée par les opérateurs russes.
Ce détail rend l’affaire plus complexe qu’une ferme à contenus. OpenAI a identifié plus de 60 articles sur le site du centre ; la plupart lui paraissaient être des travaux originaux fondés sur des entretiens et des recherches effectués localement. Une personne qui aurait simplement testé ces textes pour y chercher une marque d’IA n’aurait donc pas nécessairement repéré le contrôle clandestin de l’organisation. Le problème porte autant sur l’identité du donneur d’ordre que sur la fabrication du texte.
Les opérateurs ont utilisé ChatGPT surtout pour rédiger ou actualiser leurs rapports internes. Dans la majorité des cas observés, OpenAI ne les a pas vus demander au modèle d’écrire directement les contenus publics de la campagne. Il existe néanmoins des exceptions : traduction de documents, adaptation de formulations locales et écriture de scripts audio destinés à accompagner des pièces fabriquées. Certaines publications retrouvées en ligne correspondent à ces demandes ; d’autres actions revendiquées n’ont pas été corroborées.
Des faux qui peuvent devenir des événements médiatiques
Le rapport détaille plusieurs tentatives de produire non seulement un faux document, mais aussi une réaction autour de lui. Des messages attribués à des institutions locales, des enregistrements audio ou des vidéos imitant la présentation d’un média pouvaient pousser une école, un responsable ou une rédaction à répondre. Cette réponse devenait ensuite une nouvelle occasion de remettre la fausse histoire en circulation.
Dans certains cas, OpenAI a retrouvé des articles et des vérifications de faits correspondant au récit décrit dans les comptes internes, notamment en Amérique latine. Dans d’autres, elle n’a pas pu retrouver la diffusion alléguée. La présence d’un démenti prouve qu’une histoire est parvenue jusqu’à ceux qui l’ont vérifiée ; elle ne prouve pas que le public y a cru ni que les auteurs ont atteint leur objectif politique.
L’entreprise classe Dark Clark en catégorie 5 sur une échelle de 1 à 6 destinée à apprécier la portée potentielle d’une opération. C’est son évaluation à partir d’indices de diffusion et de reprises publiques. Ce n’est pas une mesure expérimentale de changement d’opinion, encore moins une preuve que tous les événements cités par les opérateurs sont de leur fait.
« Bogus Bylines » : sept signatures pour entrer dans les médias
Le second groupe de comptes provenait, selon OpenAI, d’Iran. L’entreprise le nomme Bogus Bylines : les opérateurs ont utilisé sept identités de journalistes pour proposer des tribunes et des analyses à des médias en ligne. Les textes portaient surtout sur le conflit entre les États-Unis et l’Iran. Les demandes adressées à ChatGPT consistaient notamment à réviser des articles en anglais selon les consignes d’un média, puis à rédiger le courriel destiné à son éditeur.
Certaines biographies présentaient les auteurs comme des journalistes occidentaux indépendants. OpenAI indique qu’au moins une de ces biographies a été rédigée avec l’aide du modèle. Des comptes sociaux accompagnaient certaines signatures afin de les rendre plus crédibles. L’existence d’une biographie, d’un compte et d’un article publié n’équivaut donc pas à une identité vérifiée.
En recherchant les publications accessibles, OpenAI dit avoir identifié près de 100 articles publiés ou repris sous ces signatures dans environ une douzaine de médias en ligne. Ce chiffre désigne des contenus repérés, pas 100 articles intégralement écrits par l’IA, ni 100 textes effectivement lus par une audience significative. L’entreprise estime que le mode opératoire pourrait correspondre à un prestataire d’influence, mais précise ne pas pouvoir identifier le commanditaire exact.
Les commentaires artificiels ont moins pesé que les tribunes
Les mêmes opérateurs ont demandé à ChatGPT des lots de réponses pour les réseaux sociaux, en anglais ou en persan. Certaines visaient à renforcer la visibilité de leurs propres articles ; d’autres reprenaient des récits géopolitiques plus larges. OpenAI a retrouvé une partie de ces réponses publiées, souvent à quelques minutes d’intervalle, mais n’a pas pu établir que toutes les sorties générées ont été mises en ligne.
L’engagement visible était généralement faible. Les commentaires retrouvés obtenaient peu de réactions et formaient une minorité des réponses sous les publications examinées. OpenAI classe ce volet en catégorie 2 sur son échelle de portée. Elle classe en revanche la publication d’articles dans des médias en catégorie 4. La comparaison suggère que l’accès aux circuits éditoriaux existants était plus précieux pour cette opération que le volume de commentaires automatisés.
Les bilans internes du groupe utilisaient par ailleurs un calcul trompeur : ils attribuaient aux commentaires la hausse des vues des publications auxquelles ils répondaient, sans isoler l’effet de la popularité initiale du message ou d’autres réactions. Ce chiffre ne mesure donc pas l’impact propre de la campagne. Il rappelle qu’un tableau chiffré bien présenté peut lui aussi être un élément de propagande.
Ce que l’IA a facilité, sans être la cause unique
Dans Dark Clark, l’IA a beaucoup servi à raconter et organiser l’activité des opérateurs eux-mêmes. Dans Bogus Bylines, elle a davantage aidé à adapter des textes et des démarches aux attentes des rédactions. Les deux stratégies montrent un usage opportuniste de ChatGPT au sein de processus plus vastes. Elles ne prouvent pas que l’outil a créé de toutes pièces les campagnes ou que leur diffusion aurait été impossible sans lui.
Cette nuance compte pour la prévention. Un détecteur de texte généré par IA ne révélera pas forcément une fausse institution dont les employés écrivent réellement leurs articles. Inversement, un texte amélioré à l’aide d’un modèle n’est pas automatiquement une opération d’influence. Les signaux les plus utiles peuvent se trouver dans l’identité des auteurs, la transparence du financement, l’historique des comptes, les méthodes de soumission ou les liens entre plusieurs publications.
Le rapport vient d’OpenAI, qui dispose d’une vue privilégiée sur les usages de ses comptes mais pas sur toutes les plateformes, tous les messages privés ni les effets dans l’opinion. Ses constats doivent être lus comme une enquête importante sur ce qu’elle a pu observer et recouper, pas comme une cartographie complète des réseaux d’influence russes ou iraniens.
Ce que peuvent faire les rédactions et les lecteurs
Pour une rédaction, la première question n’est pas seulement « ce texte est-il bien écrit ? », mais qui le propose et pour le compte de qui ? Une nouvelle signature sur un sujet géopolitique sensible mérite une vérification de son parcours, de ses contacts et de ses éventuels liens avec d’autres auteurs ou organisations. Les biographies et les profils sociaux sont des indices à examiner, pas des preuves suffisantes en eux-mêmes.
Pour le lecteur, une publication dans un média connu augmente la crédibilité perçue d’un article, mais ne garantit pas que l’identité de l’auteur a été établie. Il faut comparer les informations importantes avec d’autres sources, regarder les documents cités et se demander si l’auteur ou l’institution qui les présente est indépendant de l’histoire qu’il raconte.
La réponse ne consiste pas à soupçonner indistinctement tous les textes assistés par IA. Elle consiste à renforcer les contrôles de provenance et de responsabilité qui existaient déjà dans le journalisme. Les cas décrits par OpenAI montrent que ces garde-fous deviennent plus importants lorsque produire une présentation crédible coûte moins cher.
Le regard FLUXAI
Le fait le plus marquant de ce rapport n’est pas la quantité de textes produits par ChatGPT. C’est la capacité de deux réseaux à utiliser des façades de confiance : un institut de recherche et des signatures de journalistes. OpenAI apporte des éléments sur leurs méthodes, les comptes fermés et certaines publications retrouvées. Elle ne démontre pas combien de personnes ont changé d’avis. Entre une campagne visible et une campagne efficace, il reste une distance que le traitement de l’information doit refuser d’effacer.