Dans un rapport qui secoue le monde de la cybersécurité et de l’intelligence artificielle, OpenAI, la firme à l’origine de ChatGPT, a révélé l’existence de campagnes d’influence sophistiquées, orchestrées depuis la Chine, visant à manipuler l’opinion publique américaine. Ces opérations, menées via des comptes inauthentiques sur les réseaux sociaux, utilisaient activelement le célèbre chatbot pour générer du contenu, qu’il s’agisse de textes argumentatifs ou d’illustrations, dans le but de discréditer les centres de données dédiés à l’IA et de critiquer les politiques technologiques des États-Unis. Cette annonce met en lumière une nouvelle dimension dans la guerre de l’information, où les outils d’IA générative deviennent des armes potentielles dans les mains d’acteurs étatiques ou liés à des États, soulevant des questions cruciales sur la sécurité des plateformes et la résilience démocratique face à de telles manœuvres.
Le rapport d’OpenAI détaille avec une précision glaçante comment ces groupes ont exploité les capacités de ChatGPT, non seulement pour produire des messages, mais aussi pour affiner leurs stratégies de propagation. La découverte de ces activités soulève des préoccupations majeures quant à l’intégrité de l’information en ligne et la facilité avec laquelle des outils puissants peuvent être détournés de leur usage initial. L’entreprise souligne que, malgré les intentions malveillantes, l’impact réel de ces campagnes sur l’opinion publique reste limité, un constat qui, s’il est rassurant à court terme, ne doit pas masquer la menace grandissante que représentent ces tactiques pour l’écosystème numérique global.
Comment des acteurs chinois ont instrumentalisé ChatGPT pour la désinformation
Le rapport d’OpenAI met en lumière deux groupes distincts de comptes, vraisemblablement basés en Chine, qui ont exploité ChatGPT pour leurs opérations d’influence. Le premier, baptisé par OpenAI le groupe « Data Center Bandwagon », s’est concentré sur la génération de contenus en anglais visant à monter les Américains contre les centres de données d’IA. Ces comptes ont demandé à ChatGPT de produire des arguments et des images, notamment des bandes dessinées, soulignant l’augmentation de la demande en électricité due à ces infrastructures et ses conséquences directes sur les factures des consommateurs. Les utilisateurs se sont fait passer pour des citoyens américains d’horizons divers sur les réseaux sociaux, où ils ont diffusé le texte et les images générés par le chatbot, cherchant à créer une résonance auprès d’un public ciblé.
OpenAI estime que ces individus faisaient partie d’une équipe de médias sociaux au sein d’une entreprise privée chinoise, travaillant pour le compte de clients gouvernementaux locaux. Une preuve accablante de leurs intentions a été la découverte d’un fichier téléchargé sur ChatGPT, décrivant leurs objectifs et leurs stratégies pour influencer l’opinion publique et établir de faux comptes sociaux sans être détectés. Ce groupe a également ciblé des Chinois résidant à l’étranger, allant jusqu’à demander à ChatGPT de générer des insultes pour harceler des dissidents et commentateurs politiques chinois. Se faisant passer pour des immigrants et professionnels chinois basés aux États-Unis, ils ont également incité des personnalités publiques en ligne à débattre davantage des échecs de la politique américaine, démontrant une stratégie d’influence multiforme et insidieuse.
L’impact économique et social des datacenters, un angle d’attaque exploité
Un aspect particulièrement insidieux de cette campagne réside dans l’exploitation de préoccupations légitimes concernant l’impact des centres de données sur les communautés locales. OpenAI a noté que, bien que les comptes utilisés soient inauthentiques, les publications incluaient des liens vers des « articles de presse légitimes sur les enchères de capacité des opérateurs de réseaux électriques et la demande d’énergie des centres de données ». Cette tactique, consistant à mêler des informations véridiques à un discours de désinformation, rend la détection plus complexe et confère une apparence de crédibilité aux messages diffusés.
La hausse des coûts de l’électricité dans les villes et les régions proches des centres de données d’IA est une préoccupation très réelle et l’un des premiers effets tangibles du boom de l’IA que les populations ont ressenti directement. Selon un rapport de Bloomberg, le coût de l’électricité a augmenté de 267 % en un mois par rapport à il y a cinq ans dans les zones proches des centres de données, en raison d’une demande énergétique qui dépasse largement l’offre. En s’appuyant sur ces faits avérés, les acteurs de la désinformation ont cherché à amplifier le mécontentement et à transformer une problématique économique concrète en un levier de discrédit pour l’ensemble du secteur de l’IA et des infrastructures qui le soutiennent, créant ainsi un terreau fertile pour la défiance.
Critiques des politiques américaines et ciblage international
Le second groupe de comptes identifié par OpenAI a quant à lui généré des commentaires et des images critiquant les tarifs douaniers et les politiques technologiques des États-Unis. Leur objectif principal était de produire du contenu dénigrant les États-Unis, insistant sur l’idée que le pays avait « trahi » ses alliés. Cette campagne s’inscrit dans une rhétorique plus large de la part de certains acteurs chinois, visant à affaiblir l’image et l’influence des États-Unis sur la scène internationale, notamment en Asie.
Ces acteurs ont spécifiquement demandé à ChatGPT de ne pas inclure le président chinois Xi Jinping dans les images générées, et de rédiger des commentaires en anglais, italien, japonais et chinois traditionnel, ciblant ainsi des audiences taïwanaises. Cette diversification linguistique et géographique montre une intention claire d’atteindre un public international varié, au-delà des seules frontières américaines, et de semer la discorde et la méfiance envers les politiques américaines. La sophistication de ces requêtes à ChatGPT souligne une compréhension approfondie des nuances culturelles et politiques nécessaires pour une campagne d’influence efficace, même si OpenAI admet que l’engagement authentique généré par ces campagnes est resté faible.
Bilan et perspectives
Le rapport d’OpenAI, bien que rassurant sur l’impact limité de ces campagnes de désinformation, est un signal d’alarme puissant pour l’ensemble de l’écosystème numérique. Il démontre la capacité croissante d’acteurs malveillants à exploiter des outils d’intelligence artificielle avancés pour des objectifs de manipulation et d’influence politique. Si les campagnes n’ont pas réussi à modifier significativement l’opinion publique, leur simple existence révèle une vulnérabilité et la nécessité pour les plateformes technologiques de renforcer leurs défenses et leurs capacités de détection. L’enjeu est de taille : il s’agit de préserver l’intégrité de l’information et la confiance du public dans un environnement numérique de plus en plus complexe et poreux aux tentatives d’ingérence. La vigilance et la collaboration entre les entreprises technologiques, les gouvernements et la société civile seront essentielles pour contrer ces menaces évolutives.
