Usine à trolls

Une usine à trolls^,^,^, (en anglais « troll factory »), ou une ferme à trolls (de l'anglais « troll farm »), est une organisation qui regroupe et coordonne des trolls sur internet, voire des hackers, payés pour diffuser de manière massive des informations partielles, partiales ou totalement mensongères sur les réseaux sociaux.

Leur but est la déstabilisation géopolitique ou politique, le lobbying ou la propagande politique^,. Ces usines à trolls peuvent soit être issues d’initiatives privées, soit être constituées et coordonnées par un gouvernement, parti politique ou tout autre groupe de pression. Les méthodes utilisées incluent la rémunération de commentateurs sur les réseaux sociaux, le trolling agressif de journalistes, ou la création de bots informatiques et de médias diffusant des informations mensongères.

L'organisation de diffusion de propagande russe Internet Research Agency, ayant participé à des activités d'ingérence électorale dans la présidentielle américaine de 2016^,, est souvent qualifiée d'usine à trolls.

Terminologie

En anglais, l'usage de l'expression « troll farm » (ferme de troll) ou « troll army » (armée de trolls) s'est répandu à partir de l'enquête The Agency, publiée en 2015 par le New York Times, sur une usine à troll à Saint-Pétersbourg chargée de publier des messages pro-Vladimir Poutine, anti-Ukraine et anti-américains^,. Le terme gagne en popularité avec les enquêtes sur les ingérences russes dans la présidentielle américaine de 2016, et en particulier l'enquête du magazine américain New Yorker, qui utilise à la fois le terme « troll farm » et de « Russian hacks » (militants ou hackers russes). L'ONG américaine Freedom House parle de « keyboard armies » (armée de claviers). Le site de l'agence de presse américaine Bloomberg parle de « state-sponsored trolling » (trolling d'État).

En français, l'expression « usine à troll » apparait dès 2015 sur FranceInfo, à la suite de l'enquête du New York Times. Certains journalistes préfèrent néanmoins utiliser les termes de « propagandiste », pour appuyer la différence avec le simple pourrissage non-rémunéré de forums sur internet par des trolls classiques, voire « d'armées de troll ».

D'autres traductions ou néologismes apparaissent dans d'autres langues, tels que les « web-brigades » (en russe : Веб-бригады), mot-valise calqué sur les Red brigades (Brigades rouges, en russe : Красные бригады).

Trolls non humains

Depuis le milieu des années 2010 au moins, certains trolls ne sont plus des humains, mais des bots, parfois dénommés « Bad Bots ».

Générés et gérés par une plate-forme dite d'intelligence artificielle, ils sont capables de délivrer des messages ciblés, construits en fonction de la personnalité de l'internaute visé.

Les algorithmes qui les construisent se basent sur la science de l'influence psychologique. Mis au service de la publicité et de la propagande politique, ils ont déjà pu contribuer à fausser des processus électoraux ou de référendums^,^,.

Ce type de trollisme virtuel, qui peut être associé aux fermes de trolls classiques, a été révélé par le scandale Facebook-Cambridge Analytica / AggregateIQ et la découverte de Ripon, une plateforme logicielle créée par AggregateIQ pour le Groupe SCL, afin de truquer les processus électoraux ou référendaires, en influençant artificiellement les émotions et le choix de vote des votants (sans leur consentement, et sans qu'ils aient conscience d'être manipulés)^,.

Silvia Lombardo craint que ces bots générateurs de faits alternatifs, appuyés par des « deepfakes » (« hypertrucages »), construits pour manipuler les personnes et la vérité peuvent conduire, voire ont déjà conduit depuis le milieu des années 2010 au développement de politiques populistes, et à l'évolution de nos sociétés vers un avenir plus dystopique.

Dans le monde

Plusieurs pays dans le monde ont hébergé ou ont été la cible d'actions menées par des usines à trolls. Selon l'ONG américaine Freedom House, au moins 30 gouvernements dans le monde avaient en 2017 créé ou eu recours à des usines à trolls dans le but de discréditer le modèle démocratique, dont 18 pour influencer directement des élections.

Aux États-Unis : les campagnes électorales de Ted Cruz, Ben Carson et surtout de Donald Trump, soutenu par Steve Bannon qui considère qu'une campagne électorale doit être menée comme une guerre et Robert Mercer semblent avoir utilisé des fermes de trolls et ont utilisé le trollisme virtuel (via le logiciel Ripon) pour promouvoir les idéologies du libertarianisme de droite et du populisme politique. Pendant la présidentielle américaine de 2020 et la pandémie de Covid-19, Turning Point USA et sa filiale Turning Point Action ont été décrites comme des fermes à trolls pour avoir payé de jeunes conservateurs de Phoenix, en Arizona, dont certains étaient mineurs et étaient encouragés par leurs parents, pour poster des informations mensongères sur l'intégrité du processus électoral et sur la menace du Covid-19. Le paiement comprenait des primes pour les posts qui avaient le plus d'impact. Ils utilisaient leurs propres comptes de médias sociaux ou de faux comptes, sans révéler leur relation avec Turning Point, et Turning Point leur demandait de modifier légèrement les messages proposés et de les rediffuser sous chaque forme un nombre limité de fois pour empêcher la détection automatique.
Au Brésil, l'ancien président d'extrême droite Jair Bolsonaro s'est servi d'armées de trolls pour propager de la désinformation et tenter de discréditer ses adversaires.
En Iran les fermes à trolls sont aussi un outil de répression nationale
Au Royaume-Uni : la campagne du référendum sur l'appartenance du Royaume-Uni à l'Union européenne a utilisé ces méthodes pour faire advenir le Brexit, qui selon Dominic Cummings n'aurait pas pu être voté sans AggregateIQ, c'est-à-dire sans son logiciel Ripon, expliquent en 2018 (près de deux ans après le vote du Brexit) Christopher Wylie et l'agence de cybersécurité UpGuard.
En Russie^,, en Turquie, aux Philippines, en Macédoine du Nord, en Albanie des usines à troll ont été installées à des fins de propagande politique.
En Macédoine du Nord et dans les Philippines, elles auraient aussi participé à diffuser en 2020 des informations mensongères sur la pandémie de Covid-19.
En France, en 2022, le site Mediapart dénonce les pratiques de Digital Big Brother, une société de gestion de la communication numérique basée en Espagne, qui aurait mis en place une pratique de trollage de grande ampleur visant à contrôler, pour le compte du Paris Saint-Germain, les informations circulant sur twitter se rapportant au club, à ses joueurs et aux médias que ce club considère être ses détracteurs.

Guerre en Ukraine

Dans le contexte de l'invasion de l'Ukraine par la Russie depuis 2022, les fermes à trolls russes des oligarques (Prigojine entre autres) sont particulièrement actives et participent à la propagande, désinformation et désorganisation du monde occidental dues à la guerre en Ukraine.
En 2024, des vidéos d'Adolf Hitler générées par intelligence artificielle sur les réseaux sociaux sont vues plus de 50 millions de fois venant également du réseau social TikTok. Ces vidéos ciblent le « Juif » bouc émissaire, et visent à générer l'antisémitisme en usant de procédés du passé couplés avec les moyens des nouveaux médias. Les services de sûreté intérieure des pays soutenant l'invasion russe de l'Ukraine, et en premier lieu Vladimir Poutine, n'hésitant pas à assimiler Volodymyr Zelensky (lui-même juif) à un nazi, et son peuple de même, selon un discours que Léon Poliakov a démonté dans ses ouvrages, et dont il a exposé l'entière fausseté.

Dans la culture populaire

Télévision

Dans la saison 5 de la série française Le Bureau des légendes, le jeune hacker César est envoyé au Cambodge pour prendre la tête d'une usine à trolls.

Notes et références

1 2 3 Claire Richard, « Propagande : la redoutable usine à trolls du Kremlin », L'Obs, 3 juin 2015 (consulté le 2 octobre 2020).
↑ Gilbert Kallenborn, « Facebook démantèle trois opérations d'intox d'origine russe », sur 01net, 25 septembre 2020 (consulté le 27 septembre 2020).
↑ Brice Couturier, « États-Unis : quand la Chine et l'Iran s'invitent dans la campagne », Le Tour du monde des idées, sur radiofrance.fr, France Culture, 22 septembre 2020 (consulté le 27 septembre 2020).
↑ « «Bienvenue dans le monde des dark PR», Jérôme Lascombe (Wiztopic) », Stratégies, 25 septembre 2020 (consulté le 27 septembre 2020).
1 2 3 Derek Perrotte, « Visite guidée d'une « ferme à trolls » russe », Les Échos, 17 octobre 2018 (consulté le 27 septembre 2020).
↑ (en-GB) Shaun Walker, « Russian troll factory paid US activists to help fund protests during election », The Guardian, 26 novembre 2017 (consulté le 12 janvier 2018).
1 2 (en) Sanja Kelly, Mai Truong, Adrian Shahbaz, Madeline Earp et Jessica White, « Freedom on the Net 2017 : Manipulating Social Media to Undermine Democracy », sur freedomhouse.org, Freedom House, 14 novembre 2017 (consulté le 27 septembre 2020).
1 2 Sébastian Seibt, « Présidentielle américaine : le retour des trolls russes », France 24, 2 septembre 2020 (consulté le 27 septembre 2020).
1 2 Celia Mascré, « L'usine à trolls du Kremlin condamnée par la justice russe », sur franceinfo.fr, 19 août 2015 (consulté le 2 octobre 2020).
↑ (en-US) Adrian Chen, « The Agency », The New York Times, 2 juin 2015 (consulté le 2 octobre 2020).
↑ (en-US) Adrian Chen, « The Real Paranoia-Inducing Purpose of Russian Hacks » , The New Yorker, 27 juillet 2016 (consulté le 2 octobre 2020).
1 2 (en) Michael Riley, Lauren Etter et Bibhudatta Pradhan, « A Global Guide to State-Sponsored Trolling », Bloomberg, 19 juillet 2018 (consulté le 2 octobre 2020).
1 2 3 4 (en) « The Aggregate IQ Files, Part One: How a Political Engineering Firm Exposed Their Code Base », sur upguard.com, 26 mars 2018 (consulté le 21 mars 2021).
1 2 (en-GB) James Titcomb, « Governments in 30 countries are paying 'keyboard armies' to spread propaganda, report says », The Daily Telegraph, 14 novembre 2017 (consulté le 27 septembre 2020).
1 2 3 (en-GB) Carole Cadwalladr, « The Cambridge Analytica files. ‘I made Steve Bannon's psychological warfare tool': meet the data war whistleblower », The Guardian, 18 mars 2018.
1 2 AFP, « "Sans Cambridge Analytica, il n'y aurait pas eu de Brexit", affirme le lanceur d'alerte Christopher Wylie », sur franceinfo.fr, 28 mars 2018 (consulté le 28 mars 2018).
↑ (ru) Vladislav Sourkov, « Владислав Сурков: Долгое государство Путина / Идеи и люди / Независимая газета », Nezavissimaïa Gazeta,‎ 11 février 2019 (consulté le 18 février 2023) : « Les responsables politiques étrangers accusent la Russie de s’ingérer dans les élections et les référendums partout dans le monde. En réalité, la situation est encore plus grave : la Russie s’immisce dans leur esprit, et ils ne savent pas quoi faire de leur propre conscience altérée. Depuis que, après les années 90 désastreuses, notre pays a renoncé aux emprunts idéologiques, a commencé à produire lui-même du sens et est passé à la contre-offensive informationnelle contre l’Occident, les experts européens et américains se trompent de plus en plus souvent dans leurs prévisions. Les préférences « paranormales » de l’électorat les surprennent et les exaspèrent. Désemparés, ils ont annoncé l’avènement du populisme. On peut le dire ainsi, faute de mots. »
↑ (en) Silvia Lombardo, chap. 13 « The Bad, the Good, and the Rebellious Bots : World's First in Artificial Intelligence », dans Thomas Heinrich Musiolik (dir.) et Adrian David Cheok (dir.), Analyzing Future Applications of AI, Sensors, and Robotics in Society, Hershey (PA), IGI Global, coll. « Advances in Computational Intelligence and Robotics (ACIR) », 2020, XXI-335 p. (ISBN 978-1-79983-499-1, 978-1-79983-500-4, 978-1-79983-501-1 et 978-1-79983-502-8), p. 221-237 (DOI 10.4018/978-1-7998-3499-1.ch013 , lire en ligne ).
↑ (en-CA) Katie DeRosa, « Victoria firm AggregateIQ denies link to data-miner at heart of Facebook controversy », Times Colonist, 25 mars 2018 (consulté le 26 janvier 2021).
↑ (en-us) Isaac Stanley-Becker, « Turning Point Action enlists teenagers in 'troll farm' spreading coordinated pro-Trump messaging », The Washington Post, 4 novembre 2020 (version du 4 novembre 2020 sur archive.org).
↑ (pt-BR) Giuliana Vallone, « Inspirado nos EUA, Bolsonaro adota tática de troll: testar limites para ganhar visibilidade, diz filósofo », BBC News Brasil, 22 février 2020 (consulté le 13 novembre 2024).
↑ Christophe Morel, « Twitter révèle des millions de tweets liés à la Russie et l'Iran », sur cosmo-games.com, 18 octobre 2018.
↑ (en-GB) Leo Benedictus, « Invasion of the troll armies: ‘Social media where the war goes on’ », The Guardian, 6 novembre 2016 (consulté le 2 octobre 2020).
↑ (en-GB) Dan Tynan, « How Facebook powers money machines for obscure political 'news' sites », The Guardian, 25 août 2016 (consulté le 2 octobre 2020).
↑ (en-US) Patrick Kingsley, « Highly Secretive Iranian Rebels Are Holed Up in Albania. They Gave Us a Tour. », The New York Times, 17 février 2020 (consulté le 2 octobre 2020).
↑ (en-US) Ben Collins et Brandy Zadrozny, « Troll farms from North Macedonia and the Philippines pushed coronavirus disinformation on Facebook », NBC News, 29 mai 2020 (consulté le 2 octobre 2020).
↑ Clément Fayol et Yann Philippin, « Révélations sur « l'armée numérique » du Paris Saint-Germain » , sur Mediapart, 12 octobre 2022 (consulté le 13 octobre 2022).
↑ « La ferme à trolls du Kremlin », sur Inform Napalm, 31 janvier 2015, traduit de (ru) « Городской типаж: блогер-пропагандист », sur sobaka.ru,‎ 27 janvier 2015.
↑ Julien Moreau, « Ukraine : la Russie utilise une "usine de trolls" pour relayer sa propagande, selon le Royaume-Uni », sur TF1 Info, 1^er mai 2022.
↑ Thomas Messias, « L'IA a ressuscité Adolf Hitler et l'extrême droite n'hésite pas à l'utiliser pour séduire les plus jeunes », Korii, sur Slate.fr, 1^er octobre 2024.
↑ Manon Mariani, « Comment des discours d'Hitler se sont retrouvés sur TikTok ? », Veille sanitaire, sur radiofrance.fr, France Inter, 18 septembre 2024.
↑ Par AFP, « Dans sa quête de soutien, Zelensky invoque son judaïsme », sur fr.timesofisrael.com (consulté le 28 août 2026)
↑ Ces mécanismes de duperies nuisibles, Poliakov les démonte dans la La causalité diabolique.
↑ Thomas Sotinel, « « Le Bureau des légendes », saison 5 : le récap’ » , Le Monde, 13 avril 2020 (consulté le 27 septembre 2020).

Voir aussi

Sur les autres projets Wikimedia :

usine à trolls, sur le Wiktionnaire

Articles connexes

Portail d’Internet

[:1-1] 1 2 3 Claire Richard, « Propagande : la redoutable usine à trolls du Kremlin », L'Obs, 3 juin 2015 (consulté le 2 octobre 2020).

[2] Gilbert Kallenborn, « Facebook démantèle trois opérations d'intox d'origine russe », sur 01net, 25 septembre 2020 (consulté le 27 septembre 2020).

[3] Brice Couturier, « États-Unis : quand la Chine et l'Iran s'invitent dans la campagne », Le Tour du monde des idées, sur radiofrance.fr, France Culture, 22 septembre 2020 (consulté le 27 septembre 2020).

[4] « «Bienvenue dans le monde des dark PR», Jérôme Lascombe (Wiztopic) », Stratégies, 25 septembre 2020 (consulté le 27 septembre 2020).

[Perrotte-5] 1 2 3 Derek Perrotte, « Visite guidée d'une « ferme à trolls » russe », Les Échos, 17 octobre 2018 (consulté le 27 septembre 2020).

[guardian_russian_trollfarms-6] (en-GB) Shaun Walker, « Russian troll factory paid US activists to help fund protests during election », The Guardian, 26 novembre 2017 (consulté le 12 janvier 2018).

[:0-7] 1 2 (en) Sanja Kelly, Mai Truong, Adrian Shahbaz, Madeline Earp et Jessica White, « Freedom on the Net 2017 : Manipulating Social Media to Undermine Democracy », sur freedomhouse.org, Freedom House, 14 novembre 2017 (consulté le 27 septembre 2020).

[:3-8] 1 2 Sébastian Seibt, « Présidentielle américaine : le retour des trolls russes », France 24, 2 septembre 2020 (consulté le 27 septembre 2020).

[:4-9] 1 2 Celia Mascré, « L'usine à trolls du Kremlin condamnée par la justice russe », sur franceinfo.fr, 19 août 2015 (consulté le 2 octobre 2020).

[10] (en-US) Adrian Chen, « The Agency », The New York Times, 2 juin 2015 (consulté le 2 octobre 2020).

[11] (en-US) Adrian Chen, « The Real Paranoia-Inducing Purpose of Russian Hacks » , The New Yorker, 27 juillet 2016 (consulté le 2 octobre 2020).

[:5-12] 1 2 (en) Michael Riley, Lauren Etter et Bibhudatta Pradhan, « A Global Guide to State-Sponsored Trolling », Bloomberg, 19 juillet 2018 (consulté le 2 octobre 2020).

[Upguard20181-13] 1 2 3 4 (en) « The Aggregate IQ Files, Part One: How a Political Engineering Firm Exposed Their Code Base », sur upguard.com, 26 mars 2018 (consulté le 21 mars 2021).

[Propaganda2017-14] 1 2 (en-GB) James Titcomb, « Governments in 30 countries are paying 'keyboard armies' to spread propaganda, report says », The Daily Telegraph, 14 novembre 2017 (consulté le 27 septembre 2020).

[a1-15] 1 2 3 (en-GB) Carole Cadwalladr, « The Cambridge Analytica files. ‘I made Steve Bannon's psychological warfare tool': meet the data war whistleblower », The Guardian, 18 mars 2018.

[franceinfo.fr-16] 1 2 AFP, « "Sans Cambridge Analytica, il n'y aurait pas eu de Brexit", affirme le lanceur d'alerte Christopher Wylie », sur franceinfo.fr, 28 mars 2018 (consulté le 28 mars 2018).

[17] (ru) Vladislav Sourkov, « Владислав Сурков: Долгое государство Путина / Идеи и люди / Независимая газета », Nezavissimaïa Gazeta,‎ 11 février 2019 (consulté le 18 février 2023) : « Les responsables politiques étrangers accusent la Russie de s’ingérer dans les élections et les référendums partout dans le monde. En réalité, la situation est encore plus grave : la Russie s’immisce dans leur esprit, et ils ne savent pas quoi faire de leur propre conscience altérée. Depuis que, après les années 90 désastreuses, notre pays a renoncé aux emprunts idéologiques, a commencé à produire lui-même du sens et est passé à la contre-offensive informationnelle contre l’Occident, les experts européens et américains se trompent de plus en plus souvent dans leurs prévisions. Les préférences « paranormales » de l’électorat les surprennent et les exaspèrent. Désemparés, ils ont annoncé l’avènement du populisme. On peut le dire ainsi, faute de mots. »

[Lombardo2021-18] (en) Silvia Lombardo, chap. 13 « The Bad, the Good, and the Rebellious Bots : World's First in Artificial Intelligence », dans Thomas Heinrich Musiolik (dir.) et Adrian David Cheok (dir.), Analyzing Future Applications of AI, Sensors, and Robotics in Society, Hershey (PA), IGI Global, coll. « Advances in Computational Intelligence and Robotics (ACIR) », 2020, XXI-335 p. (ISBN 978-1-79983-499-1, 978-1-79983-500-4, 978-1-79983-501-1 et 978-1-79983-502-8), p. 221-237 (DOI 10.4018/978-1-7998-3499-1.ch013 , lire en ligne ).

[19] (en-CA) Katie DeRosa, « Victoria firm AggregateIQ denies link to data-miner at heart of Facebook controversy », Times Colonist, 25 mars 2018 (consulté le 26 janvier 2021).

[20] (en-us) Isaac Stanley-Becker, « Turning Point Action enlists teenagers in 'troll farm' spreading coordinated pro-Trump messaging », The Washington Post, 4 novembre 2020 (version du 4 novembre 2020 sur archive.org).

[21] (pt-BR) Giuliana Vallone, « Inspirado nos EUA, Bolsonaro adota tática de troll: testar limites para ganhar visibilidade, diz filósofo », BBC News Brasil, 22 février 2020 (consulté le 13 novembre 2024).

[22] Christophe Morel, « Twitter révèle des millions de tweets liés à la Russie et l'Iran », sur cosmo-games.com, 18 octobre 2018.

[23] (en-GB) Leo Benedictus, « Invasion of the troll armies: ‘Social media where the war goes on’ », The Guardian, 6 novembre 2016 (consulté le 2 octobre 2020).

[24] (en-GB) Dan Tynan, « How Facebook powers money machines for obscure political 'news' sites », The Guardian, 25 août 2016 (consulté le 2 octobre 2020).

[25] (en-US) Patrick Kingsley, « Highly Secretive Iranian Rebels Are Holed Up in Albania. They Gave Us a Tour. », The New York Times, 17 février 2020 (consulté le 2 octobre 2020).

[26] (en-US) Ben Collins et Brandy Zadrozny, « Troll farms from North Macedonia and the Philippines pushed coronavirus disinformation on Facebook », NBC News, 29 mai 2020 (consulté le 2 octobre 2020).

[27] Clément Fayol et Yann Philippin, « Révélations sur « l'armée numérique » du Paris Saint-Germain » , sur Mediapart, 12 octobre 2022 (consulté le 13 octobre 2022).

[28] « La ferme à trolls du Kremlin », sur Inform Napalm, 31 janvier 2015, traduit de (ru) « Городской типаж: блогер-пропагандист », sur sobaka.ru,‎ 27 janvier 2015.

[29] Julien Moreau, « Ukraine : la Russie utilise une "usine de trolls" pour relayer sa propagande, selon le Royaume-Uni », sur TF1 Info, 1^er mai 2022.

[30] Thomas Messias, « L'IA a ressuscité Adolf Hitler et l'extrême droite n'hésite pas à l'utiliser pour séduire les plus jeunes », Korii, sur Slate.fr, 1^er octobre 2024.

[31] Manon Mariani, « Comment des discours d'Hitler se sont retrouvés sur TikTok ? », Veille sanitaire, sur radiofrance.fr, France Inter, 18 septembre 2024.

[32] Par AFP, « Dans sa quête de soutien, Zelensky invoque son judaïsme », sur fr.timesofisrael.com (consulté le 28 août 2026)

[33] Ces mécanismes de duperies nuisibles, Poliakov les démonte dans la La causalité diabolique.

[34] Thomas Sotinel, « « Le Bureau des légendes », saison 5 : le récap’ » , Le Monde, 13 avril 2020 (consulté le 27 septembre 2020).