Usine à trolls
![](http://178.128.105.246/host-http-upload.wikimedia.org/wikipedia/commons/thumb/1/11/55_Savushkina_Street.jpg/220px-55_Savushkina_Street.jpg)
Une usine à trolls[1],[2],[3],[4] (en anglais « troll factory »), ou une ferme à trolls[5] (de l'anglais « troll farm »), est une organisation qui regroupe et coordonne des trolls sur internet, voire des hackers, payés pour diffuser de manière massive des informations partielles, partiales ou totalement mensongères sur les réseaux sociaux. Leur but est la déstabilisation géopolitique ou politique, le lobbying ou la propagande politique[1],[6]. Ces usines à trolls peuvent soit être issues d’initiatives privées, soit être constituées et coordonnées par un gouvernement, parti politique ou tout autre groupe de pression. Les méthodes utilisées incluent la rémunération de commentateurs sur les réseaux sociaux, le trolling agressif de journalistes, ou la création de bots informatiques et de médias diffusant des informations mensongères[7].
L'organisation de diffusion de propagande russe Internet Research Agency, ayant participé à des activités d'ingérence électorale dans l'élection présidentielle américaine de 2016[8],[9], est souvent qualifiée d'usine à trolls.
Terminologie
[modifier | modifier le code]En anglais, l'usage de l'expression « troll farm » (ferme de troll) ou « troll army » (armée de trolls) s'est répandu à partir de l'enquête The Agency, publiée en 2015 par le New York Times, sur une usine à troll à Saint-Petersbourg chargée de publier des messages pro-Vladimir Poutine, anti-Ukraine et anti-américains[10],[11]. Le terme gagne en popularité avec les enquêtes sur les ingérences russes dans l'élection présidentielle américaine de 2016, et en particulier l'enquête du magazine américain New Yorker, qui utilise à la fois le terme « troll farm » et de « Russian hacks » (militants ou hackers russes)[12]. L'ONG américaine Freedom House parle de « keyboard armies » (armée de claviers). Le site d'information américain Bloomberg parle de « state-sponsored trolling » (trolling d'État)[13].
En français, l'expression « usine à troll » apparait dès 2015 sur FranceInfo, à la suite de l'enquête du New York Times[10]. Certains journalistes préfèrent néanmoins utiliser les termes de « propagandiste », pour appuyer la différence avec le simple pourrissage non-rémunéré de forums sur internet par des trolls classiques, voire « d'armées de troll »[1].
D'autres traductions ou néologismes apparaissent dans d'autres langues, tels que les « web-brigades » (en russe : Веб-бригады), mot-valise créé par la journaliste russe Anna Polianskaïa, calquée sur les Red brigades (Brigades rouges, en russe : Красные бригады).
Trolls non humains
[modifier | modifier le code]Depuis le milieu des années 2010 au moins, certains trolls ne sont plus des humains, mais des bots, parfois dénommés « Bad Bots ».
Générés et gérés par une plate-forme dite d'intelligence artificielle, ils sont capables de délivrer des messages ciblés, construits en fonction de la personnalité de l'internaute visé[14].
Les algorithmes qui les construisent se basent sur la science de l'influence psychologique. Mis au service de la publicité et de la propagande politique[15], ils ont déjà pu contribuer à fausser des processus électoraux ou de référendums[16],[17],[14].
Ce type de trollisme virtuel, qui peut être associé aux fermes de trolls classiques, a été révélé par le scandale Facebook-Cambridge Analytica / AggregateIQ et la découverte de la plateforme logicielle Ripon (crée par AggregateIQ pour le Groupe SCL, afin de truquer les processus électoraux ou référendaires, en influençant artificiellement les émotions et le choix de vote des votants (sans leur consentement, et sans qu'ils aient conscience d'être manipulés)[16],[14].
Silvia Lombardo craint que ces bots générateurs de faits alternatifs, appuyés par des « deepfakes » (« hypertrucages »), construits pour manipuler les personnes et la vérité peuvent conduire, voire ont déjà conduit depuis le milieu des années 2010 au développement de politiques populistes[18], et à l’évolution de nos sociétés vers un avenir plus dystopique[19].
Dans le monde
[modifier | modifier le code]Plusieurs pays dans le monde ont hébergé ou ont été la cible d'actions menées par des usines à trolls. Selon l'ONG américaine Freedom House, au moins 30 gouvernements dans le monde avaient en 2017 créé ou eu recours à des usines à trolls dans le but de discréditer le modèle démocratique[7], dont 18 pour influencer directement des élections[15].
- Aux États-Unis : les campagnes électorales de Ted Cruz, Ben Carson et surtout de Donald Trump, soutenu par Steve Bannon qui considère qu'une campagne électorale doit être menée comme une guerre[16] et Robert Mercer[20] semblent avoir utilisé des fermes de trolls et ont utilisé le trollisme virtuel (via le logiciel Ripon) pour promouvoir les idéologies du libertarianisme de droite et du populisme politique. Pendant l'élection présidentielle américaine de 2020 et la pandémie de COVID-19, Turning Point USA et sa filiale Turning Point Action ont été décrites comme des fermes à trolls pour avoir payé de jeunes conservateurs de Phoenix, en Arizona, dont certains étaient mineurs et étaient encouragés par leurs parents, pour poster des informations mensongères sur l'intégrité du processus électoral et la menace du COVID-19. Le paiement comprenait des primes pour les posts qui avaient le plus d’impact. Ils utilisaient leurs propres comptes de médias sociaux ou de faux comptes, sans révéler leur relation avec Turning Point, et Turning Point leur demandait de modifier légèrement les messages proposés et de les rediffuser sous chaque forme un nombre limité de fois pour empêcher la détection automatique[21].
- Au Royaume-Uni : la campagne du référendum sur l'appartenance du Royaume-Uni à l'Union européenne a utilisé ces méthodes pour faire advenir le Brexit, qui selon Dominic Cummings n'aurait pas pu être voté sans Aggregate IQ[17], c'est-à-dire sans son logiciel Ripon, expliquent en 2018 (près de deux ans après le vote du Brexit) Christopher Wylie et l'Agence de cybersécurité UpGuard[14].
- En Russie[8],[9], en Turquie[23], aux Philippines[13], en Macédoine du Nord[24], en Albanie[25] des usines à troll ont été installées à des fins de propagande politique.
- En Macédoine du Nord et dans les Philippines, elles auraient aussi participé à diffuser des informations mensongères en 2020 sur la pandémie de Covid-19[26].
- En France, en 2022, l'hebdomadaire Médiapart dénonce les pratiques de Digital Big Brother, une société de gestion de la communication numérique basée en Espagne, qui aurait mis en place une pratique de trollage de grande ampleur visant à contrôler, pour le compte du Paris Saint-Germain, les informations circulant sur twitter se rapportant au club, à ses joueurs et aux médias que ce club considère être ses détracteurs[27].
- Dans le contexte de l'invasion de l'Ukraine par la Russie depuis 2022, les fermes à trolls russes[28] des oligarques (Prigojine entre autres) sont particulièrement actives et participent à la propagande, désinformation et désorganisation du monde occidental dues à la guerre en Ukraine[29].
Dans la culture populaire
[modifier | modifier le code]Télévision
[modifier | modifier le code]- Dans la saison 5 de la série française Le Bureau des légendes, le jeune hacker César est envoyé au Cambodge pour prendre la tête d'une usine à trolls[30].
Notes et références
[modifier | modifier le code]- « Propagande : la redoutable usine à trolls du Kremlin », sur L'Obs (consulté le )
- 01net, « Facebook démantèle trois opérations d’intox d’origine russe », sur 01net (consulté le )
- « Etats-Unis : quand la Chine et l'Iran s'invitent dans la campagne », sur France Culture (consulté le )
- « «Bienvenue dans le monde des dark PR», Jérôme Lascombe (Wiztopic) », sur Stratégies, (consulté le )
- « Visite guidée d'une « ferme à trolls » russe », sur Les Echos, (consulté le )
- « Russian troll factory paid US activists to help fund protests during election - World news - The Guardian » [archive du ], (consulté le )
- (en) « New Report - Freedom on the Net 2017: Manipulating Social Media to Undermine Democracy », sur Freedom House (consulté le )
- « Visite guidée d'une « ferme à trolls » russe », sur Les Echos, (consulté le )
- « Présidentielle américaine : le retour des trolls russes », sur France 24, (consulté le )
- « L'usine à trolls du Kremlin condamnée par la justice russe », sur Franceinfo, (consulté le )
- (en-US) Adrian Chen, « The Agency », The New York Times, (ISSN 0362-4331, lire en ligne, consulté le )
- (en-US) Adrian Chen, « The Real Paranoia-Inducing Purpose of Russian Hacks », sur The New Yorker (consulté le )
- « [titre manquant] », sur www.bloomberg.com (consulté le )
- (en) « The Aggregate IQ Files, Part One: How a Political Engineering Firm Exposed Their Code Base », sur www.upguard.com (consulté le )
- (en-GB) James Titcomb, « Governments in 30 countries are paying 'keyboard armies' to spread propaganda, report says », The Telegraph, (ISSN 0307-1235, lire en ligne, consulté le )
- (en) Carole Cadwalladr, « The Cambridge Analytica files. ‘I made Steve Bannon's psychological warfare tool': meet the data war whistleblower », The Guardian, (lire en ligne)
- « "Sans Cambridge Analytica, il n'y aurait pas eu de Brexit", affirme le lanceur d'alerte Christopher Wylie », sur francetvinfo.fr, (consulté le ).
- (ru) Vladislav Sourkov, « Владислав Сурков: Долгое государство Путина / Идеи и люди / Независимая газета », sur Nezavissimaïa Gazeta, (consulté le ) : « Les politiciens étrangers accusent la Russie de se mêler des élections et des référendums partout sur la planète. En fait, la question est encore plus grave - la Russie interfère avec leur cerveau et ils ne savent pas quoi faire de leur propre conscience altérée. Depuis que, après les désastreuses années 1990, notre pays a renoncé aux emprunts idéologiques, s'est mis à produire du sens par lui-même et a lancé une contre-offensive informationnelle contre l'Occident, les experts européens et américains se sont de plus en plus trompés dans leurs prévisions. Ils sont surpris et exaspérés par les préférences paranormales de l'électorat. Confus, ils annoncent l'invasion du populisme. Vous pouvez le dire s'il n'y a pas de mots. »
- (en) Silvia Lombardo, « The Bad, the Good, and the Rebellious Bots: World's First in Artificial Intelligence », sur Analyzing Future Applications of AI, Sensors, and Robotics in Society, (consulté le )
- Katie DeRosa, « Victoria firm AggregateIQ denies link to data-miner at heart of Facebook controversy », sur Times Colonist (consulté le )
- Isaak Stanley-Becker, « Turning Point Action enlists teenagers in 'troll farm' spreading coordinated pro-Trump messaging - The Washington Post », sur web.archive.org, (consulté le )
- Twitter révèle des millions de tweets liés à la Russie et l’Iran 2018
- (en) « Invasion of the troll armies: ‘Social media where the war goes on’ », sur the Guardian, (consulté le )
- (en) « How Facebook powers money machines for obscure political 'news' sites », sur the Guardian, (consulté le )
- (en-US) Patrick Kingsley, « Highly Secretive Iranian Rebels Are Holed Up in Albania. They Gave Us a Tour. », The New York Times, (ISSN 0362-4331, lire en ligne, consulté le )
- (en) « Troll farms from North Macedonia and the Philippines pushed coronavirus disinformation on Facebook », sur NBC News (consulté le )
- Clément Fayol, Yann Philippin, « Révélations sur « l’armée numérique » du Paris Saint-Germain », sur Mediapart (consulté le )
- Ferme à troll russe sur Inform Napalm
- Guerre en Ukraine / La Russie utilise une ferme à trolls pour relayer sa propagande sur le site de TF1
- « « Le Bureau des légendes », saison 5 : le récap’ », Le Monde.fr, (lire en ligne, consulté le )