C’est ce que l’on appelle la manipulation mentale. Dans les jours et les semaines qui ont suivi les élections présidentielles de 2016, des rapports ont fait surface sur la façon dont une petite société de conseil politique britannique, Cambridge Analytica, aurait pu jouer un rôle central dans la victoire surprise de Donald Trump. La société s’est vantée d’avoir créé des algorithmes dans le but d’influencer les électeurs américains en utilisant des publicités politiques ciblées individuellement. La firme aurait ainsi établi les profils de personnalité de millions de citoyens en collectant jusqu’à 5000 données par personne. Cambridge Analytica a ensuite utilisé ces outils ’psychographiques’ pour envoyer aux électeurs des messages en ligne soigneusement élaborés sur des candidats ou des questions politiques brûlantes.

Bien que les consultants politiques utilisent depuis longtemps des techniques de ’micro-ciblage’ pour cibler des groupes ethniques ou religieux ou des groupes d’âge ou de revenu, l’approche de Cambridge Analytica est inhabituelle : l’entreprise s’appuie sur les données personnelles des individus qui sont récoltées à partir d’applications de médias sociaux comme Facebook. Aux États-Unis, ces activités sont entièrement légales.

Certains ont décrit le matériel de Cambridge Analytica comme un ’logiciel de lecture de l’esprit’ et une ’machine de propagande utilisant l’intelligence artificielle comme arme’. Mais les médias institutionnels comme CNN et le Wall Street Journal ont souvent dépeint l’entreprise en termes élogieux.

Cambridge Analytica fait à nouveau la une des journaux, mais dans des circonstances quelque peu différentes. À la fin de la semaine dernière, le lanceur d’alerte Christopher Wylie est sorti de l’ombre pour parler au public du rôle déterminant qu’il a joué dans la collecte de millions de profils Facebook pour Cambridge Analytica.

Cette révélation est importante car jusqu’à ce que la journaliste d’investigation Carole Cadwalladr publie son article dans The Guardian, le PDG de Cambridge Analytica, Alexander Nix avait catégoriquement nié avoir utilisé les données de Facebook. Et, alors que les responsables de Facebook savaient que Cambridge Analytica avait déjà recueilli des données sur des millions d’utilisateurs, ils ont attendu que le scandale éclate vendredi dernier, pour l’interdire de publicité.

Pour empirer les choses, la chaîne britannique Channel 4 a publié en début de semaine des images prises en caméra cachée où on voit les dirigeants de Cambridge Analytica se vanter de donner des pots-de-vin et des ’belles filles’, et de piéger les gens de milles manières, etc.

Le cas de Cambridge Analytica nous fait entrer dans le meilleur des mondes de la politique électorale de l’ère algorithmique – une ère dans laquelle les médias sociaux comme Facebook et Twitter gagnent de l’argent en vendant non seulement des publicités, mais aussi les données des utilisateurs. Relativement peu de pays ont des lois qui interdisent ces pratiques – et il s’avère que les États-Unis ne disposent pas d’une loi fédérale en mesure de protéger la confidentialité des données personnelles.

Ces événements sont importants non seulement parce qu’ils montrent ce qui peut se produire lorsqu’une entreprise peu scrupuleuse profite d’un relatif vide juridique, mais aussi parce qu’ils révèlent la désinvolture avec laquelle des entreprises d’Internet comme Facebook ont traité les données personnelles de milliards d’utilisateurs.

Des relations publiques à la guerre psychologique

Pour comprendre ce qu’est Cambridge Analytica, il faut connaître sa société mère, SCL Group, qui était au départ l’entreprise de relations publiques Strategic communications laboratory.

Elle a été fondée au début des années 1990 par Nigel Oakes, un fringuant homme d’affaires du Royaume-Uni. À la fin des années 1990, l’entreprise se consacrait presque exclusivement à des opérations politiques.

SCL a, par exemple, été engagé pour améliorer l’image du président indonésien Abdurrahman Wahid. Mais Oakes et les employés de SCL ont dû fermer leur centre d’opérations lorsque la couverture de SCL a été détruite par le Wall Street Journal.

En juillet 2005, SCL a subi une transformation radicale. Elle a redoré son blason auprès du public en participant à la plus grande foire commerciale militaire du Royaume-Uni en tant qu’entreprise de guerre psychologique. Il y avait sur le stand de SCL, un mini-centre d’opérations où des scénarios dramatiques étaient mis en scène (une épidémie de variole à Londres, une insurrection sanglante dans un pays fictif d’Asie du Sud…) et étaient ensuite résolus grâce aux techniques de psy-ops (opérations psychologiques) de la firme. Oakes a dit à un journaliste : ’Avant, nous étions dans le business de la manipulation mentale à des fins politiques, mais maintenant notre business est de sauver des vies’. Les efforts de l’entreprise ont porté fruit. Au cours des dix années suivantes, SCL a signé des contrats avec les Commandements militaires du département de la Défense des États-Unis, l’OTAN et Sandia National Labs.

Au cours des dernières années, SCL – maintenant connu sous le nom de SCL Group – s’est transformé une fois de plus. Il ne se définit plus comme un spécialiste des psy-ops, ni comme un consultant politique – maintenant, il se présente comme une société d’analyse de données, spécialisée dans les programmes de ’changement comportemental’.

En cours de route, il a créé Cambridge Analytica, une filiale qui se distingue de SCL Group en ce qu’elle se concentre principalement sur les campagnes politiques. Ses plus gros investisseurs comprennent le milliardaire Robert Mercer, co-PDG du fond spéculatif Renaissance Technologies, qui est surtout connu pour son soutien à l’extrême-droite et son financement à Breitbart News. Steve Bannon a siégé brièvement au conseil d’administration de Cambridge Analytica.

Cambridge Analytica a attiré l’attention des médias pour la première fois en novembre 2015, peu après que le candidat républicain à la présidence Ted Cruz en soit devenu un client.

Bien que Cruz ait finalement échoué, selon le PDG de Cambridge Analytica, Alexander Nix, la popularité de Cruz a grimpé en grande partie grâce à l’habile utilisation de données collectées sur les électeurs et de méthodes de profiling.

En août 2016, la campagne Trump a engagé Cambridge Analytica dans un effort désespéré pour contrecarrer la formidable machine de campagne d’Hillary Clinton. Quelques mois plus tard, des journalistes ont révélé que Cambridge Analytica avait également joué un rôle dans le succès de la campagne britannique pro-Brexit ’Leave.EU’.

Le piratage des citoyens

Cambridge Analytica utilise des techniques ’psychographiques’ qui mesurent les cinq grands traits de personnalité énoncés par la psychologie sociale : ouverture, conscience, extraversion, amabilité et névrose.

Aux Etats-Unis, Cambridge Analytica a développé les profils psychologiques de millions d’Etasuniens en utilisant les services d’une société appelée Global Science Research (GSR) pour diffuser des tests gratuits de personnalité.

Les utilisateurs ont été attirés par la perspective d’obtenir gratuitement le résultat de leur test de personnalité, et Cambridge Analytica a recueilli les données, et accédé aux profils Facebook des utilisateurs.

La semaine dernière, The Guardian a rapporté que Cambridge Analytica a ainsi recueilli les données de plus de 300 000 utilisateurs de Facebook. En acceptant les termes et conditions de facebook, ces utilisateurs ont également accepté d’accorder à GSR (et par extension, à Cambridge Analytica) l’accès aux profils de leurs ’amis’ Facebook – soit environ 50 millions de personnes.

L’analyse psychographique utilise des algorithmes pour compter les ’like’ des électeurs sur Facebook, les retweets et autres données des médias sociaux qui sont ajoutées aux informations ouvertes à tous : registres fonciers, données liées à la possession d’une automobile, achats préférentiels, abonnements à des clubs, abonnements à des magazines, et affiliation religieuse.

Ces données combinées avec des documents publics, des listes électorales et des informations supplémentaires achetées auprès de marchands de données comme Acxiom et Experian, fournissent à Cambridge Analytica sa matière première pour façonner des profils. Les empreintes numériques peuvent être transformées en personnes réelles.

C’est l’essence même de la psychographie : utiliser des algorithmes logiciels pour comptabiliser les ’like’ sur Facebook des électeurs, les retweets et autres données glanées dans les médias sociaux et les combiner avec les informations personnelles disponibles sur le marché.

Accumuler toutes ces données est relativement facile aux États-Unis, car les lois sur la protection de la vie privée y sont relativement peu contraignantes par rapport à celles de la Corée du Sud, de Singapour et de nombreux pays de l’UE.

Dans un exposé en 2016, M. Nix a expliqué que ces informations pouvaient être utilisées pour influencer l’opinion des électeurs sur la possession d’armes à feu et les droits sur les armes à feu. Il faut s’adapter à la personnalité des gens : ’Si vos interlocuteurs sont très angoissés et consciencieux, il faut brandir la menace d’un cambriolage, suggérer une police d’assurance pour une arme à feu. Inversement, s’ils se sentent bien et en sécurité, il faut évoquer la tradition, les habitudes et la famille.’

Tout cela est bien inquiétant, même s’il n’est pas du tout certain que Cambridge Analytica ait joué un rôle décisif dans l’élection présidentielle américaine de 2016. Certains observateurs pensent que la société et son ancien PDG Alexander Nix ont exagéré l’influence de Cambridge Analytica sur le résultat de l’élection.

En février 2017, le journaliste d’investigation Kendall Taggart a écrit un article affirmant que plus d’une douzaine d’anciens employés de Cambridge Analytica, des employés de la campagne Trump et des cadres de sociétés de conseil républicaines ont nié que la psychographie ait été utilisée par la campagne Trump.

Taggart a conclu : ’Plutôt qu’une sinistre percée dans la technologie politique, l’histoire de Cambridge Analytica semble faire partie de la traditionnelle compétition entre les consultants qui prétendent tous être à l’origine du succès d’une élection pour se faire de nouveaux clients’. Ces voix critiques ont toutes désiré garder l’anonymat, craignant apparemment les représailles de Robert Mercer et de sa fille Rebekah, qui est aussi un investisseur dans l’entreprise.

Pas innocents non plus à l’étranger

Cambridge Analytica n’a pas limité son activité aux seuls États-Unis. La firme a mené des ’opérations d’influence’ dans plusieurs pays du monde.

Par exemple, Cambridge Analytica a joué un rôle majeur dans les élections présidentielles de l’année dernière au Kenya, qui ont opposé le candidat sortant Uhuru Kenyatta du parti de droite, Jubilee Party, à Raila Odinga du Mouvement démocratique orange de l’opposition.

Le Jubilee Party a engagé Cambridge Analytica en mai 2017. Bien que la société affirme avoir limité ses activités à la collecte de données, Mark Turnbull, directeur général de Cambridge Analytica, a raconté une autre histoire, au début de la semaine, à des journalistes qui le filmaient en caméra cachée.

Dans la vidéo, Il admet que la firme a secrètement géré toute la campagne de Kenyatta : ’Nous avons fait deux opérations pour améliorer l’image du parti, nous avons écrit le manifeste, fait de la recherche, des analyses et publié des commentaires. Je pense qu’on a écrit tous les discours et qu’on a tout mis en scène, donc on s’est occupé à peu près de tout ce qui concernait le candidat’, a déclaré M. Turnbull.

Étant donné les révélations les plus récentes sur la diffusion de fausses nouvelles par Cambridge Analytica, il semble probable que l’entreprise a conçu des annonces publicitaires personnalisées persuasives basées sur les données des médias sociaux des Kenyans.

Quantités de faux posts Whatsapp et Twitter ont été diffusés quelques jours avant les élections kenyanes. Il faut rappeler que SCL Group a mené des campagnes de désinformation pour des clients militaires pendant 25 ans, et il semble que Cambridge Analytica ait continué d’utiliser les mêmes techniques pour abuser les gens.

Les élections d’août ont été entachées de soupçons de fraude électorale : il y avait des personnes décédées sur les listes électorales et Chris Msando, le directeur de la technologie de la commission électorale, a été assassiné quelques jours avant l’élection.

Lorsque la poussière est retombée, on a compté au moins 67 morts dans les violences post-électorales – et Kenyatta est finalement sorti victorieux. Quelques semaines plus tard, la Cour suprême du Kenya a annulé les élections, mais Odinga a déclaré qu’il boycotterait les nouvelles élections programmées pour octobre.

Compte tenu des récents antécédents de fraude électorale au Kenya, il est peu probable que Cambridge ait eu beaucoup d’influence sur les résultats. L’anthropologue Paul Goldsmith, qui vit au Kenya depuis 40 ans, note que le résultat des élections a plutôt tendance à dépendre de ’qui compte les votes’ et non de ’qui influence les électeurs’.

Mais le travail de Cambridge Analytica va au-delà de sa contribution aux résultats électoraux. Le Kenya est loin d’avoir du retard sur le plan technologique. Le premier service au monde de mobile monnaie y a été lancé en 2007, permettant aux utilisateurs de transférer de l’argent liquide et d’effectuer des paiements par téléphone.

Des entreprises technologiques locales forment une ’Silicon Savannah’ près de Nairobi. Les deux tiers des 48 millions d’habitants du Kenya ont accès à Internet. Dix millions de personnes utilisent Whatsapp ; six millions, Facebook ; deux millions, Twitter.

Comme les Kenyans passent de plus en plus de temps dans le monde virtuel, il va y avoir de plus en plus de données personnelles disponibles, puisque le Kenya n’a pas de lois sur la protection des données.

Goldsmith résume bien la situation :

Cambridge Analytica n’a pas besoin de vraiment fournir des votes, ce dont il a besoin c’est de donner l’impression qu’ils peuvent obtenir des résultats . . . Le Kenya constitue un point d’entrée idéal vers [l’Afrique]. . . il faut se concilier les élites dirigeantes pour exploiter les opportunités commerciales émergentes . . . en gardant un œil sur les ressources de la région et le nombre croissant de jeunes à persuader.

Des rapports récents révèlent que Cambridge Analytica a des opérations en cours au Mexique et au Brésil (qui ont des élections générales prévues en juillet et octobre, respectivement).

L’Inde (qui a des élections générales dans environ un an) a également été courtisée par l’entreprise, et il est facile de comprendre pourquoi : le pays compte 400 millions d’utilisateurs de smartphones et plus de 250 millions d’abonnés à Facebook ou Whatsapp.

Les élections en Inde sont aussi une mine d’or. Plus d’un demi-milliard de personnes votent aux élections législatives, et le montant des dépenses est surprenant : les partis politiques ont dépensé 5 milliards de dollars en 2014, contre 6,5 milliards de dollars aux élections étasuniennes de l’an dernier. L’Inde a également mis en place un vaste programme d’identification biométrique, le plus important au monde de ce type.

La stratégie globale de Cambridge Analytica semble axée sur l’expansion de sa part de marché sur les marchés prometteurs. Bien que de nombreuses personnes décrivent le Kenya, le Mexique, le Brésil et l’Inde comme des pays en développement, ces pays ont, en fait, une infrastructure de haute technologie en rapide croissance, des niveaux relativement élevés de pénétration d’Internet et un grand nombre d’utilisateurs de médias sociaux.

Les lois sur la protection de la vie privée sur Internet y sont soit peu contraignantes soit inexistantes. Bien qu’ils soient théoriquement démocratiques, ces pays sont politiquement instable et ont connu des épisodes de violence politique, sectaire ou de criminalité barbare.

Enfin, ces pays ont une population relativement jeune, ce qui donne à penser que la stratégie à long terme de l’entreprise est probablement de mettre au point une forme de communication politique qui, appliquée ensuite dans les régions politiquement sensibles, rapportera beaucoup d’argent.

La capacité à inonder les électeurs du monde entier de messages politiques payants augmente dans une grande partie du monde, car les publicités Facebook, les robots et trolls pour Twitter, les robots pour Whatsapp et autres, sont bon marché – et aussi parce que plus de gens que jamais passent du temps sur les médias sociaux. De tels systèmes peuvent être gérés efficacement à distance.

Contrairement aux opérations psy-ops de la CIA du milieu du 20ième siècle, qui nécessitaient un travail considérable sur le terrain (il fallait déposer des tracts dans les avions, soudoyer des journalistes locaux, diffuser de la propagande dans des mégaphones montés sur des voitures, etc.), les nouvelles techniques peuvent être mises en oeuvre à distance, au moindre coût.

Cambridge Analytica a de petites équipes au sol qui travaillent avec les partis politiques, et il a développé des partenariats avec des firmes locales, qui collectent des renseignements sur les entreprises, pour évaluer la concurrence ou fournir des conseils en marketing, mais la plupart du travail se fait à partir de Londres et de New York.

Le big data comme arme ?

Depuis ses débuts, Cambridge Analytica se décrit comme un groupe d’experts analytiques ’axé sur les données’ qui se livre à une forme améliorée de micro-ciblage politique, mais il semble que l’entreprise ait, en réalité, davantage d’ambition.

En mars 2017, on a appris que des cadres supérieurs du Groupe SCL avaient rencontré des responsables du Pentagone, dont Hriar Cabayan, le chef d’une branche qui mène des recherches et des analyses culturelles pour le Département de la défense.

Il y a dix ans, Cabayan a joué un grand rôle dans le lancement du Human Terrain System, un programme précurseur de contre-insurrection de l’armée américaine qui intégrait des anthropologues et d’autres spécialistes des sciences sociales aux brigades de combat américaines en Irak et en Afghanistan.

Quelques mois plus tard, en août 2017, Associated Press a rapporté que le général à la retraite de l’armée américaine Michael Flynn, qui a brièvement servi comme directeur de la sécurité nationale dans l’administration Trump, avait signé un contrat de travail avec Cambridge Analytica à la fin de 2016, mais on ne sait pas s’il a réellement travaillé pour l’entreprise.

Flynn a plaidé coupable d’avoir menti au FBI au sujet de ses contacts avec des agents russes à la fin de 2017, alors qu’il travaillait avec l’équipe de transition de Trump. Le battage autour de cette histoire fait oublier qu’il a autrefois dirigé des opérations de renseignement américaines en Afghanistan, et plaidé en faveur d’une approche de la contre-insurrection basée sur une large utilisation de données incluant, entre autres, les données recueillies par les équipes de Human Terrain Teams.

Les liens entre Cambridge Analytica/SCL Group et les champions du Pentagone de la contre-insurrection et de la cyber-guerre basées sur le big data sont peut-être entièrement fortuits, mais ils soulèvent plusieurs questions : quand Cambridge Analytica entreprend de se développer à l’international, ses projets ne sont-ils pas un tout petit plus sinistres que sa simple mission affichée de ’changement comportemental’ ?

Et les opérations récentes de l’entreprise au Kenya, en Inde, au Mexique et au Brésil sont-elles simplement le signe de l’expansion de l’entreprise sur le marché mondial, ou ces pays lui servent-ils de laboratoires pour tester de nouvelles méthodes de propagande et de polarisation politique en vue d’une éventuelle application ici même dans notre pays ?

C’est ici que la frontière entre les applications militaires et civiles se brouille, non seulement parce que ARPANET – le précurseur immédiat d’Internet – a été développé par l’Advanced Research Projects Agency du Pentagone, mais aussi parce que cette technologie peut être utilisée pour la surveillance à une échelle dont les régimes autoritaires du XXe siècle n’auraient jamais osé rêver. Comme Yasha Levine l’affirme de façon convaincante dans son livre Surveillance Valley : The Secret Military History of the Internet, Internet a été conçu à l’origine comme un programme de surveillance anti-insurrectionnelle.

Neutraliser la machine de surveillance de Facebook

Il semble que beaucoup de gens prennent enfin conscience de l’éléphant numérique qui est dans la salle : le rôle que joue Facebook en facilitant le travail – légal et discret – de Cambridge Analytica et d’autres propagandistes, publicistes et manipulateurs mentaux.

Comme l’a récemment noté LorenzoFranceschi-Bicchierai dans le journal en ligne Motherboard, les pratiques de collecte de données de Cambridge Analytica n’étaient pas des failles de sécurité, elles étaient ’ dans l’ordre des choses . . .

C’était une fonctionnalité, pas un bug. Facebook recueille toujours – et vend ensuite – de grandes quantités de données sur ses utilisateurs.’

En d’autres termes, chaque message ou tweet sur Facebook, chaque message g-mail envoyé ou reçu par les citoyens permet de collecter sur eux des données numériques qui peuvent être achetées et vendues au plus offrant.

L’information peut être utilisée à toutes sortes de fins sur un marché non réglementé : surveiller les états émotionnels des utilisateurs, manipuler leurs comportements ou diffuser une propagande conçue spécialement pour convaincre les gens de choisir un camp.

Il est révélateur que Facebook refuse obstinément de qualifier les actions de Cambridge Analytica d’’atteinte à la protection des données’. Comme le dit Zeynep Tufekci, l’auteur du livre Twitter And Tear Gas : The Power and Fragility of Networked Protest, la position défensive de l’entreprise en dit long sur les coûts sociaux des médias sociaux. Elle a récemment écrit :

’Si votre entreprise construit une machine de surveillance massive, les données seront tôt ou tard utilisées de manière abusive. Piratées, violées, fuitées, volées, détournées, ciblées, promises, profilées, vendues. On ne demande pas aux gens leur avis, ni leur aval, parce que cela n’est évidemment pas possible.’

L’affaire Cambridge Analytica est importante dans la mesure où elle éclaire les nouveaux processus de contrôle technologique en cours d’élaboration. Dans un environnement médiatique saturé, où Facebook, Twitter et WhatsApp (propriété de Facebook) sont devenus les principaux moyens par lesquels des milliards de personnes consomment littéralement les informations, la propagande de masse n’a jamais été plus facile. Avec tant de gens qui donnent tant d’informations sur les détails intimes de leur vie sur le Web, les tentatives coordonnées de manipulation de masse se généraliseront presque certainement à l’avenir.

En attendant, il y a des mesures concrètes que nous pouvons prendre pour freiner Facebook, Amazon, Google, Twitter et d’autres géants de la technologie. Roger McNamee, un spécialiste du capital-risque et de l’investissement en capital-risque, a fait quelques suggestions fort appropriées.

Il recommande une approche à plusieurs volets : exiger que les PDG des entreprises de médias sociaux témoignent devant les comités du Congrès et du Parlement en séances publiques ; imposer des règlements stricts sur la façon dont les plateformes Internet sont utilisées et commercialisées ; exiger des entreprises de médias sociaux qu’elles donnent les noms des sponsors des annonces publicitaires qui portent sur la politiques et des questions de fond ; exiger la transparence des algorithmes (’les utilisateurs doivent savoir pourquoi ils voient ce qu’ils voient dans leurs fils d’actualité et leurs résultats de recherche’, dit McNamee) ; exiger que les applications de médias sociaux offrent un option de désabonnement aux utilisateurs ; interdire les robots numériques qui usurpent l’identité humaine ; et créer des règles qui permettent aux utilisateurs (et non aux entreprises) d’être propriétaires de leurs propres données.

Dans un monde où la protection de la vie privée diminue, il est facile d’abuser de notre vulnérabilité.

Les psychologues expérimentaux spécialisés dans ce qu’ils baptisent du doux euphémisme de ’projet comportemental*’ ont largement ignoré l’éthique et la moralité dans leur efforts pour aider les entreprises de la Silicon Valley à créer des dispositifs numériques, des applications et d’autres technologies auxquels les utilisateurs sont littéralement incapables de résister.

Il faut profiter des révélations actuelles sur les activités de Cambridge Analytica, et de leur impact sur le paysage politique américain, pour mettre en place des mesures efficaces de contrôle de Facebook, Google, Twitter et de toutes les entreprises qui ont jusqu’ici allègrement piétiné les principes démocratiques – et les notions de confidentialité individuelle – dans leur recherche incessante de profit.

Roberto J. González