Maroc - HEIDI.HIDORA.COM - A La Une - 04/Oct 04:00

L’esprit humain est le nouveau domaine de la guerre

Bruno Giussani, ancien directeur européen de TED, s'est longuement penché sur le concept en vogue de guerre cognitive, pour le compte de l'armée suisse. Il en a tiré une saison en six épisodes pour le podcast Deftech d'Armasuisse. Dans cet extrait, il nous explique en quoi le progrès des technologies a fait du contrôle de nos esprits devenus un enjeu stratégique majeur.Il y a plus de cinquante conflits armés en cours dans le monde. Des conflits «cinétiques», où des forces militaires ou des milices utilisent fusils, chars, avions, drones et missiles pour infliger à l’ennemi des dommages matériels et humains.Ce sont les conflits qu’on voit à la télévision, faits de violence, sang et destruction. Mais il y en a d’autres, très nombreux, qu’on ne voit pas. Non déclarés, invisibles, qui ne font pas de dégâts physiques, où la partie attaquée souvent ne sait même pas en être la cible. Leurs outils sont l’information, les ordinateurs et les réseaux, l’intelligence artificielle, la psychologie, la linguistique, la neurobiologie. Ils configurent une nouvelle forme de guerre: une «guerre cognitive».C’est le titre d’un papier publié en 2020 par François du Cluzel, un chercheur français auprès de l’OTAN. Il commence par ces mots: «La nature de la guerre a changé. L'esprit humain est désormais considéré comme un nouveau domaine de la guerre.»Le document de Cluzel ne parle que peu de guerre de l’information: celle faite de propagande, de désinformation et de «psy-ops», les opérations psychologiques. Il ne s’étend pas non plus sur la cyberguerre: les attaques informatiques devenues une constante de l’ère numérique. Et ne mentionne nullement l’influence du «soft power». L’esprit, champ de bataille Ce qu’il met en avant, c’est un autre niveau de menace: la menace cognitive, dont le but n’est pas de voler des données ou d’influencer par les fake news ce que les individus pensent, mais de modifier leur façon de penser, leur capacité à comprendre et à s’orienter dans le monde qui les entoure et à décider de leurs actions en autonomie. L’instrument central de cette guerre est l’exploitation, à travers la technologie, de la connaissance de plus en plus détaillée et intime des personnes et de leur cerveau. Data et neuroscience.Celle de Cluzel n’est d’ailleurs pas une projection future. La guerre cognitive est déjà là. C’est un ensemble de pratiques et de technologies de subversion utilisées, avec plus ou moins de succès, par une multitude d’acteurs, étatiques et non étatiques.Remarquez le mot utilisé par Cluzel: «un nouveau domaine de la guerre».  Les armées modernes sont en général organisées en cinq domaines: la terre, la mer, les airs, l’espace et le cyberespace. Le cognitif vient maintenant s’y ajouter. Il devient le sixième domaine, où psychologie, neurobiologie et technologie convergent au service d’une idée, en fait, très ancienne: celle de la victoire sans combat.Cette idée est vieille comme le monde, elle prend sa source il y a 2500 ans déjà par Sun Tzu dans son traité L’Art de la guerre.  Le stratège chinois suggère d’être invisible et inaudible pour «maîtriser le destin de tes adversaires».  Parce que l’art de la guerre, écrit-il, «c’est de soumettre l’ennemi sans combattre». Une après-midi à Berne L’après-midi du mercredi 18 septembre 2024, le Conseil national suisse menait une discussion sur la mission de l’armée, quand la députée centriste Isabelle Chappuis a pris la parole: «Chères et chers collègues, imaginez un monde où vos pensées ne vous appartiennent plus vraiment». Cette ouverture de discours a fait taire la salle, désormais concentrée sur sa proposition: l’inclusion du sixième domaine, le cognitif, parmi celles qu’en Suisse on appelle les «valeurs-cible»: les principes autour desquels s’articule la mission de l’armée.La guerre cognitive, a poursuivi Chappuis, «est un type de conflit totalement nouveau, plus ample et profond que la manipulation de l’information ou la propagande que nous connaissons. Elle vise à changer notre perception de la réalité et notre réaction aux événements, de façon progressive et subtile, sans notre consentement et souvent sans que nous nous en rendions compte».  Cela se fait «en exploitant une compréhension toujours plus intime de nos fonctions cérébrales, grâce à l’intelligence artificielle et à un arsenal évolutif d’outils basés sur les neurosciences. Ces technologies, développées d’abord pour des buts positifs, peuvent désormais être utilisées pour mener une guerre dans l’esprit humain».Ces technologies, en particulier l’intelligence artificielle et les neurotechnologies, pleines de promesses et d’opportunités, configurent donc aussi la possibilité d’orienter notre façon de penser et de prendre des décisions, à une échelle en même temps spécifique (l’individu) et universelle (toute une société). L’armée suisse s’adapte On peut se demander toutefois si c’est vraiment une question de sécurité nationale, à confier à l’armée. A cette question, la conseillère centriste répond par la positive: «Oui. La guerre cognitive contourne les règles classiques des conflits armés. Elle peut être menée à moindre coût, en temps de paix, sans déclaration de guerre, ce qui rend sa détection et la défense très difficiles. Il n’y a pas non plus de règles internationales».Cet après-midi là, la proposition d’Isabelle Chappuis a obtenu une majorité des voix du Conseil National. Trois mois plus tard, le Conseil des Etat, s’est également prononcée en faveur. Depuis, le cognitif fait partie de la mission de défense de l’armée suisse. Défense contre un type de guerre moins cher, furtif, qui ne provoque pas de dommages matériels, qui brouille la frontière entre paix et conflit, sans contraintes temporelle ou géographique, et qu’on peut nier avec plausibilité.Nous vivons dans un environnement «imprégné de technologie et en sur-information constante», commente Mauro Vignati, expert du sujet auprès du Comité international de la Croix-Rouge. «On appelle cela la 'data economy', mais en réalité l’enjeu, ce ne sont pas les données. La surveillance et la capture de données ne sont que l’outil. Le nerf de cette nouvelle guerre est l’influence que cela permet d’exercer sur les comportements humains, qu’ils soient commerciaux, sociaux, politiques ou militaires». Tous des cibles Dans les mots de François de Cluzel, dans le même rapport pour l’OTAN déjà cité, cela donne: «L'objectif de la guerre cognitive est de nuire aux sociétés, pas seulement aux militaires. La conception moderne de la guerre ne se résume pas aux armes, mais à l’influence».La pénétration technologique, notamment numérique, de notre quotidien façonne l’environnement dans lequel cette influence se déploie. Seule derrière son écran, chaque personne devient une cible potentielle. Mais elle est également un acteur potentiel – un «soldat involontaire» – de la bataille cognitive. «La propagande, on la subit de façon passive», explique encore Vignati. Alors que dans la guerre cognitive, sans s’en rendre compte, «chacun de nous participe à donner forme à l’écosystème informationnel. On fait cela en générant des quantités énormes de données, mais aussi en disséminant de l’information. Par exemple, à chaque fois qu’on partage, sur un réseau social, un lien vers une vidéo ou un article sans avoir pris la peine de l’avoir lu ou vérifié, on court le risque de prendre part à une campagne d’influence cognitive».Des technologies qui étaient censées démocratiser, ouvrir, égaliser, servent maintenant à influencer et manipuler. Il faut comprendre que «toutes ces technologies sont à double usage», nous dit Jean-Marc Rickli, directeur des risques globaux et émergents au Centre de politique de sécurité de Genève: «Elles ont été conçues en général d’abord à des fins positives, pour des utilisation civiles, professionnelles, commerciales, ludiques, thérapeutique également, pour communiquer avec les amis. Mais elles n’en constituent pas moins une infrastructure d’accès direct à notre corps et à notre cerveau. Et l’utilisation croissante de ces technologies dans notre quotidien crée un phénomène d'accoutumance et d'addiction qui atténue notre capacité critique et nous rend moins sensibles aux risques qu'elles représentent.» Le règne des objets connectés Ce que Jean-Marc Rickli dit à propos de l’accoutumance par l’utilisation quotidienne va au-delà des appareils auxquels on pense d’emblée, comme les smartphones. Des pans toujours plus larges de notre environnement sont régis par des algorithmes: le frigo connecté qui pourra vérifier combien vous consommez d’un tel produit; le poste de télévision «smart» qui non seulement sait ce que vous regardez, mais pointe une caméra vers vous tandis que vous le faites; le miroir connecté qui remarquera peut-être votre état de fatigue et vous conseillera, et probablement partagera l’information avec quelqu’un qui saura l’exploiter.Ceci résonne avec l’analyse des auteurs chinois Qiao Liang et Wang Xiangsui, général le premier, haut fonctionnaire le second, qui dans leur livre de 1999 La Guerre hors limites» écrivent: «Ce qui doit être clair, c’est que le nouveau concept d’armement est en train de donner naissance à des armes étroitement liées à la vie des populations civiles. Si notre première remarque est que l’apparition des armements de conception nouvelle élèvera à coup sûr la guerre future à un niveau difficilement imaginable par les individus – et même par les militaires –, la seconde est que le nouveau concept d’armement provoquera un grand étonnement – chez les gens ordinaires comme chez les militaires – causé par le fait que les choses banales, familières, peuvent aussi devenir des armes de guerre. Nous croyons qu’un beau matin les hommes découvriront avec surprise que des objets aimables et pacifiques ont acquis des propriétés offensives et meurtrières.» Déjà influencés Relisons cette phrase: un beau matin, on se réveillera pour découvrir que les objets de notre quotidien, connectés et munis d’IA, ont «acquis des propriétés offensives et meurtrières».Il n’est en fait même pas nécessaire de concevoir une intention malveillante de la part de quelqu’un. La simple disponibilité d’appareils connectés induit déjà des modifications directes de notre façon de nous rapporter au monde. Notre mémoire se dégrade parce qu’on prend l’habitude de googler les informations. Notre représentation de la réalité se brouille dans la difficulté à distinguer le vrai du faux et le réel du virtuel. Notre capacité de penser la complexité cède sous le poids de l’hyper-vitesse, de l’immédiateté, des émotions. Notre confiance est peu à peu déléguée au GPS, de façon que quand le panneau routier indique la gauche et le navigateur annonce la droite, nous tournons à droite. Nous exigeons des réponses immédiates, et les humains sont bien trop lents. Tout cela, et bien d’autres biais et raccourcis mentaux, font que nos cerveaux deviennent de plus en plus exposés.Les progrès technologiques, que ce soit l'invention de la poudre à canon ou celle des satellites, ont toujours entraîné des changements dans les organisations et les doctrines militaires. En fait, certaines technologies, comme l’internet ou le GPS, ont été développées en premier lieu à des fins militaires, pour s’infiltrer ensuite dans notre usage quotidien. Une réalité doctrinale L’armée américaine travaille sur la guerre cognitive depuis une dizaine d’années. Les Russes et les Chinois aussi, qui ont développé des doctrines spécifiques, à propos desquelles on reprend ici des éléments du rapport établi pour l’OTAN par François du Cluzel.Le recours par la Russie à la guerre algorithmique asymétrique est bien documenté. On connaît les interférences électorales par la diffusion d’informations fausses, trompeuses et clivantes via les réseaux sociaux, les fabriques à trolls, les cyberattaques. Tout cela exploite la nature ouverte des sociétés occidentales et de leurs écosystèmes médiatiques. L'approche russe s'appuie sur les techniques et les démarches développées auparavant par l'Union Soviétique. L’objectif n’est toutefois plus de convaincre de la supériorité de son système. Il s'agit plutôt de semer le doute et la méfiance, et finalement de saper le système ennemi de l'intérieur. Cette démarche, connue comme «Doctrine du Contrôle Réflexif», vise à pousser les adversaires à agir dans l'intérêt de la Russie en modifiant leur perception du monde, avec pour objectif accessoire que la cible soit inconsciemment convaincue que la décision lui appartient.La Chine, c’est bien connu, utilise des horizons de planification stratégique plus longs que les pays occidentaux. Elle a une politique explicite de double usage civil et militaire des technologies. Ses opérations cognitives s'articulent autour de deux axes: la cognition fondamentale, qui comprend des approches et des technologies influençant la capacité de réflexion et de fonctionnement d'un individu, et la cognition subliminale, qui se concentre sur les émotions, la force de volonté et les convictions. Exemple de confrontation Essayons de mieux comprendre comment se déroule une opération d’influence. Un article publié récemment par des chercheurs liés à l’armée chinoise identifie quatre étapes dans la confrontation cognitive. Jean-Marc Rickli nous les détaille. «La première, c’est la perturbation de l’information. C’est un peu similaire è ce que font les Russes au niveau du contrôle réflexif: c'est-à-dire injecter dans la discussion un narratif afin d’influencer les termes du débat». La deuxième étape, «appelée concurrence discursive, est basée sur ce que Daniel Kahneman décrit dans son livre «Thinking Fast and Slow».  Nous avons deux systèmes de réflexion: le système 1 qui est instantané, intuitif. émotionnel, qui repose sur des impulsions, des préjugés, et le système 2 qui est beaucoup plus lent, qui est beaucoup plus rationnel, qui vise in fine à contrôler le système 1. L’approche par concurrence discursive va cibler notre système 1, en alimentant les préjugés existants ou en en créant des nouveaux, pour favoriser le développement d'une bulle informationnelle.«La nature même d’une bulle informationnelle, c’est qu’il est très difficile d’en sortir, de prendre en considération des informations qui contredisent ou nuancent ce dont on est persuadés. La troisième phase, décrit encore Rickli, «est le blackout de l'opinion publique. Elle utilise l'analyse de sentiments pour faire un mapping, une cartographie d'une certaine population, individu par individu, c’est-à-dire identifier qui dans la population pense plutôt ceci ou plutôt cela. Pour ensuite, à travers notamment les réseaux sociaux, diffuser de l'information ciblée à grande échelle. Une sorte d’essaim, de «swarm» cognitif, capable d’engendrer une situation de confusion et de chaos. C’est complètement nouveau par rapport à ce qu’on a vu dans le passé dans la guerre de désinformation ou psychologique, où on envoyait des messages indifférenciés à toute une population espérant trouver du répondant auprès d’une partie de celle-ci. Aujourd’hui, on peut cibler les personnes de façon précise, avec des messages faits pour résonner individuellement». Par définition, ces opérations sont invisibles, et peuvent se dérouler même en temps de paix. Ce n’est que la quatrième étape qui ressemble à la guerre conventionnelle: «Ce serait l'étape où l’on essaie de limiter ou annuler la capacité de l'adversaire à riposter, notamment en neutralisant ses infrastructures et systèmes de communication». En cyber-attaquant les systèmes numériques, par exemple, ou en larguant des bombes sur des centres de données.