1Conclure sur la question du soldat augmenté, après la grande richesse des articles qui précèdent est un enjeu singulier. Il y a une dimension, de clôture, de fin, d’achèvement dans toute conclusion. Alors que l’évidence nous montre avec clarté l’étendue considérable des champs ouverts par cette thématique de l’augmentation et les pistes nombreuses qu’il convient d’explorer.

2Pour aborder ces réflexions, il sera proposé de prendre de manière assez caricaturale le contrepoint de la vulgate, autrement dit de partir de la position de l’avocat du diable. Deux idées seront exposées autour de deux questions qui nous paraissent inaugurales.

1. L’augmentation est un processus apprécié de façon positive, destiné à procurer une supériorité, un avantage.
2. Mais n’entraîne-t-elle pas dans son sillage, une altération des capacités propres – naturelles – de l’individu qui bénéficie de cette augmentation (artificielle) ? De ce fait, le soldat augmenté n’est-il pas aussi en corollaire, un homme « diminué » ?

3Telle que nous la connaissons aujourd’hui, l’augmentation est basée sur des technologies nouvelles, soutenues par l’intelligence artificielle (IA). N’y a-t-il pas, ici encore, un risque d’affaiblissement des capacités autonomes du soldat ? L’IA ne risque-t-elle pas d’amoindrir l’intelligence propre du combattant ? Il sera proposé de décrire ce risque sous l’expression d’« ignorance artificielle » (IgA) c’est-à-dire la perte par le soldat de certaines capacités mentales en conséquence de la prise en compte d’un certain nombre d’entre elles par des processus d’intelligence artificielle.

Augmenté ou diminué ?

La dynamique de l’augmentation

18Osons ici entreprendre un parallèle avec les théories macro-économiques. Il semble que la thématique qui nous occupe peut s’apparenter avec la classique relation entre l’offre et la demande dégagée par l’économiste Alfred Marshall [4]. La demande c’est l’augmentation du potentiel du soldat, l’offre ce sont toutes les techniques et technologies qui vont permettre de répondre à cette demande (figure 1). Dans les représentations classiques, ce sont deux lignes qui se croisent, figurant le fait que plus la demande croit, plus l’offre diminue (et en symétrique, plus l’offre est massive, plus la demande s’effondre). Dans la théorie classique c’est une sorte de « main invisible » qui régulerait offre et demande pour aboutir à une forme d’équilibre égal entre les deux facteurs.

Figure 1

« Ignorance artificielle » ?

« Ignorance artificielle » ?

19Il découle de cette théorie deux conséquences majeures pour notre propos :

20• La première est que si le soldat est augmenté, ce n’est le plus souvent pas lui qui demande l’augmentation, ce sont les chefs militaires et politiques qui instrumentent l’aspect « demande » en vue de garder l’avantage stratégique, opératif et tactique. Ne pas suivre les évolutions technologiques (donc de l’augmentation) reviendrait à placer le pays et ses combattants en situation de retard voire de déclassement. Le risque évident est ici, bien plus dangereux que l’inversion du rapport de force, clé du succès tactique. Certains auteurs ont montré la part de l’individu dans la demande [5].

21Outre les comportements individualistes revendiquant la liberté et le libre arbitre touchant tous les citoyens et moins les militaires, il est patent que quelques soldats refuseraient d’être augmentés pour diverses raisons. On peut penser que la perte de contrôle et d’initiative propre, serait une raison de refus majeure à côté des nécessaires efforts d’accoutumance et d’apprentissage de la technologie d’augmentation. Il y aurait sans doute également pour certains des phénomènes de crainte, de peur, pour soi, pour sa santé, risques de séquelles ou d’effets secondaires qui amèneraient des refus d’emploi des technologies rendant « augmenté ». On a mal à imaginer ces comportements aujourd’hui pour un soldat engagé à servir. Mais qu’en sera-t-il demain quand les augmentations seront majeures, quand les réflexions sur leur « nocivité » toucheront tous les individus et que le principe de précaution continuera à étendre, y compris chez les soldats, les comportements d’abstention ou d’évitement ?

22À l’opposé, s’augmenter volontairement, c’est-à-dire être le meilleur, être supérieur, pouvoir se surpasser, surpasser les autres, briller, flatter son ego, etc. sont des traits de la psychologie humaine parfaitement courants qui pourront très facilement être soutenus par le dernier cri de la technologie (d’augmentation). Oui, il est très probable que du côté des soldats et de leurs chefs émergent des « geeks » de l’augmentation.

23On sait (dans le domaine économique encore) que ce sont de puissants stimulants de la demande. Disposer du meilleur pour soi, pour être « au-dessus », ou pour le moins remarqué et remarquable, est le plus solide moteur des motivations d’achat des individus qui veulent se démarquer du groupe, y apparaître sinon différents au moins supérieurs. Si ce levier peut être considéré comme salutaire pour le monde marchand, il porte en termes de sociologie, un risque majeur pour le groupe, il crée des hiérarchies, des clivages. Pour toute communauté militaire ces différences mettraient en péril la cohésion. Or, depuis longtemps, la puissance militaire est bâtie autour de la forte cohésion du groupe et l’absence de singularisation. Par exemple, comme son nom l’indique l’uniforme y remédie très bien, tout comme les équipements homogènes pour les unités. Pour revenir à notre propos, on imagine très mal une unité combattante où certains seraient augmentés et pas d’autres…

24• La seconde conséquence se situe du côté de l’offre. Ce sont bien sûr les chercheurs et les industriels, par leurs propositions qui créent l’offre. Il n’est point besoin d’épiloguer sur l’impérieuse nécessité pour les entreprises d’innover et de proposer de nouveaux produits pour rester compétitives.

25La loi de Moore [6] faisant son œuvre exponentielle du côté des supports matériels logiques, la rude compétition des entreprises et les parts de marché feront le reste pour proposer une offre abondante et sans cesse renouvelée.

26Quel que soit l’angle d’analyse, offre ou demande, le soldat, le combattant est en principe dépossédé de tout choix, même si parfois il lui semble en être l’expression. En fait, il se rallie à la technologie nouvelle qui lui est proposée. Ce faisant, il est non seulement déresponsabilisé, mais de surcroît il abandonne à l’offre technologique qui le rend « augmenté », une part fondamentale de ses capacités propres. Et c’est précisément cet abandon qui le rend doublement « diminué ». Il n’a pas eu le plus souvent le choix de son mode d’augmentation, et ce dernier lui est in fine imposé par la hiérarchie.

27Ici encore ; il nous semble requis de faire un détour du côté de la sociologie et des travaux de John Robinson et Geoffret Godbey [7]. Ces sociologues américains ont montré l’impact d’une nouvelle technologie (la machine à laver le linge) sur la vie des ménagères dans les années 1960. Il était communément admis que l’introduction de cette nouvelle technologie allait libérer la femme de tâches ingrates et chronophages. Or, le temps gagné (plus de deux heures) a en fait été utilisé par ces femmes non pour elles-mêmes, mais occupé à d’autres tâches ménagères. De nombreux travaux ultérieurs ont confirmé cette tendance sociologique : le temps libre, le temps gagné, est utilisé à « perte » et, au pire, comblé par du temps administratif créé de toutes pièces.

28Si l’on admet que l’expérience de la machine à laver constituait une analyse des effets d’une augmentation (meilleure efficacité dans le lavage, gain de temps, simplification cognitive, économie de ressources, etc.), il semble légitime d’imaginer à partir d’elle ce qu’il pourrait advenir au soldat de demain. Si l’augmentation aboutissait in fine à deux effets antagonistes ? Bien évidemment la meilleure efficacité opérationnelle, avec des gains de temps, d’énergie, de ressources humaines, etc., mais également le comblement de tous ces espaces de liberté gagnés par un temps « non opérationnel » voire administratif (par exemple enregistrer et transmettre les indicateurs de performance de mon système d’arme augmenté…). Dès lors n’est-il pas légitime de questionner la relativité du gain issu de l’augmentation et de sons sens ?

L’Ignorance artificielle (IgA)

29Peu refuseront d’admettre que les technologies de l’augmentation reposent en majorité, sinon en totalité, à un moment ou à un autre sur quelque algorithme.

30L’algorithme, c’est l’essence même de ce que la communauté scientifique nomme de façon habituelle l’intelligence artificielle.

31L’algorithme, c’est la pensée d’un autre, ou de plusieurs intelligences réunies. C’est aussi le résultat d’analyses de robots logiques dédiés à cette tâche puisant leur rationalité dans les fameux lacs de données… Tout est in fine transformé en équations, et s’achève en processus numériques. Cette intelligence artificielle n’est plus « humaine ». Ce n’est surtout plus « la mienne » en ce sens qu’elle échappe à « mes » propres modes de représentation, donc d’analyse d’un événement, d’une difficulté, d’une situation. Elle aboutit à une perte de mon sens du jugement.

32L’IA donne donc une représentation construite artificiellement d’une réalité qui échappe à son propre jugement. Elle procure performance, avantage opérationnel, rapidité, efficacité, sécurité. C’est incontestablement une augmentation majeure. Le psychologue affirmerait que cet avantage devient palpable pour l’individu au point qu’il lui procure sentiment de puissance, de supériorité, fierté, orgueil mais aussi plaisir et une forme de jouissance.

33Mais ce que le soldat grisé par la technologie augmentée de son nouvel équipement ne voit pas, c’est que cette intelligence technologique n’est plus la sienne. Elle le place sous sa tutelle. Il lui abandonne bien volontiers, parfois sans s’en rendre vraiment compte, nombre de taches cognitives ou réflectives qui l’encombraient. Il faut convenir qu’il perd ce faisant un certain nombre de savoir-faire ou de capacités sensorielles « naturelles », certes moins performantes, mais qui étaient siennes.

34Il peut donc être posé ici, que le danger qui le guette (comme nous tous du reste) c’est celui qu’il est proposé de nommer « ignorance artificielle ». Tentons-en une définition : si comme le dit l’encyclopédie Larousse l’IA c’est « l’ensemble de théories et de techniques mises en œuvre en vue de réaliser des machines capables de simuler l’intelligence », dès lors il est possible de proposer que l’ignorance artificielle soit l’altération des capacités intellectuelles et cognitives propres (naturelles) de l’être humain consécutive de leur simulation, suppléance ou remplacement par l’intelligence artificielle. La recherche de cette idée ou de ce concept dans la littérature scientifique ou de vulgarisation est vaine. L’expression apparaît à peine dans les travaux fondamentaux relatifs à l’intelligence artificielle. Et encore, c’est uniquement pour servir de substrat à toutes les questions relatives à l’incertitude et l’imprécision dans la construction des algorithmes.

35Cette absence théorique de l’ignorance dans le domaine de l’intelligence artificielle, donc dans celui du soldat augmenté, montre à notre sens, la grande confiance, peut-être aveugle, peut-être exagérée que nous avons dans l’intelligence artificielle. Seules quelques publications récentes (Elon Musk, Bill Gates, Stephen Hawkins [8]), assez apocalyptiques du reste, prédisent la fin de l’homme dépossédé de toute conscience par l’intelligence artificielle. Certaines critiques émergent également du côté des penseurs de la Silicon Valley, mais c’est davantage pour dénoncer l’hégémonie de l’IA et pour promouvoir le transhumanisme que pour mettre en exergue la perte consubstantielle de capacités réflectives propres que nous nommons ici ignorance artificielle.

36Du reste, la littérature scientifique relative à l’IA et ses risques ne montre que les potentiels effets dévastateurs d’un monde « tout numérique », comme si ce monde, et les technologies de l’IA, était « à côté », externe à l’homme être de chair. Il n’est pas ou très peu montré les effets de l’IA sur le développement de l’intelligence naturelle, par exemple chez l’enfant, les effets sur le développement puis sur le fonctionnement cérébral, les retentissements sur les capacités naturelles du cerveau : sont-elles augmentées elles aussi, ou comme nous le suggérons, subissent-elles une perte, ce que nous nommons ignorance artificielle ? Tout ce que notre intelligence naturelle, supplée par l’IA, n’apprendra plus, ne saura plus et ne pourra plus réaliser…

37La perte se porte, à notre sens, ailleurs que sur la performance intellectuelle brute. Elle concerne ces qualités essentielles que sont l’adaptabilité et l’agilité. Et il ne sera pas fait ici mention de l’intelligence émotionnelle, largement théorisée dans les théories de l’IA comme capacité de « conscience » de l’IA. Là encore, la science-fiction nous offre des archétypes, comme Terminator, robot tueur qui finit par s’humaniser en prenant « conscience » de certaines réalités. Cette notion de conscience (du soldat) nous paraît cardinale. Gödel avait très bien montré, avec son célèbre théorème d’incomplétude [9], que le cerveau humain est toujours capable de produire un système (il parlait de « déclaration ») impossible à résoudre par une machine (elle ne sera pas en mesure de le prouver). Il avançait que seule la conscience (naturelle) permet d’entrapercevoir les voies de solution. Il a voulu poser que la détermination correcte de la vérité (ou sa fausseté) d’un raisonnement ne peut être fondée que sur l’esprit humain, donc que ce dernier ne peut être réduit à un simple processus mécanique. La célèbre expérience de Turing [10] lui donne raison, jusqu’à ce jour du moins… Sur le versant militaire, un Clausewitz, aujourd’hui, dirait sans doute la même chose : la machine (IA) n’est pas en mesure de prendre « conscience » du brouillard de la guerre, et seul l’esprit du soldat, du stratège peut appréhender l’insoluble.

38Pour dépasser le strict cadre de l’individu, du soldat augmenté et tenter d’aborder la problématique de l’ignorance au sens collectif, c’est-à-dire d’une organisation militaire, il paraît nécessaire de rapatrier cette fois non seulement l’économie mais aussi la stratégie, c’est-à-dire la théorie de l’avantage marginal. Les grands stratèges d’entreprise ont consacré depuis longtemps, en vertu du principe de l’offre et de la demande, le fait que la stratégie gagnante ne se décline que selon deux occurrences ; soit la technologie (qui soutient l’offre et provoque la demande) est en avance d’au moins 10 % par rapport aux technologies existantes, soit elle est 10 % moins chères.

39Les stratèges militaires introduisent quant à eux le rapport de force, notion qui impose également un avantage marginal conséquent face à l’ennemi pour espérer le succès. Chacun sait qu’un bloc, une chaîne, ne tient et ne vaut que par son composant le plus sensible ou son maillon le plus faible. À n’en pas douter, demain un groupe de combat « augmenté » ne vaudra que par le soldat le moins augmenté du dispositif.

40Il faut ici marquer un temps d’arrêt. La littérature sur le sujet ne parle que du soldat augmenté, et parfois s’aventure un peu à aborder la question du collectif, vu uniquement sous le prisme d’un groupe plutôt hyperhomogène de soldats augmentés. Mais s’est-on posé la question du groupe en tant que tel, entité sociale combattante et augmentée ? S’est-on posé la question du chef ? Où trouver trace du concept de « chef augmenté » ? Cette question prend un tour nouveau quand on sait par ailleurs l’importance considérable de l’IA dans les processus de prise de décision (et dans la connaissance et l’anticipation qui en sont les précurseurs essentiels !). Admettons qu’il existe là, un espace considérable non encore analysé en tant que tel mais qui nous semble absolument fondamental. Juste un sujet pour les stagiaires de l’École de Guerre : quid de l’intelligence artificielle d’un état-major ? Quid de l’intelligence artificielle du chef militaire ?

41Pour finir sur ces points, il convient à présent d’évoquer un autre aspect du collectif opérationnel contemporain. En effet, à différents niveaux du reste, il devient d’usage, que ce dispositif opérationnel déployé soit multinational. Comment dès lors sera garantie la cohérence de l’augmentation des soldats, pris individuellement et collectivement, croisée avec les cultures et technologies d’augmentation différentes selon les nations participantes ?

42Serons-nous en mesure, avec nos seules capacités nationales, de maintenir pour les soldats français, les moyens de bénéficier des technologies d’augmentation nécessaires pour demeurer dans la « cour des grands », des Nations qui possèdent et maîtrisent ces technologies innovantes et imposeront leurs standards d’augmentation ? En parallèle, pourrons-nous accueillir dans nos dispositifs opérationnels des alliés « non augmentés » ? Il n’y a aujourd’hui évidemment aucune réponse définitive à ces questions mais elles méritent d’être examinées.

43Enfin, loin du domaine de cet article, l’augmentation technologique, en tant que capacité d’ingénierie et industrielle nationale, avec son très fort potentiel d’innovation, vient interférer avec celle de la Base industrielle et technologique de défense (BITD) et de sa nature nationale stricte ou partagée et communautaire. Le dynamisme et les investissements qui seront consentis en seront la clé, car à n’en pas douter, là où se trouvent les start-up dans le monde, là vont s’écrire demain les pages de l’augmentation technologique du combattant.

Éthique de l’augmentation

44On ne peut conclure ces trop brefs développements, sans évoquer les champs de l’éthique et de la philosophie [11].

45Il n’est pas question d’exhumer le fameux « science sans conscience n’est que ruine de l’âme » de Rabelais, mais la tentation est grande de le paraphraser en disant « augmenter sans conscience n’est que ruine du soldat ». Ces réflexions sont tout autant indispensables que celles purement scientifiques ou techniques portant sur les grandes avancées technologiques émergentes. Dans ce champ, le transhumanisme est à lui seul un thème enthousiasmant à décliner pour le soldat.

46Depuis Asimov, la science-fiction a fait les choux gras d’une vision du soldat de demain, sorte de clone décérébré, quasi-robot dont la supériorité ne tient que par ses capacités augmentées par rapport au citoyen standard. Il y a juste 20 ans, le film Bienvenue à Gattaca nous montrait déjà les risques d’un monde où l’augmentation irait jusqu’à la sélection génomique des plus aptes. N’oublions pas que Voltaire avait déjà identifié ce risque chez les soldats 5 pieds 6 pouces du roi Fréderic II de Prusse dans son Candide.

47Loin des prouesses technologiques, des années de recherches, des technologies brillantes, des systèmes d’armes ultrasophistiqués l’ennemi qui fait face aujourd’hui aux armées occidentales n’est souvent qu’un homme « nu », dont l’équipement militaire se réduit à un pick-up du commerce, une paire de sandales dépareillées et une Kalachnikoff, ou pour le moins avec des moyens rustiques et rudimentaires, comme le montre la triste série des derniers attentats terroristes à l’arme blanche ou au camion bélier. Cet exemple illustre à lui seul le paradoxe du progrès, faut-il augmenter, entrer dans une course technologique effrénée, rechercher le plus vite, plus haut, plus loin ?

48Le progrès de l’augmentation ne porte-t-il pas en lui un nouveau risque d’escalade comme jadis la course à la conquête de l’Espace pendant la guerre froide ? L’histoire des hommes, des armes et de la guerre nous donne une première réponse. La course technologique est non seulement inévitable, elle est également bénéfique. Les technologies militaires, nous le savons ont inauguré et généré des milliers de technologies civiles. Mais sommes-nous d’accord pour admettre que l’augmentation introduit des questionnements d’une ampleur nouvelle ?

49Sans doute, devrions-nous, collectivement, penser un nouveau paradigme, celui d’une révolution majeure où l’homme, qu’il soit combattant ou pas, sera augmenté et dans lequel les principes fondamentaux de notre civilisation, entendons par là liberté, égalité et fraternité, devront être réexaminés à l’aune des technologies qui vont les impacter fortement. Sans lyrisme, notre avenir commun, celui de nos enfants, c’est peut-être bien, et toujours, l’homme nu, dans son humanité non augmentée, mais parfaite à bien des égards. Il faudra sans doute encore plus demain lui réserver la place appropriée en face de technologies exponentiellement croissantes qui vont modifier son rapport aux autres et à son environnement tout autant que son existence propre. Il faudra développer de spécifiques mécanismes de contrôle, éthiques, déontologiques et juridiques sans tomber dans les dérives d’une vision apocalyptique ou trop précautionneuse.

50***

51Ces réflexions sont absolument essentielles et très excitantes car détentrices de réelles nouveautés, porteuses d’innovations majeures et constituent le substrat fondamental du vrai changement de paradigme que représente l’augmentation des capacités humaines. Resteront les défis majeurs de vouloir, de savoir et de pouvoir les adapter au soldat de demain !