Une genèse ancienne et un engouement récent

1 L’intelligence artificielle (IA) est née au milieu des années 1950 et a déjà traversé deux « étés » et deux « hivers ». La dernière renaissance débute dans le courant des années 2000, mais c’est surtout depuis le début de cette décennie que le domaine connaît une période « d’euphorie ». Les performances médiatiques de Watson d’IBM à l’équivalent américain du jeu « Questions pour un champion » et surtout d’AlphaGo de Google Deep Mind au jeu de go y ont largement contribué. L’arrivée d’applications pratiques dans nos smartphones (reconnaissance vocale, reconnaissance de visage, recherche automatique d’informations…), dans le commerce électronique (marketing très ciblé, anticipation de tendances…) a permis une appréhension très directe par le grand public.

2 Même si le risque d’emballement médiatique n’est pas loin, il y a eu des avancées significatives ces cinq dernières années. Celles-ci sont notamment liées aux effets conjugués de l’augmentation des capacités de calcul et des capacités de stockage, de l’émergence de méthodes de traitement de données massives (« big data ») et d’algorithmes d’apprentissage automatique performants (dont le « deep learning »). La mise en ligne des algorithmes à des fins de vérification et de partage des connaissances sur des sites spécialisés et les challenges de recherche comme le grand challenge pour l’autonomie en robotique et Imagenet pour la reconnaissance d’objets ont certainement eu un rôle de catalyseur.

3 Même si les applications en service utilisant l’IA dans le domaine de la défense sont encore peu nombreuses (système de traduction automatique pour les forces spéciales, certains systèmes de simulation et d’entraînement, dispositifs de détection dans des capteurs…), le ministère des Armées a avancé sur le sujet grâce aux travaux qui ont été financés (thèses, études, démonstrateurs) par la DGA dans les grands domaines du traitement du langage (projets Trad, Maurdor…), du traitement d’images (projets Altavista, Optimom…), de la robotique autonome (coopération drone-robot dans le projet Action, modules de gestion de mission de robots comme Miniroc [terrestre], Espadon [naval], Neuron [démonstrateur de drone de combat UCAV]…).

Un domaine aux approches et techniques diverses

4 L’IA cherche à reproduire les fonctions cognitives humaines (perception, raisonnement) ou à trouver des solutions à des problèmes n’ayant pas de réponse analytique et de grande complexité calculatoire. De manière concrète, l’IA sera utilisée dans les applications où il s’agit de détecter et de reconnaître des données (données structurées, voix, image, signaux, séquences de données…), de rechercher des corrélations entre des données pour en déduire des groupes de population ou au contraire des éléments atypiques, d’optimiser des problèmes à forte combinatoire (comme le célèbre problème du voyageur de commerce), de raisonner sur des données symboliques pour proposer un diagnostic, une série d’actions…

5 L’IA est un domaine relativement vaste à la croisée de plusieurs domaines scientifiques et techniques comme les mathématiques, l’automatique, le traitement de signal, les sciences cognitives et bien évidemment l’informatique. La représentation des connaissances y joue un rôle central tant l’IA ne se limite pas à manipuler des données numériques mais manipule également des données symboliques. Depuis le départ, des approches basées sur le raisonnement et la rationalité (raisonnement automatique, systèmes experts) s’y concurrencent avec des approches connexionnistes plus basées sur l’empirisme (réseaux de neurones). L’apprentissage est également au cœur des recherches sur l’IA avec le même dilemme : un expert doit-il fournir les règles, les modèles à la machine ou bien la machine doit-elle apprendre à partir d’un grand nombre d’exemples et de données brutes… Les succès des méthodes d’apprentissage profond ont amené un rééquilibrage entre les données brutes, les algorithmes et les modèles. Il ne faudrait néanmoins pas sous-estimer les progrès réalisables en algorithmie : si un enfant sait reconnaître un nouvel oiseau après en avoir vu quelques exemples, il faut encore plusieurs milliers d’images d’oiseaux à une machine pour reconnaître la classe « oiseau » par des techniques d’apprentissage profond comme les réseaux de neurones multicouches.

6 Les solutions d’IA ayant un certain niveau de complexité mixent généralement les différentes techniques car l’IA est un domaine d’intégration qui nécessite de combiner plusieurs modules et algorithmes. On peut répartir les modules à combiner en quatre grandes familles :

• Les moteurs d’inférence qui permettent de construire des systèmes experts constitués d’une base de connaissance et du moteur d’inférence qui applique des règles et peut également utiliser des algorithmes d’optimisation sous contrainte.
• L’analyse des données et l’apprentissage « simple » qui permettent d’effectuer des prédictions, de la classification et de la segmentation de population automatiquement en utilisant largement les outils statistiques et probabilistes, et des réseaux de neurones simples.
• L’apprentissage profond (« deep learning ») qui permet de gérer un niveau d’abstraction plus élevé afin de reconnaître des objets complexes comme les images ou la parole. Il s’appuie sur des réseaux de neurones multicouches largement révélés via le challenge Imagenet depuis 2012.
• Les réseaux d’agents qui assemblent des briques issues des moteurs d’inférence, de l’analyse des données et des apprentissages, et assurent leur coopération.

Intérêt opérationnel, souveraineté et applications potentielles

7 Face à des adversaires maîtrisant de plus en plus les outils du numérique et montrant une grande agilité dans les attaques, il est nécessaire de conserver l’avantage et d’anticiper les ruptures d’emploi qu’apporteront inévitablement les avancées technologiques liées à l’IA. Son utilisation sera une nécessité pour conserver l’ascendant face à nos adversaires potentiels, mais également pour rester au niveau des nations de premier rang en coalition et compétitif à l’export. Ce sera aussi un moyen d’apporter des services et de l’efficacité à l’ensemble du personnel du ministère des Armées.

8 Si les algorithmes génériques sont à la disposition de tous, le paramétrage des algorithmes et des combinaisons d’algorithmes ainsi que les données ne sont pas partagés. Par ailleurs, certains types de données ne sont pas accessibles au secteur civil (données radars, sonars, guerre électronique…). Au vu des résultats obtenus ces dernières années, il est certain que l’intégration d’algorithmes issus de l’IA dans les mécanismes les plus profonds des systèmes d’armes ou des systèmes d’information opérationnels concourra directement à l’atteinte de performances nettement augmentées par rapport aux systèmes actuels. Aussi, comme le souligne la Revue stratégique de défense et de sécurité nationale de 2017, « … la maîtrise de l’IA représentera un enjeu de souveraineté, dans un environnement industriel caractérisé par des innovations technologiques rapides et aujourd’hui dominé par des entreprises étrangères » (p. 74). De plus, pour des applications sensibles sur des systèmes d’armes, il sera indispensable de pouvoir inspecter les caractéristiques des algorithmes. En fonction de la sensibilité, il pourrait y avoir plusieurs cas de figures allant de la conception et réalisation en France avec accès aux algorithmes lorsque les intérêts essentiels de sécurité le nécessitent à une plus grande souplesse si la fonction n’est pas critique et qu’elle est réalisée dans un cadre civil et un domaine concurrentiel comme la reconnaissance vocale par exemple.

9 Dans le domaine des systèmes opérationnels, les applications envisageables ont commencé à être examinées depuis plusieurs années en parallèle des travaux de développement des technologies. On peut notamment penser à des applications concernant l’amélioration de la détection de cibles furtives (aériennes/sous-marines), la détection et la reconnaissance d’objets dans des données satellites massives et dans des images de capteurs variés, l’aide à la décision en situation complexe, l’optimisation de la maintenance des systèmes d’armes, la détection d’attaques informatiques, la robotisation du champ de bataille, des interfaces homme-machine (IHM) intuitives, l’optimisation du routage des réseaux télécom, des systèmes d’entraînement encore plus réalistes…

10 Par ailleurs, les applications civiles de l’IA devraient contribuer à la transformation numérique de certaines activités du ministère grâce aux offres en cours de développement par de nombreux acteurs économiques. On peut penser à la consolidation de données financières, à l’accélération de dépouillement d’essais techniques, aux agents conversationnels, à l’optimisation de la gestion de la maintenance… Les usages restent néanmoins à préciser avec les différents métiers.

L’importance de l’écosystème et du travail en équipe intégrée

11 Comme l’a rappelé le rapport France IA en mars 2017, l’écosystème français est une force pour le développement d’applications en IA grâce aux talents formés dans nos écoles d’ingénieurs et nos universités, et aux compétences disponibles dans de nombreux laboratoires et entreprises (start-up, entreprises spécialisées, voire grands groupes). Les grands maîtres d’œuvre militaires semblent conscients de l’importance du sujet et travaillent pour la plupart à la mise en place de feuilles de route, voire développent de manière significative leurs capacités de R&D. Leur objectif ne doit pas être de dupliquer des compétences détenues par des acteurs spécialisés mais de disposer des compétences suffisantes pour leur permettre de spécifier et d’intégrer ces technologies dans leurs systèmes, et de compétences en développement lorsque les capteurs utilisés, les données manipulées sont plus spécifiquement militaires et nécessitent des développements particuliers (radars, sonars, cybersécurité…).

12 Les applications en IA se situant à la croisée des chemins entre les métiers, les algorithmes et les données, la DGA doit renforcer son rôle d’animation entre les opérationnels, les laboratoires de recherche, les industriels spécialisés et les maîtres d’œuvre de grands systèmes : connaître les besoins opérationnels et les technologies disponibles, orienter les recherches spécifiques et fluidifier le transfert technologique des laboratoires vers les acteurs spécialisés (PME, start-up…) et les maîtres d’œuvre et intégrateurs du secteur de la défense. Avancer sur un tel sujet nécessite d’instaurer un dialogue resserré entre les représentants des métiers mais également des utilisateurs des armées et des services, et des ingénieurs connaissant les techniques d’IA. Il leur faut collectivement examiner comment se servir des algorithmes et des données disponibles, quelles nouvelles informations pertinentes pourraient être obtenues, comment faire émerger une intelligence humaine augmentée… c’est-à-dire l’IA au service de l’Homme. Pour cela, les compétences en IA du ministère devront être renforcées pour aider à la formalisation des besoins, analyser les technologies et les offres disponibles, tester les preuves de concept, les démonstrateurs et les applications opérationnelles, et accompagner la mise en service.

Vers une feuille de route ministérielle

13 L’IA est citée comme un axe de progrès et d’effort dans la Revue stratégique de défense et de sécurité nationale, et fait partie des axes d’effort du chantier numérique du ministère des Armées ; le secteur de la défense est jugé comme prometteur dans les travaux de la mission Villani.

14 Un examen des applications potentielles a été effectué. Un tel travail a évidemment vocation à être enrichi périodiquement et à bénéficier d’une meilleure appréhension des usages potentiels. Le croisement avec les technologies disponibles est en cours afin de lancer en priorité les développements et les projets les plus prometteurs en termes d’impact opérationnel et de maturité technologique. La notion d’intégration ou d’interfaçage aux systèmes existants fait l’objet d’une attention particulière : le déploiement d’un module de traitement sera plus aisé s’il est interfacé au système existant, c’est-à-dire s’il va chercher les données à traiter et restitue les résultats au système, alors qu’il sera forcément synchronisé sur le cycle de vie et d’évolution du système principal s’il doit être intégré de manière beaucoup plus intime au système.

15 Pour avancer dans le développement et l’intégration de l’IA, le ministère devra jouer sur plusieurs tableaux : une veille sur les technologies et les usages, une démarche de sauvegarde des données plus systématique, une coordination des travaux et partage des résultats ; des travaux programmés pour certains systèmes nécessitant des efforts significatifs de développement ou une intégration forte dans les systèmes d’armes (sonars, radars, systèmes de combat…) ; des actions d’opportunité pour tester en boucle courte (preuves de concept) et incorporer des technologies existantes, afin de tirer parti des idées novatrices du tissu industriel et académique.

16 Il est important de signaler que les applications liées au combat collaboratif nécessiteront des travaux d’architecture sur les réseaux de télécommunication, les flux de données et la répartition entre traitements centralisés et décentralisés. Le projet incrémental Artemis (architecture de traitement et d’exploitation massive de l’information multisource) lancé en novembre 2017 permettra de son côté la mise en place d’une « infostructure » de stockage et de traitement massif sécurisée pouvant être utilisée pour un large éventail d’applications et d’algorithmes d’IA/big data avec des caractéristiques de modularité, de distribution, de sécurisation adaptées au contexte défense.

17 Les implications sur l’évolution des opérations militaires mériteront également des réflexions : l’introduction simultanée de plusieurs évolutions liées à l’IA dans les systèmes d’armes pourrait amener des ruptures dans l’art de la guerre qu’il est difficile à ce stade de cerner.

18 Enfin, l’IA, domaine encore jeune, aura besoin de travaux théoriques pour mieux comprendre le fonctionnement de certains algorithmes comme les réseaux de neurones et pour avancer sur le sujet de l’explicabilité des résultats. D’autres sujets moins techniques doivent également faire l’objet d’une attention particulière comme la responsabilité juridique des algorithmes et modules autonomes mais aussi les questions éthiques afin de faciliter l’adoption des résultats par les utilisateurs et les décideurs de manière plus générale. Ces sujets ne sont pas pour autant une nouveauté pour le ministère qui a fait partie des pionniers à l’échelle nationale et internationale, en animant à partir de 2010 une réflexion interne permanente en matière d’« éthique prospective », sur les enjeux de la robotisation du champ de bataille notamment.

19 Même si de nombreux défis techniques sont encore devant nous et même si pour de nombreuses années encore, l’IA restera « faible » c’est-à-dire limitée à des applications ayant un spectre très étroit, les progrès de ces dernières années permettent d’envisager de nombreuses applications pratiques et le secteur de la défense doit avancer en mixant réalisations de court terme et préparation des applications pour les futurs systèmes opérationnels.