1Olivier de France et François-Bernard Huyghe – L’intelligence artificielle constitue-t-elle, selon vous, une nouvelle forme de pouvoir ?

2Bruno Latour – Cette question se pose en réalité au moins depuis la machine à vapeur. Or, il n’y a pas d’un côté le pouvoir et de l’autre la technologie. Pour analyser la situation en termes politiques, il faudrait donc commencer par dire que les paramètres demeurent exactement les mêmes : il n’y a pas de questions technologiques qui ne soient pas des questions de pouvoir auxquelles il faut pouvoir s’opposer.

3L’on veut toujours autonomiser la technologie et lui donner ensuite un maître, ou à l’inverse regretter que personne ne la dirige. Mais l’autonomie de la technique qui serait à la recherche d’un maître constitue une position classique. En réalité, le pouvoir s’est toujours exercé de manière explicite par la chimie, l’électricité ou encore l’atome. Est-on capable, aujourd’hui, de s’opposer à la domination des GAFA (Google, Apple, Facebook, Amazon) ? Qu’il s’agisse d’une question politique est aussi vrai que du temps où il fallait s’opposer au nucléaire ou à l’automobile. De ce point de vue, la situation actuelle de l’informatique n’est en rien différente.

4En revanche, il est possible de renverser la perspective : avec la multiplication du numérique, l’on est enfin face à un dispositif qui commence sérieusement à ressembler à un système nerveux planétaire. Nous avons enfin les moyens de rendre concrets, visibles et matériels l’ensemble des connexions qui étaient auparavant invisibles, ou qui se faisaient dans la tête des gens. L’inconvénient est que nous savons à présent, grâce à Twitter par exemple, ce que les gens pensent – ce qui parfois nous horrifie.

5Hans Joachim Schellnhuber, qui dirige le Potsdam Institute for Climate Impact Research (PIK), perçoit positivement ce système nerveux général, parce que cela permet aux scientifiques de commencer à avoir des senseurs sur l’ensemble de l’activité sur Terre et sur l’impact que l’homme peut avoir. Il existe désormais des applications qui permettent de dire à tout moment quelle énergie vous économisez ou au contraire abandonnez, etc. Nous ne sommes qu’au tout début de cette expansion d’un système nerveux un peu sérieux, qui remplace des systèmes d’information « papiers », qui pour leur part étaient lents.

6Une troisième version de cette réponse à votre question est que simultanément, comme toujours avec les techniques – c’était le cas déjà avec l’automobile et la machine à vapeur –, nous sommes victimes du « hype ». Brusquement, nous entendons et lisons dans la presse que cette fois-ci, les robots vont s’autonomiser et les machines nous contrôler. Et comme toujours avec la technologie, il existe une version positive et une version négative. Mais là encore, il n’y a rigoureusement aucun changement par rapport au passé. Il ne faut pas être victime de l’originalité de l’objet cybernétique. Nous avons exactement les mêmes débats depuis Frankenstein. Il y a, comme d’habitude, la critique dystopique de ces techniques et, inversement, des gens comme Elon Musk, qui avancent que nous allons tous nous « télécharger » sur Mars. Mais la technologie est impossible à absorber dans une réflexion politique un peu intelligente dès lors que l’on autonomise. Il ne faut pas s’intéresser à la technologie comme telle. La technologie, c’est de la politique quotidienne. Elle représente des agrégats de décisions, de valeurs, d’instruments, notamment de législation, d’égalisation des brevets, d’ouverture ou de fermeture des dossiers d’information, etc.

7Mais, du « senseur » au « censeur », les grands de la technologie ne s’affranchissent-ils pas du pouvoir politique classique, disons démocratiquement élu, s’exerçant sur un territoire ? Quid, par exemple, de Mark Zuckerberg développant des procédés pour censurer, faire disparaître les « fausses nouvelles » de nos requêtes ou de nos relations avec nos amis, les discours de haine ou d’autres qu’il estime nuisibles au cerveau humain ? Ou que se passe-t-il, par exemple, si Google décide, demain, que les voitures autonomes roulent à gauche ?

8Bruno Latour – Bien sûr, mais n’importe quel historien, en particulier des techniques, vous dira que ce fut exactement le cas avec l’automobile. L’ensemble de l’infrastructure de l’automobile, comme de l’électricité d’ailleurs, a en effet été décidé par des firmes. Ensuite, seulement, l’État rattrape les choses, au fur et à mesure qu’elles se produisent.

9Il faut se garder de l’idée que parce que ces techniques sont immatérielles, elles sont originales du point de vue du problème politique qu’elles engendrent. Qu’il n’y ait pas les censeurs sur ces techniques est ennuyeux, et n’importe quelle vie démocratique doit exiger des censeurs multiples, des critiques, des interprètes et des contre-pouvoirs. Qu’il n’y ait pas d’opposants est en effet tragique. Mais c’est aussi une conséquence du fait que l’on a autonomisé ces techniques comme s’il s’agissait d’un phénomène extérieur à la société ou à la politique ordinaire. Or, ce n’est pas le cas : à chaque fois que vous achetez une application, vous décidez, ce qui était déjà vrai au temps de l’électricité ou du chemin de fer.

10Le cas de certains pays, la Chine par exemple, montre tout de même que le pouvoir politique peut y parvenir.

11Bruno Latour – Ce qui prouve qu’il ne s’agit pas d’une sorte de destin technique qui échapperait au contre-pouvoir. L’Europe encourage, par exemple, une législation sur les données qui stupéfait les Américains. Les « sonneurs de trompette » de la technologie expliquent que c’est un scandale, que la technologie est autonome et que personne ne peut l’arrêter. C’est aujourd’hui le cas pour les organismes génétiquement modifiés et les GAFA comme autrefois de l’amiante. La technologie est une façon de faire de la politique qui a l’avantage d’apparaître pendant un temps comme une nécessité inévitable, hors du politique, avant que l’on s’aperçoive du contraire. Ce temps est désormais très limité : dans le cas des données de Facebook, le décalage a duré cinq ou six ans. Ces activités se développent, elles sont perçues comme formidables et neutres, mais on arrive finalement à la conclusion qu’il est nécessaire de construire des contre-pouvoirs. La même chose s’est produite au moment de l’arrivée de l’automobile à Paris.

12La technique permet le décalage, parce qu’elle affole un peu pendant un temps : c’est de la politique par d’autres moyens et, étant nous-mêmes un peu limités, on fait de la politique avec les moyens de la guerre. Les nouvelles techniques sont faites pour cela, et les innovations de rupture offrent toujours quelques années de liberté accrue à ceux qui les inventent. Ensuite, il s’opère une sorte de métabolisation et de retour. En fait, des entreprises comme Google sont désormais des services publics privatisés, un peu à la manière des chemins de fer en 1950-1980.

13Certaines infrastructures de Google sont à la fois soumises à la loi des États-Unis et d’un État précis. Parallèlement, la firme dispose quasiment de sa diplomatie, au point que le Danemark a nommé un ambassadeur auprès des GAFA. Henry Ford n’avait tout de même pas cela.

14Bruno Latour – Il y a plutôt là une amélioration réaliste de la géopolitique. Prenons le cas du nucléaire : il est militaire et a donc un lien très fort avec les États, or personne ne dirait qu’il est traité démocratiquement. Ce qui est dans la main de l’État est quand même assez loin de la démocratie. Donc, si la question est « y a-t-il une démocratie capable de tenir un peu de contre-pouvoir aux techniques ? », la réponse est « non », car cela n’a jamais été le cas.

15Mais je pense qu’il faut regarder deux autres points positifs et intéressants. J’ai mentionné le premier : il se construit ce système nerveux planétaire bégayant, qui nous libère quand même de l’idée locale. Même si tout le monde déclare aujourd’hui être opposé à la mondialisation, nous avons atteint un état de connexion qui rend potentiellement intelligent, ou global, n’importe quel point du globe du point de vue de la topologie générale des infrastructures.

16Un autre point est que l’on essaye de nourrir une espèce d’hypermodernisme baroque ou de futurisme du XXI^e siècle, qui est encore plus étrange que celui du XX^e siècle, avec ses rêves d’utopie ou de dystopie de technique. Le personnage le plus iconique est bien évidemment Elon Musk, qui envoie sa voiture dans l’espace pour se faire sa publicité. Il s’agit d’un modernisme traditionnel, mais sous amphétamines, en quelque sorte. Il ne correspond pas aux règles de modernisation du XX^e siècle, puisque la conquête de l’espace était quelque chose de sérieux.

17Les futurologues des années 1960 pensaient d’ailleurs que l’homme débarquerait sur Mars dans les années 1980. Ils se sont trompés par excès d’enthousiasme.

18Bruno Latour – Oui, mais lorsqu’ils se trompaient, c’était de « bonne guerre », c’est-à-dire qu’ils imaginaient se trouver dans une phase d’expansion de la modernisation. Intelligence artificielle, robots, biotechnologies extrêmes, Mars : il est très particulier de voir, dans les choses qui encombrent aujourd’hui les journaux, qu’il s’agit d’un modernisme extrêmement technique et intéressant, mais qui est hors-sol et ne concerne que ceux qui fuient. C’est la suite de l’axe de la modernisation, à la différence toutefois que l’on perçoit l’absurdité et le caractère totalement baroque de cette hypermodernisation.

19Elon Musk a d’ailleurs admirablement défini cette particularité de l’époque : « It’s fun and silly ». Personne n’aurait parlé ainsi en 1969 en voyant l’atterrissage sur la Lune : on avait alors l’impression que c’était véritablement le destin de l’humanité. Or, ces personnes ne sont plus le destin de l’humanité : le « fun and silly » caractérise un état de la projection de technique qui est la fuite.

20Il y a là, en effet, l’idée qu’il existe une « super élite » des GAFA qui est en train d’imaginer de retoucher le cerveau humain, d’aller vivre sur des îles extraterritoriales ou pourquoi pas dans l’espace. Sont-ce des projets qui ne concernent qu’eux-mêmes ? Que cela vous inspire-t-il ?

21Bruno Latour – Il est évident que nous n’allons pas aller à 9 milliards sur Mars. L’on se situe donc vraiment dans l’« escapism ». La littérature post-humaine est un peu l’équivalent high-tech de la presse « people » anglaise sur la reine et la famille royale : on sait que l’on ne sera jamais invité à Buckingham Palace, mais on trouve cela formidable, donc on le lit. Pierre Ducrozet a écrit un très joli roman, qui n’est pas exactement de la science-fiction mais une espèce d’anticipation, qui se passe dans les GAFA. Le héros, un genre d’Elon Musk, a décidé qu’il était idiot de mourir. On ne se situe plus dans la modernisation, dont le front a disparu, on recommence à plus hautes doses encore et on pousse le post-humanisme jusqu’à arrêter de mourir. Cela ne concerne plus la politique au sens démocratique.

22Dans votre ouvrage Où atterrir ? [1], vous proposez deux définitions de la mondialisation. D’un côté, une mondialisation « plus », qui permet de multiplier les points de vue sur le monde et les existences alternatives. De l’autre, une mondialisation « moins », uniformiste, qui en réduit le nombre. Des moyens comme Twitter ou Facebook, dans la mesure où ils font entrer en contact les humeurs et les opinions de tout un chacun, nous permettent-ils d’accéder à d’autres visions de l’existence et du monde ou nous réduisent-ils ?

23Bruno Latour – Il faut poser la question différemment : « sommes-nous capables de » ? La technique n’est ni de droite, ni de gauche, ni neutre. Elle n’est pas indépendante, et l’on peut citer énormément de moyens de tirer parti de ces nouvelles mises en réseau, qui ont permis le développement de la démocratie, en tout cas l’extension des connexions, la multiplication des censeurs et des senseurs. Si la question est « la capacité de sensibilité à la multiplicité des modes de vie et des connexions est-elle élargie ? », la réponse est « oui ». Si elle est « cela va-t-il donner du pouvoir à un plus petit nombre ? », la réponse est également positive. C’est par exemple aussi le cas du monopole de l’électricité.

24Il n’y a pas de technique qui, par nature, serait favorable au développement des relations démocratiques. La démocratie a toujours été, en partie, une lutte contre le développement des pouvoirs quels qu’ils soient, dont ces pouvoirs, très particuliers qui sont dans l’organisation des finances, parce que les techniques sont aussi, et même très largement, des techniques soft, c’est-à-dire d’organisation. Or, il se trouve que le numérique constitue la fusion des techniques « mécano » et des techniques d’organisation : un code est simplement la liaison entre les deux.

25Mais de nouveau, nous sommes fascinés par ce caractère immatériel. Or, en quinze ans, nous sommes passés de l’enthousiasme maximal à la déception. Nous avons cru qu’une technique permettait enfin des connexions sans contrepartie aucune, avant de s’apercevoir qu’il y avait là une possibilité d’invasion et de perversion contre laquelle il fallait lutter. De façon assez normale, comme pour chaque technique, il y a une période de latence qui peut durer plus ou moins longtemps selon l’aveuglement des journaux et des élites. Elle a duré quatre-vingts ans dans le cas de l’amiante ; elle n’a donc finalement pas été si longue dans le cas des GAFA. La durée n’a pas été si grande entre le moment d’enthousiasme maximum pour Facebook et le moment où il a fallu légiférer, en tout cas moins longue que pour l’amiante, qui a pour le moment tué davantage que les GAFA.

26Donc, l’on comprend désormais extrêmement rapidement que ces machines et dispositifs numériques ont un coût politique et social énorme, sans parler de leur coût énergétique. Voilà une belle réussite : tout le monde est maintenant sensible à un « after effect » des techniques numériques. Produire des anticorps sur cet exercice imbu du pouvoir prend forcément du temps et ne me paraît pas un problème de principe. Il n’y a rien de dirimant dans les techniques numériques, notamment parce que des dizaines de millions de personnes savent désormais coder. Ces personnes sont l’équivalent des soudeurs et des apprentis du passé, elles savent utiliser ces techniques et les transformer.

27Seriez-vous alors d’accord pour dire que ce n’est pas la technique qui est bonne ou mauvaise en soi, mais la manière dont on l’utilise ?

28Bruno Latour – La technique n’est ni bonne, ni mauvaise, ni neutre. Elle n’existe pas en tant que telle, elle est une partie de la capacité à construire les relations sociales. L’innovateur est précisément toujours celui qui saisit les connexions avant que l’on puisse en déterminer les anticorps, ce qui permet de construire des niches qui donnent un pouvoir extravagant pendant un temps : Rockefeller au début du XX^e siècle sur le pétrole, par exemple. En un sens, les techniques numériques, parce qu’elles matérialisent les organisations, sont plus faciles à repérer comme étant politiquement chargées que les techniques hard.

29La technique s’accompagne-t-elle nécessairement d’un discours politique ?

30Bruno Latour – On ne peut pas développer une technique sans « hype ». C’est impossible, car une innovation se réalise toujours contre un ensemble – l’électricité contre le pétrole, par exemple. Le « hype » fait partie du début de l’autonomisation, de la mise en place de l’innovation. Mais la rapidité de détection est également intéressante, précisément parce que ces techniques jouent sur des sentiments très forts et très personnels, et qu’elles descendent à des niveaux d’intimité forts.

31Je reviens une nouvelle fois à l’amiante, qui est un bon exemple au vu de l’organisation faite pour nier l’existence d’un problème à une technique, exemple qui peut être mis en perspective avec ce que l’on dit désormais sur les écrans et l’éducation des enfants. Les réactions sont beaucoup plus rapides, certes d’abord parce que des enfants issus de la bourgeoisie sont désormais touchés, et non plus seulement ceux issus de milieux ouvriers. Mais relevons également que l’on ne se situe plus dans quelque chose qui ressemble à l’invention de l’hygiène, à cette question de vie et de mort autour de l’épidémie.

32Je ne me fais donc pas beaucoup d’inquiétude. Je suis naturellement inquiet de l’absence de réaction démocratique, mais c’est un cas général, non un cas particulier. Les rapports entre local et global sont déjà une définition de ces techniques en réseaux. La possibilité de produire des anticorps est très grande, mais elle dépend des journaux, des institutions, des capacités de l’Europe à imposer des législations, d’un écosystème qui, dans toute technique, définit les standards. La standardisation est toujours le point le plus important, car elle entraîne tout le reste, surtout dans ces techniques : on ne peut pas inventer un smartphone tout seul.

33Et puis, ces questions de technologie et démocratie sont sans importance aucune à côté de la question du nouveau régime climatique. Voyez la différence entre l’énormité des problèmes posés par le changement climatique et la question de savoir ou non si l’on va parvenir à légiférer face à Google et Facebook. La civilisation ne va pas s’arrêter parce que l’on n’est pas capable de contrôler Mark Zuckerberg. Il y a 4 000 morts par an sur les routes en France, personne n’a demandé à ce que l’on supprime les voitures, que l’on va d’ailleurs peut-être supprimer grâce à Mark Zuckerberg, en diminuant probablement le nombre de morts.

34Ces technologies ne posent-elles pas davantage une question de rapport à l’existence ? Le fait que les gens marchent aujourd’hui dans la rue le nez dans leur smartphone, par exemple, ne donne pas véritablement l’impression d’une incitation à multiplier les points de vue sur l’existence, même au niveau individuel.

35Bruno Latour – Aujourd’hui, quand j’enseigne, les gens sont tous sur leur ordinateur. Mais que faisions-nous, pour notre part, dans les salles de classe ? Nous rêvassions. Si un professeur s’imagine donc que les élèves étaient auparavant plus concentrés, il ou elle se trompe certainement.

36Certes, tout cela pose question. Mais premièrement, c’est vrai de toutes les techniques. Et deuxièmement, c’est sans commune mesure avec le problème massif que pose l’absence de technologie. Par exemple, le problème des gens qui travaillent sur les sciences de la Terre est exactement inverse : l’on ne sait rien, l’on ne dispose que de très peu d’instruments, l’on a un extraordinaire déficit de senseurs et de réseaux sur les réactions d’un paysage ou d’un bassin versant à nos actions. Il y a un manque hallucinant d’informations. Donc, si l’on s’aperçoit qu’il faut empêcher les enfants de moins de trois ans de regarder les écrans et que les accidents de la route se multiplient parce que les gens sont sur leur smartphone, c’est évidemment grave, mais c’est infinitésimal, à l’image des personnes qui ont le mal de mer ou de celles qui étaient malades en train car elles n’étaient pas habituées à la vitesse.

37Il est intéressant de voir pourquoi ces questions peuvent paraître si importantes. Par exemple, très souvent, les journalistes veulent savoir si la machine à jouer au go modifie le rapport aux machines. Un terrassier est évidemment très faible face à bulldozer, cela ne surprendra et n’intéressera personne. Pourtant, la question est au fond exactement la même, puisque l’on parle d’un joueur de go contre 5 000 ingénieurs. Les techniques sont faites pour renverser les rapports de forces. Le grand problème est qu’entre le sage japonais qui est capable de faire une partie de go et la machine – admirable par ailleurs, avec 5 000 ingénieurs qui ont conçu le logiciel –, le premier sera capable de jouer en cas de panne d’électricité.

38Alors pourquoi cela fascine-t-il autant ?

39Bruno Latour – Le problème des techniques est qu’elles sont toujours immédiatement entraînées dans le « hype », la fascination et l’autonomie, alors qu’elles sont en réalité tout le contraire : la technique, c’est de la vie quotidienne, de la matérialité, des questions très complexes de réseaux, d’organisation, de droits ou de répartition des droits de propriété. C’est du business, ce qui n’a rien de particulièrement extraordinaire. Et dans le cas actuel, c’est de l’« escapism » que de s’intéresser à savoir si l’intelligence artificielle va ou non prendre le pouvoir dans cinquante ans. Alors qu’inversement, la question d’avoir des instruments qui permettent enfin de nous rendre sensibles à l’état de la planète, et donc aux réactions de la planète à nos actions, paraît tout de même importante. Or là, nous sommes totalement démunis : il est même compliqué d’avoir un instrument permettant de calculer l’humidité d’un sol.

40Je suis frappé par Elon Musk, mais il y a effectivement une ambiguïté forte. J’ai été scandalisé par le « fun and silly », mais ses prouesses technologiques me font aussi redevenir le moderniste admiratif des techniques que j’étais à 20 ans. Je prévois également d’acheter de nouveaux appareils informatiques. Il n’est donc pas possible de simplifier ces questions. La technique, c’est la civilisation elle-même, ce n’est pas autre chose. Ce n’est pas un corps étranger dont on se demande ce qu’il fait là. La technique et la société sont coextensives, elles sont la même chose : les techniques créent, d’un côté, des relations sociales et, de l’autre, des relations non sociales. Et ces techniques numériques ont tout de même l’avantage de rendre matérielles et visibles des connexions que l’on ne voyait pas auparavant. C’est ce qui intéresse les espions et les sociologues. Et c’est la raison pour laquelle j’ai créé le Medialab de Sciences Po. Il ne faut pas oublier qu’il est tout de même sensationnel de pouvoir suivre microseconde par microseconde les affects et les intérêts de bientôt 8 milliards de personnes.

41Le 8 mai 2018.