autres futurs
Ledit singe nu ne peut pratiquement survivre ni a fortiori agir, penser ou se faire plaisir sans prothèses techniques (l’outil, l’ordinateur, le viagra…), prothèses individuelles et « systèmes » collectifs, tels les réseaux de transport ou de télécommunication – et c’est cette dépendance que la médiologie met en lumière. Si bien qu’il est difficile de distinguer le « sujet » des « objets » qui l’équipent [1]. « Je démarre, je freine, je braque » dit l’automobiliste, ou bien, agressif : « ce salaud a rayé ma portière » – la symbiose risque de se dénouer avec la voiture autonome, mais elle pourra toujours se déclarer mon amie sur Facebook.
Hommachine et ses organes externes
De même, Machina sapiens n’existe pas à la manière d’un être vivant, cette « forme qui se forme elle-même [2] », homme, singe ou protozoaire. Ce qui existe, subsiste et évolue, c’est l’Hommachine, cet être hybride, mammifère vertébro-machiné, équipé par la technique d’organes externes qui prolongent et amplifient les organes internes, bras, jambes et *cerveau. Machina Sapiens, sans vouloir l’offenser, est la lointaine descendante du boulier, et le « *digital » nous rappelle que nous avons commencé par compter sur nos doigts.
L’avantage sélectif des organes externes, c’est qu’à la différences des organes internes, ils sont « débrayables » ; on peut sortir de sa voiture ou déposer les armes, ou même se séparer un moment de son smartphone [3] sans trop dépérir. Encore faut-il maîtriser ce déploiement d’organes, d’où la nécessité d’une « organisation », qui est encore une espèce de machine, comme le suggèrent ces métaphores : appareil d’État, machine bureaucratique, logiciel du parti socialiste… Et c’est ainsi qu’un « chef », de gouvernement ou d’état-major, ou bien un riche homme d’affaires, peut déployer une formidable puissance, sans commune mesure avec celle dont dispose en soi son chétif détenteur : « les Rothschild sont les plus étonnants organismes que le monde ait jamais vus » (Samuel Butler [4]).
Moins qu’une amibe
L’évolution de l’espèce hommachine s’est accélérée depuis trois siècles [5] – ce n’est pas l’animal qui évolue, bien entendu, mais la « part technique », outil, machine, fabrique, système, puis écosystème (le monde numérique « virtuel ») ; jusqu’à Machina sapiens, donc ? Mais n’étant pas une forme qui se forme elle-même, encore qu’elle puisse désormais se reprogrammer, la machine est moins qu’une amibe, moins qu’un protozoaire : pour imaginer son avènement, il faut donc d’abord, paradoxalement, l’« animaliser » (littéralement : lui accorder une âme). Sinon, elle n’est qu’un Lego sans ego (un montage) ; son prétendu langage ignore les pronoms personnels et les verbes d’action – sauf à les débiter comme un perroquet ; elle ne perçoit pas, elle scanne ; elle n’agit pas, elle opère ou exécute un programme ; elle ne pense pas ni ne juge, elle compute.
L’IA est dépourvue de cette espèce de sixième sens propre aux êtres vivants, celui de la perception synthétique immédiate du monde (les Modernes disent un « être-au-monde »), et qui fait qu’un être animé est affecté par la présence et l’expressivité des êtres et des choses. La machine intelligente mais inanimée substitue tant bien que mal à l’immédiateté du sens commun la vitesse de calcul : il lui faut de l’explicite, du pas-à-pas, mais elle court vite, « à la vitesse de l’éclair » comme on dit, et ce n’est pas une métaphore. Son fameux cerveau est électronique, ce n’est ni le cerveau mammifère ni le reptilien, ce cerveau « primitif » dont nous sommes paraît-il encore dotés, et qui nous fait réagir par réflexe avant même de comprendre (par réflexion et analyse), et freiner quand surgit un piéton devant le capot d’une voiture ordinaire (non autonome) ; en cela, elle se rapproche plutôt de la caricature du penseur des *Lumières gouverné par la seule raison – disons par son seul cortex cérébral.
Transferts de compétences…
Une calculette à trois euros extrait sans délai (sur commande) la racine carrée de 137.257 ce que ne savent plus faire les mathématiciens de haut niveau, en tout cas pas si vite ; une machine beaucoup plus coûteuse terrasse un champion aux échecs ou au jeu de go, humilie un éminent juriste sur la jurisprudence d’un cas complexe. Mais il faut encore lui enseigner que « ça ne sert à rien d’essayer de traverser un platane », explique un chercheur en IA ; si vous lui dites que « Jean est sorti de l’appartement, il a pris ses clés », il faut lui préciser que « il » désigne Jean et non l’appartement, et qu’il est passé par la porte et non par la fenêtre. On frémit à l’idée qu’une voiture autonome prenne pour un viseur l’étoile à trois branches qui orne le capot des Mercédès.
Alors que l’outil augmente les capacités de son usager, la machine intelligente fait plutôt le contraire : elle devient de plus en plus compétente et l’homme de moins en moins, puisqu’il n’a plus besoin de savoir/faire ce que la machine fait beaucoup mieux à sa place. Évaluer, raisonner, argumenter ? « Un réseau intelligent peut se contenter d’usagers idiots », tranche Nicholas Carr, médiologue américain. Et elle serait plus performante encore, si elle n’était plombée par ses interfaces homme-machine, dont elle n’a nul besoin pour interagir avec une autre machine : l’énergie d’un smartphone est essentiellement consommée par l’*écran, le clavier (même virtuel), le micro et les écouteurs, autant de concessions faites à un usager encore animal, trop animal.
Le calculateur prodige doué d’une mémoire exhaustive, imbattable dans les jeux algorithmiques (échecs, jeu de go) en aborde d’autres où son innocence découvre la perversité humaine, comme dans le poker où excelle le bluffeur. Il ne tardera guère à résoudre les « problèmes éthiques », mieux qu’un comité d’experts surdiplômés – avant d’intervenir dans le débat sur les machines pour y défendre sa cause et fixer des limites à l’usage de l’humain dans la société ? Quant au chatbot il se mêle à la conversation. À ses risques et périls.
La prochaine étape est celle de la décision. Après avoir conquis les chaînes de production, puis la navigation (GPS), la machine s’installe au volant ; elle décidera bientôt de nos déplacements – en vue de réduire nos émissions de particules ? Plus spectaculaire encore : l’IA attachée à une « arme intelligente », le drone, prescrira un jour prochain son propre déploiement tactique sur le théâtre des opérations ; puis elle suggèrera (ordonnera ?) de livrer bataille et à qui… ou bien de ne pas le faire, après avoir établi un bilan coûts-avantages d’une intervention armée sous couvert de devoir d’ingérence – un bilan qu’on l’espère mieux étayé que celui qui conduisit George W. Bush à ravager l’Irak en 2003.
Le travailleur sobre, le serviteur zélé attend donc patiemment sa promotion au rang de manager équitable, actionnaire rationnel, juge omniscient ; à condition d’échapper à ces « biais » de raisonnement qui guettent le décideur imparfait mais sont presque toujours, à vrai dire, le fait des humains, concepteurs, usagers ou maîtres de la machine. Ceux-ci biaisent en particulier la réflexion sur l’IA, trop souvent empreinte d’un humanisme hors de saison, y compris sous la forme idéologique la plus plate : les algorithmes seraient « conservateurs » avons-nous lu quelque part – accepterait-on plus volontiers qu’ils nous gouvernent s’ils étaient affectée d’un biais progressiste ? Outre qu’elle n’a aucune raison personnelle ou idéologique de biaiser, la mémoire exhaustive de l’IA lui permet de recenser la totalité des réponses que différentes cultures apportent à une même question, sur l’existence de Dieu ou sur la tolérance aux préférences sexuelles, par exemple : elle saurait donc fort bien repérer et, le cas échéant, éliminer les « biais culturels » – à condition que ses opérateurs veuillent bien la laisser travailler sans l’influencer.
… Dans les deux sens
De l’homme à la machine et retour, la métaphore est source de confusion – et de mystification : le cerveau est un ordinateur, voire un vulgaire disque dur, le génome un programme informatique, etc. ; et comme la recherche en informatique, de son côté, trouve son inspiration du côté du cerveau (le vrai, l’organique) et des gènes, la boucle est bouclée. Il est vrai toutefois que la chirurgie permet de « réparer » un *corps vivant un peu comme on répare une machine, sans parler du *body building ; les bio-technologies ouvrent peut-être des perspectives d’hybridation : après le robot, qui manque de naturel, retour au Golem ou à la créature du docteur Frankenstein, à notre image ? Il est vrai aussi que l’homme, de son côté fait le chemin inverse, se « machinise », se « *dataïse » et se livre aux *algorithmes qui l’émulent [6] le simulent et le calculent.
Ces confusions ont toutefois une vertu heuristique ; au lieu de décréter a priori qu’une machine ne peut pas penser, supposons (comme on l’a fait ici) qu’elle le peut et mettons-là plutôt à l’épreuve, poussons-là dans ses derniers retranchement, afin de mieux penser ce qu’on appelle « penser » [7]. Jusqu’où ira-t-elle, quels défis va-t-elle relever ? Difficile de se prononcer, d’autant qu’une machine inventée pour un usage précis recèle toujours plus de possibilités que l’inventeur n’avait envisagées : un smartphone est beaucoup plus « smart » que « phone » (téléphone), c’est l’instrument de « téléportation » de son usager [8] dans le monde numérique.
À défaut de nous « remplacer », la machine finira peut-être par nous faire entrevoir, par défaut, ce que nous sommes, irrémédiablement : un animal en état de *manque ?