dimanche 6 août 2017

L’« intelligence artificielle » : option métaphysique, réalité pratique, projet politique

Une « chose qui pense » ?

L'expression « intelligence artificielle » évoque l'image d'une « chose qui pense » : le silicium dans lequel sont gravés processeurs et mémoires, muni d'un programme ad hoc, serait capable de « penser comme un être humain » ou même mieux que lui. Affirmer la possibilité ou la possibilité d’une telle « chose », c’est poser une option que l’on peut qualifier de métaphysique car elle concerne la conception de l’être.

Nombre de personnes insouciantes sautent d’un bond léger le gouffre qui sépare cette option de celles qui, jusqu'alors, donnaient un socle à la représentation du monde. Parmi les êtres vivants, disions-nous en effet, seuls les animaux pensent, et parmi les animaux seuls les humains possèdent une pensée élaborée. Et voilà que surgirait une « chose qui pense » et qui n’est pas même vivante !

S’il est facile de l’imaginer – des œuvres de fiction nous y invitent – il se peut qu’elle soit une chimère, un être que le langage évoque sans que rien de réel ne puisse lui correspondre. Il ne faut pas en effet confondre la réalité d’une image avec la réalité physique et pratique de l’objet qu’elle évoque.

Mais certains agissent et parlent comme s’ils posaient une option métaphysique plus radicale encore que la précédente : rien ne séparerait selon eux l’imaginaire du possible ni le possible du réel : « si je peux imaginer une chose, semblent-ils dire, c’est qu’elle est réelle ».

Les options métaphysiques sont rarement aussi explicites que cela. Elles n’en résistent que mieux à la réfutation et tout en étant implicites elles animent et orientent l’action : elles ont donc des conséquences politiques.

Avant d’en venir à ces conséquences il est salubre d’examiner ce qu’est pratiquement et réellement l’intelligence artificielle aujourd'hui, et de considérer ce que cet examen indique comme possible dans le futur.

La réalité pratique

La réalité pratique et actuelle de l'intelligence artificielle n’est pas du tout celle d’une « chose qui pense » : toutes ses applications supposent un important travail préparatoire qui doit être réalisé par des êtres humains.

Elles s’appuient en effet d’abord sur une base de données contenant des observations sur un grand nombre de cas individuels : certaines sont descriptives (symptômes observés sur des patients, données socio-économiques observées sur des ménages, etc.), d'autres classent les individus selon une nomenclature (diagnostic porté par des médecins, remboursement de la dette ou défaut de l'emprunteur, etc.).

Le cadre sémantique de la base des données (liste des symptômes et nomenclature des diagnostics, comme on dit dans le langage de la médecine) doit avoir été choisi par des humains, son contenu doit avoir été alimenté par des observations elles aussi humaines.

La base de données est ensuite soumise à l'une ou l'autre des diverses techniques de l'analyse discriminante qui, toutes, visent à mettre en évidence une « corrélation entre symptômes et diagnostics ».

Ces techniques consomment des ressources informatiques importantes. Lorsque tout se passe bien, le travail aboutira à un logiciel de taille relativement modeste qui, alimenté par des symptômes observés sur un nouvel individu, fournira une estimation du diagnostic accompagnée d'un score.

L'« intelligence artificielle », c'est cela et ce n'est que cela : produire un logiciel qui, alimenté par des capteurs qui indiquent des symptômes, saura classer des cas individuels sous l'étiquette d'un diagnostic.

Un logiciel de conduite automatique reçoit ainsi des signaux qui expriment l'environnement de la voiture et choisit, à chaque fraction de seconde, un diagnostic selon deux nomenclatures binaires : « accélérer » ou « ralentir », « tourner à droite » ou « tourner à gauche », des scores indiquant l'ampleur du changement d'allure et de la rotation du volant.

Il ne faut pas sous-estimer l'apport d'un tel instrument car le diagnostic sera posé rapidement et d'une façon éventuellement plus fiable qu'il ne le serait par un acteur humain : une base de données médicales peut incorporer une expérience plus diversifiée et plus complète que celle que possède un médecin.

L'« intelligence artificielle » apporte ainsi rapidité et fiabilité à une des fonctions les plus courantes de l'intellect humain, celle qui consiste à classer les objets qu'il perçoit (des personnes, des arbres, des textes, etc.) selon des nomenclatures qui lui sont habituelles.

Cette rapidité et cette fiabilité peuvent donner l'impression d'une intelligence éventuellement supérieure à l'intelligence humaine, mais elles caractérisent toutes les applications de l'informatique. Si vous programmez un logiciel pour résoudre les sudokus, l'ordinateur résoudra en une fraction de seconde ceux qui vous demandent une dizaine de minutes : il ne fera cependant qu'exécuter les instructions que vous avez programmées, mais en mettant à leur service la puissance de son processeur.

« Intelligence à effet différé » et « intelligence à effet immédiat »

Si un outil d'« intelligence artificielle » semble intelligent, son « intelligence » résulte d'une activité humaine (choix de la nomenclature et des symptômes, observations qui alimentent la base de données, programmation du logiciel d'analyse discriminante, étalonnage de l'outil sur les données, vérification de sa performance).

Au total, cet outil est en fait de l'intelligence humaine mise en conserve, une « intelligence à effet différé » stockée dans un instrument qui la mettra ensuite en œuvre avec la vitesse et la précision que procure l’informatique.

Les images et réflexions qu’évoque l’expression « intelligence artificielle » ont cependant peu de commun avec la « mise en conserve » d'une intelligence humaine à effet différé : elles vont jusqu'à évoquer un automate capable d'éprouver des émotions, d'avoir des désirs et des intentions : le robot qu'anime une intelligence artificielle serait une « personne » qu'il faudrait doter de droits, devoirs et responsabilités.

Cette chimère se substitue à la conscience exacte de ce qu'est l'informatique, de ce qu'apportent la puissance des processeurs, la taille des mémoires, le débit des réseaux et l'ingénierie des logiciels. Elle se substitue ainsi à la conscience de notre situation. Le système technique qui s'appuyait naguère sur la mécanique, la chimie et l'énergie s'appuie désormais sur l'informatique. Cela transforme la société jusque dans ses fondations, et le point le plus délicat de cette transformation réside dans l'émergence de l'être nouveau que forme la symbiose du cerveau humain et de l'ordinateur :
« The hope is that, in not too many years, human brains and computing machines will be coupled together very tightly, and that the resulting partnership will think as no human brain has ever thought and process data in a way not approached by the information-handling machines we know today » (Joseph Licklider, « Man Computer Symbiosis », IRE Transactions on Human Factors in Electronics, mars 1960).
Pour réussir cette symbiose il faut une compréhension exacte des aptitudes du cerveau humain, de celles de l'ordinateur, et de la façon dont ils peuvent coopérer dans l'action productive en se complétant :
« Fondamentalement, l’ordinateur et l’homme sont les deux opposés les plus intégraux qui existent. L’homme est lent, peu rigoureux et très intuitif. L’ordinateur est super rapide, très rigoureux et complètement con » (Gérard Berry, professeur au Collège de France, entretien avec Rue89, 26 août 2016).
L'« intelligence à effet différé » stockée dans l'informatique coopère avec l'« intelligence à effet immédiat » des agents opérationnels tout comme, dans l'économie mécanisée, le capital fixe formé de machines et de bâtiments était un stock de « travail à effet différé » qui coopérait avec le « travail à effet immédiat » des ouvriers.

Pour se représenter les effets d’une telle symbiose, il est utile de se représenter ceux qu’a eue celle du cerveau humain et de l'écriture : on peut effectuer avec du papier et un crayon des calculs qu'il serait impossible de faire de tête, la pensée se construit et se communique par l'écrit, etc.

Un projet politique

Certains prétendent cependant que « l'ordinateur » peut être aussi « intelligent » que l'être humain - voire davantage car pour certaines opérations il est plus rapide. Ils tournent ainsi le dos à la réflexion nécessaire pour réussir la symbiose évoquée ci-dessus : lorsque l'on a postulé l'équivalence ou l'identité du cerveau et de l'automate, il devient impossible de penser la façon dont ils peuvent et doivent se partager le travail car il est impossible d’articuler l’identique avec lui-même.

Or l'efficacité se gagne avec cette symbiose, associée à une synergie des actions individuelles :
« The strongest chess player today is neither a human, nor a computer, but a human team using computers » (Devdatt Dubhashi et Shalom Lappin, « AI Dangers: Imagined and Real », Communications of the ACM, février 2017).
Affirmer la possibilité d'une « chose qui pense » possédant une intelligence supérieure conduit naturellement à confier toute l'action à « l'intelligence à effet différé » de « l'ordinateur », et à ne laisser aucune autonomie à « l'intelligence à effet immédiat » des agents opérationnels, dont l'action sera donc elle aussi programmée comme celle d’un automate.

« L'intelligence à effet différé », c'est alors celle des organisateurs de la direction générale et du système d'information qu'ils sont spécifié. Ils veulent que les agents du terrain soient des appendices de l'automate, tout comme dans l'entreprise mécanisée les ouvriers étaient des appendices de la machine. L'utilité de l'« intelligence à effet immédiat », de l'adaptation aux particularités du terrain, de la réponse aux incidents imprévisibles, de la compréhension de ce qu'a voulu dire une personne, tout cela est nié.

Cette orientation est déjà à l’œuvre aujourd'hui : des entreprises sous-traitent leur relation avec les clients (accueil téléphonique, maintenance des installations) ; l'initiative de l'agent qui se trouve derrière un guichet est contrainte par ce que lui permet « l'ordinateur » qui obéit à des consignes préfabriquées, porteuses d'une rationalité formelle mais qui peut se révéler déraisonnable dans la rencontre avec les incidents et particularités du terrain.

Les régimes totalitaires ont donné la machine en exemple à l'« homme nouveau » qu'ils ambitionnaient de faire naître : tout comme celui des bolcheviques, l'homme nouveau des nazis devait être infatigable, discipliné et dépourvu de compassion.

De même, l'agent opérationnel n'est pas invité à travailler en symbiose avec « l'ordinateur » mais à se comporter comme un ordinateur : l'entreprise le lui proposant en exemple, il doit être capable de travailler de façon automatique, rapide et efficace et sans réfléchir, le monopole de la réflexion appartenant à ceux qui l'ont programmé.

Notre culture abonde en exemples d'hommes qui agissent en automates. Le trader qui joue sur le marché des devises ou des produits dérivés est invité à réagir automatiquement aux signaux qu'il aperçoit sur un écran, sans se soucier des conséquences de son action, et son travail est l'un des mieux payés qui soient (ce travail sera cependant de plus en plus confié à des automates informatiques comme dans le trading de haute fréquence).

Notre culture, nos films et romans accordent une place révélatrice à des « héros » qui agissent en automates et qu'ils nous donnent implicitement en exemple : le tueur à gages impressionne par la froide efficacité qu'il met au service de sa mission, le tueur en série est lui aussi un automate mu par ses pulsions.

Le culte de la chimère de la « chose qui pense » oriente ainsi la société vers une organisation semblable à celle de l'armée prussienne de l'ancien régime où les soldats étaient dressés par la schlague et le drill à obéir automatiquement aux signaux visuels et sonores qui guidaient leurs évolutions et leur indiquaient de se mettre en ligne, en colonne, tourner à droite ou à gauche, avancer, reculer, tirer, charger, etc.

Cette armée professionnelle, organisée rationnellement et dans le détail, a cependant été vaincue à Valmy par une armée improvisée : nier la nécessité de l'intelligence à effet immédiat, programmer l'action des agents opérationnels, les assimiler à des automates, cela ne peut être efficace qu'en apparence.

Il s'agit donc d'un projet politique et non d'un projet économique : il s'agit de téléguider la masse du « peuple », que l'on suppose dépourvue d'intelligence et de volonté, pour qu'elle exécute les actions décidées par une élite qui seule détiendrait des valeurs de la société.

Ce projet implique une négation de la démocratie et oriente vers une résurgence de la féodalité, vers une société régie par de purs rapports de force : la puissance et la discrétion qu'offre l'informatique ont déjà incité la Banque à exercer une prédation sur le système productif, elles permettent déjà au crime organisé de blanchir ses profits pour prendre le contrôle des entreprises et, dans certains pays, de l’État.

Ce danger réel est masqué par les craintes fantasmatiques que disent éprouver de bons esprits devant l'intelligence artificielle : quand Bill Gates, Elon Musk, Stephen Hawking etc. disent être effrayés par la chimère d'une intelligence artificielle supérieure à celle de l'être humain, ils nous éloignent de la compréhension de ce qu'est l'informatique, de son apport, des dangers qui l’accompagnent, des exigences pratiques de la symbiose entre « l'ordinateur » et notre cerveau.

1 commentaire:

  1. Excellent texte qui met les dimensions implicites de l'expression "chose qui pense" à leurs justes places respectives.

    RépondreSupprimer