LES PERFORMANCES DE L’ORDINATEUR ET LE MYSTÈRE DE L’ESPRIT

Le physicien américain Robert Jastrow est un de ces savants au profil nouveau, comme on en rencontre dans les « grands projets » : connaissant à fond le langage des sciences et capable d’aborder au cours des zigzags de leur vie, presque n’importe quel problème où l’on use de ce langage. Nos grandes écoles, en France, et aussi nos universités maintenant, forment chaque année et par milliers des esprits de cette sorte, plus ou moins doués, plus ou moins travailleurs, plus ou moins curieux, plus ou moins professionnels et indifférents. Notre Ministre des Sciences, Hubert Curien, en est un exemple¹. JASTROW a travaillé principalement à la Nasa, en physique théorique, puis en physique nucléaire, puis à l’étude de la lune, ce qui est bien différent. Il enseigne aussi, ce qui est encore bien différent. Il fait des émissions télévisées; il écrit des livres de vulgarisation. Il n’a pas d’idées très originales, mais il connaît les idées qui circulent dans les diverses disciplines où il s’en va travaillant dans sa mouvante carrière². Il me semble que le dernier de ses livres, traduit en français (a), devrait intéresser le lecteur de ce journal désireux de comprendre un monde en train de naître sous nos yeux. C’est un livre très facile, écrit avec nonchalance et brio. Les idées qu’il expose ne requièrent aucune autre connaissance que celles qu’il expose dans une langue familière et pittoresque³. Quoique ces connaissances soient parfaitement vulgarisées, il ne s’agit pas d’un livre de vulgarisation : Jastrow explique, en effet, comment il voit la destinée de l’homme, son évolution actuelle, son avenir. En fait, ce n’est même pas sa conjecture personnelle qu’il expose. C’est celle qui circule, implicite, dans tous les milieux qui pratiquent l’informatique de haut niveau, là où l’on perçoit la nature des progrès (passés, en cours, et en préparation) de l’ordinateur. Il y a dix ans déjà, on me disait cela à l’Université Stanford⁴. Une partie de ce que l’on me disait s’est réalisée, et plus vite que l’on ne prévoyait. Le reste en voie de réalisation. De quoi s’agit- il ? Rappelons d’abord quelques faits qui ont du mal à passer dans le patrimoine des lieux communs, et qu’il convient de répéter en toute occasion. L’ordinateur (je parle naturellement des très grands ordinateurs de 3e générations et plus) ne pense pas, il n’est pas intelligent au sens où l’homme pense et est intelligent. L’ordinateur calcule et en utilisant les logiques du calcul, il raisonne. Mais il le fait d’une façon tout opposée à la nôtre. Notre pensée n’est pas une extension de l’arithmétique. Au contraire, c’est au terme de milliers d’années de réflexion que l’homme a inventé puis développé l’arithmétique, qu’il ne maîtrise pas de naissance. La pensée de l’homme naît floue et irrationnelle. La rationalité est une conquête historique. Le sauvage de l’histoire (vraie ou inventée) qui ne sait compter que « 1, 2, et 3 et beaucoup » (tous les nombres au-delà de 3 n’étant pas perçus par lui comme différents), ce sauvage-là est aussi intelligent que vous et moi (b). Il n’a simplement pas encore eu besoin d’étendre la numération au-delà de 3. Affrontez-vous à lui dans les embûches de sa savane, vous tomberez naïvement dans tous ses pièges et il se rira de votre (de ma) bêtise. Ce que peut l’ordinateur Mais inversement l’informatique, partie de l’arithmétique et de la rationalité, explore depuis déjà pas mal d’années ces formalisations du flou qui forment notre bavardage quotidien. Fondée sur une mécanique élaborée, qui n’est autre (en plus strict) que la logique aristotélicienne « oui ou non » (on pourrait même parler de la logique évangélique : « Que votre oui soit oui, votre non, non », « est, est, non, non »⁵, l’informatique réalise maintenant des enchaînements flous dont la ressemblance avec les nôtres est frappante. Car il faut, une fois pour toutes (il en est temps depuis des années), se débarrasser de l’idée fausse toujours répétée que l’ordinateur « ne sait que son programme » ; qu’il « ne fait que ce qu’on lui a appris », etc. L’ordinateur « sait » bel et bien améliorer lui-même ses programmes. Jastrow cite l’exemple déjà ancien de l’ordinateur joueur d’échecs « programmés » par A.L. Samuel (d’IBM) qui « apprend » − en jouant avec son programmeur et qui finit par l’écraser à chaque partie. Mais, comme je l’ai dit plus haut, l’ordinateur ne pense pas, il ne fait que reproduire l’intelligence en l’améliorant et en l’accélérant. Le « stockable » et le « traitable » Venons en maintenant à l’idée du livre de Jastrow. Ce n’est pas un informaticien professionnel. Ce n’est qu’un usager de l’ordinateur, mais au plus haut niveau. Il a une expérience approfondie de ce que fait déjà la machine et de ses progrès accélérés. Après avoir raconté la miniaturisation des circuits permettant la multiplication de ceux-ci dans un espace de plus en plus restreint, il écrit : « Si les tendances actuelles se maintiennent (c), ce modèle d’ordinateurs, (c’est-à-dire un modèle de même complexité que le cerveau humain, note d’A.M.) verra le jour dans les années 1990. Ils rivaliseront sur de nombreux points avec l’esprit humain et posséderont les attributs majeurs de la vie intelligente : la faculté de réagir au monde extérieur, la capacité d’apprendre par expérience, l’art de saisir rapidement les idées nouvelles ». Cependant, remarque Jastrow, outre les autres différences inconnues possibles entre le cerveau humain et l’ordinateur, il en est une dès maintenant visible et certaine : c’est que l’ordinateur évolue sans cesse dans les laboratoires, doublant ses performances tous les trois à six ans. S’il imite les performances principales du cerveau humain dans les années 1990, que fera-t-il quelques années plus tard, ayant « doublé les performances de l’esprit humain » ? En écrivant cette phrase aberrante, je pense soudain à quelqu’un que les lecteurs de ce journal connaissent et aiment, à notre ami le poète Pierre Emmanuel⁶. Doubler les performances de l’esprit humain ! Doubler les performances de Bach, de Dante, d’Homère, que signifie, cette absurdité ! Comment peut-on « doubler » le début terrible des Perses ? Comment doubler le simple vers de Nerval : « Je suis le ténébreux, le veuf, l’inconsolé » ? Cela n’a pas de sens. Non, cela n’en a pas. Mais il ne suffit pas de le dire, et même d’en éprouver l’évidence. Car, pensez-y, même si c’est possible, même si c’est inscrit dans un proche futur que personne, souligne Jastrow, n’est plus en mesure de contrôler ni de dévier, même s’il en est ainsi, écoutez alors, et de toute façon, cela échappe par définition à notre entendement. Comment entendrions-nous, comment pourrions-nous ne pas rejeter comme absurde quelque chose qui, par définition, dépasserait, précisément, notre entendement ? Dites ? On objecte parfois : Mais vous divinisez la machine, puisque seul Dieu dépasse notre entendement ? J’ai en ce moment une petite discussion privée avec notre cher Petru Dumitriu⁷ sur « ce qui dépasse l’entendement ». Il penche pour la « connaissabilité » de la Création, toujours limitée et toujours transcendée. Il expose avec éloquence et chaleur sa foi en la raison humaine dans son dernier livre si sensible, si profond, et qu’il faut lire comme les Pensées de Pascal, en commençant n’importe où, méditant et feuilletant (d). Le graphique de Jastrow, page 154, exprime l’évolution explosive passée de l’ordinateur et sa projection dans le proche futur (e). Cette projection montre que le nombre d’informations stockables et traitables dans la machine dépassera les possibilités de l’homme un peu après 1990, et atteindra leur centuple vers l’an 2000. Cependant la fantastique machine sera toujours une ferraille. Comment alors entendre ce paradoxal graphique ? Le mot « stockable » ne nous semble pas menaçant. Je ne me sens pas humilié par la plus gigantesque encyclopédie informatisée. Mais il y a le mot « traitable ». Quand je réfléchis, je traite des informations. Je cherche, je découvre, j’organise des relations logiques. Si une ferraille se met à faire cela aussi bien que moi vers les années 1990 et cent fois mieux que moi vers l’an 2000, que reste-t-il en propre à mon humanité ? Jacques Bergier, qui excellait à transformer les abstractions en boutades, affirmait que « la fin des haricots (sic) surviendrait quand, à la question : Que faut-il faire pour réduire le prix du lait ? l’ordinateur répondrait : Il faut fusiller tous les barbus. Car, ajoutait-il, la suite des raisonnements automatiques aboutissant à la réponse étant trop longue pour permettre un contrôle, on sera obligé ou bien de croire la ferraille sur parole ou bien de l’envoyer à la casse. Or, disait-il encore, on ne pourra pas l’envoyer à la casse, car depuis longtemps la société toute entière sera informatisée »⁸. La nouvelle extension C’est exactement ce que montre Jastrow avec clarté et moins d’humour. Il ne divinise ni n’humanise la machine. Mais il prévoit la symbiose de plus en plus dépendante de la pensée humaine et de la logique automatique, « minérale ». Sans vouloir rivaliser avec mon cher et tant regretté Bergier⁹, je proposerai une comparaison qui est aussi un sujet de réflexion. La musique moderne avec son architecture harmonique et rythmique, avec ses instruments, ses polyphonies et son grand orchestre, est née de l’invention de l’écriture musicale au Moyen-Âge. L’écriture musicale nous a permis de découvrir les insondables puissances latentes de l’oreille humaine. Croit-on qu’il n’existait aucun Mozart, aucun Debussy, aux côtés des peintres des cavernes ? À quoi rêvaient-ils, ces malheureux ? Eux-mêmes n’auraient su le dire. Songeons à l’émerveillement d’un petit Mozart de trois ans transporté à la tribune de St. Thomas de Leipzig, dans le tonnerre du Grand Orgue de Bach. J’ai connu, enfant, cette inoubliable révélation. Je ne dis pas que l’ordinateur, c’est pareil, rien n’est jamais pareil. Mais je crois, comme Jastrow, et comme tous ceux qui ont un peu fréquenté les grandes machines logiques, qu’elles vont dénouer d’autres capacités latentes de notre esprit tout aussi insondables que la musique. Ce n’est pas pour tout de suite. Leur usage exige encore trop de technicité. Leur exploration ne commencera que dans dix ou quinze ans. Mais cette nouvelle extension de notre esprit est devant nous, toute proche¹⁰. Aimé MICHEL (a) Robert Jastrow : « Au delà du cerveau », Ed. Mazarine, − Paris. (b) Comme le savent bien les ethnologues, et comme on peut s’en convaincre en relisant les classiques de la mentalité dite « primitive » (Levy-Bruhl). (c) Page 164. (d) Petru Dumitriu : « Je n’ai d’autre bonheur que toi », Ed. Œil, 12 rue du Dragon, 75006 Paris. (e) Jastrow a écrit son livre il y a quatre ans (publication américaine en 1981). Le « proche futur » annoncé par lui s’est réalisé plus vite pendant ce temps que Jastrow lui-même n’osait l’écrire. J’en donnerai prochainement quelques exemples¹¹. Chronique n° 390 parue dans France Catholique-Ecclésia − N°1970 − 21 septembre 1984 [||]

---

Notes de Jean-Pierre ROSPARS du 12 décembre 2016

 

• 

1. Hubert Curien (1924-2005) est l’un de ces esprits brillants qui forcent le respect par leur culture et leur intelligence dont la France a le secret. Physicien cristallographe, formé à l’École normale supérieure, professeur toute sa vie, grand serviteur de l’État, il a occupé les plus hautes fonctions. Directeur général du CNRS (1969-1973), président du CNES (1976-1984) et de l’Agence spatiale européenne (1979-1984), ministre de la Recherche et de l’Espace (1984-1986 dans le gouvernement de Laurent Fabius, puis 1988-1993 dans les gouvernements de Michel Rocard, Edith Cresson et Pierre Bérégovoy), il est l’un des pères de l’Europe spatiale. J’ai eu l’occasion de le voir à l’œuvre lorsqu’il était président du CNES et d’apprécier son talent si précieux de rendre ses interlocuteurs intelligents !
2. Cette « mouvante carrière » est, selon Aimé Michel, un trait assez répandu dans les milieux de la recherche américaine. Il l’a relevé à propos de scientifiques « versatiles » comme Fred Beckman (n° 96, Homo americanus – Le désordre américain prélude à un nouveau classicisme, 29.09.2014) et Jacques Vallée (n° 105, Comment la planification tue la recherche – L’exemple du Plan Calcul, 20.02.2012). Il a également relevé cette absence « d’idées très originales » associée à une très bonne connaissance bibliographique chez d’autres auteurs comme Gordon R. Taylor dont il écrit qu’il n’est « ni un grand écrivain, ni un philosophe original » mais « un esprit distingué, un homme de culture, muni d’immenses lectures, qui a beaucoup réfléchi. Mais ses lectures sont scientifiques. Il réfléchit, comme nos sages à nous, sur l’homme, la société, le bonheur, la politique, la destinée. Mais il va chercher ses faits et ses arguments dans la biologie, l’anthropologie, l’éthologie, le « management » (mot intraduisible !), la technologie (mot qui, dans son sens actuel, nous vient aussi de l’anglais). » (chronique n° 188, Science et culture, 23.05.2011).
3. Le livre de Jastrow, dont le titre original est The Enchanted Loom (littéralement, le métier à tisser enchanté, disons la machine enchantée) et le sous-titre « De l’intelligence biologique à l’intelligence artificielle », raconte en douze chapitres, illustrés de jolies figures, l’histoire de la vie sur Terre, l’évolution des mammifères, le fonctionnement du cerveau en général et du cortex visuel en particulier, l’évolution du cerveau, et imagine l’avenir de l’intelligence. Sans surprise il reprend les idées de John von Neumann et Irving John Good (voir la chronique n° 50, La troublante loi de Good – Quand l’intelligence des machines aura commencé d’échapper à la nôtre, 06.12.2010) et annonce l’avènement de l’ordinateur intelligent : « vers 1995, la courbe de croissance de l’ordinateur devrait dépasser la capacité du cerveau humain : dix milliards d’unités d’information pourraient tenir dans une mallette, et la consommation ne serait plus que de vingt watts. » (p. 149). Cet ordinateur est maintenant sur notre bureau mais il n’est toujours pas « intelligent » ce qui montre simplement que l’intelligence humaine n’est pas une simple fonction du nombre d’« unités d’information ». En supposant qu’on pourra un jour « drainer le contenu de son esprit et le transférer dans les parties métalliques d’un ordinateur », Jastrow annonce les idées de Hans Moravec, Ray Kurzweil et autres transhumanistes dont nous avons déjà parlé à plusieurs reprises (voir par exemple la chronique n° 181, Des machines intelligentes – Ordinateurs intelligents de Turing et machines autoreproductrices de von Neumann, 18.08.2013).
4. Aimé Michel a visité l’Université Stanford en mai 1972 lors d’un voyage aux États-Unis. Il en tirera la matière de plusieurs chroniques où, en contradiction avec l’intelligentsia française de l’époque, il met en valeur l’extraordinaire et persistante capacité à innover de l’Amérique : n° 96, citée ci-dessus ; n° 97, Quand la machine nous apprend à penser – La naissance du traitement de texte, d’Internet et des moteurs de recherche (06.02.2012) ; n° 104, Software et politique, 01.06.2010 ; n° 105, citée ci-dessus ; n° 208, La bousculade américaine – La source révolutionnaire de ce temps, c’est l’Amérique (05.12.2011) ; n° 272, America, America – Toutes les sociétés s’américanisent, et quand elles ne le peuvent pas, s’enlisent (23.11.2015).
5. Matthieu, 5, 37. Tresmontant en donne la traduction suivante : « qu’elle soit votre parole oui oui non non et ce qui [est] en surplus de cela provient du méchant. »
6. Pierre Emmanuel, de l’Académie française, est mort le 24 septembre 1984, quelques jours après la parution de cet article. Peut-être Aimé Michel venait-il de lui écrire cette lettre (aujourd’hui perdue) trahissant une « connaissance intérieure de la souffrance comme il en est peu » qui lui avait apporté du réconfort. Quelques semaines plus tard, Aimé Michel écrivait Jusqu’où sa main nous conduisit, éloge funèbre du poète disparu (chronique n° 391 mise en ligne le 16.05.2016).
7. Sur l’écrivain franco-roumain Petru Dumitriu (1924-2002) voir la chronique n° 386, Le sacre de la France – Un méchant peuple parmi d’autres mais de grands devoirs, 31.08.2015.
8. Le problème de vérifier les résultats fournis par un programme informatique se pose bien sûr pour tous les programmes mais il dépasse un seuil critique dans au moins deux cas. Le premier est celui de programmes d’une complexité telle qu’on ne peut, dans l’état actuel de nos connaissances, garantir qu’ils sont exempts d’erreurs. En 1985, certains experts pensaient que les programmes nécessaires au projet initial de l’Initiative de Défense Stratégique du président Reagan, plus connu sous le nom de guerre des étoiles, étaient de ce niveau de complexité (voir la chronique n° 396, L’impossible regard froid – Dans le coupe-gorge : des Falachas à Zinoviev en passant par l’IDS, 27.06.2016). Sans doute, cela a-t-il contribué, outre le coût, à ce que ce projet ne soit finalement jamais réalisé. Un autre cas de ce genre, très différent, est celui des « réseaux de neurones artificiels ». Il s’agit d’algorithmes inspirés du fonctionnement des neurones biologiques qui sont capables d’apprendre. L’élément de base du réseau, le neurone artificiel (ou formel), est un automate qui transforme les multiples entrées qu’il reçoit en une unique sortie ; par exemple il émet un signal si la somme des entrées est supérieure à un certain seuil. Les neurones formels d’un réseau sont connectés entre eux par des connexions dont l’efficacité peut varier : on parle de poids synaptique parce que ces connexions imitent les synapses du cerveau. On utilise notamment les réseaux de neurones pour opérer des classifications. En entrée du réseau on applique les données à classer et on modifie les poids synaptiques de manière à ce que la sortie du réseau réalise une classification correcte : c’est la phase d’apprentissage du réseau (dit supervisé quand le « professeur » humain décide si la classification est correcte ou non). Par exemple, on peut apprendre à un réseau à classer correctement les lettres de l’alphabet écrites par un certain nombre de personnes. Ensuite, on pourra utiliser le réseau pour reconnaître l’écriture d’autres personnes. Comme on le voit, le réseau est capable de généralisation mais il y a un prix à payer. Contrairement aux programmes classiques (algorithmes) qui exigent une excellente compréhension des problèmes à résoudre, le réseau de neurones fournit une réponse mais sans justification : c’est une boîte noire qui n’ouvre pas sur une meilleure compréhension.
9. Sur l’écrivain et journaliste Jacques Bergier (1912-1978), voir la chronique n° 318, Adieu à Jacques Bergier – Trente-sixième anniversaire de la disparition d’un homme hors du commun, 24.11.2014.
10. L’idée proposée ici par Aimé Michel est très intéressante et, pour autant qu’on puisse en juger, plus porteuse d’avenir, au moins dans l’immédiat, que celle de l’ordinateur intelligent. Selon cette idée, non seulement l’homme va s’adapter à la machine mais surtout il va développer des facultés de son esprit encore latentes parce qu’elles n’ont pas encore eu l’occasion de s’exprimer. On peut parler d’une coévolution homme-machine de la même manière qu’on parle d’une coévolution insecte-plante : les fleurs colorées, odoriférantes et nectarifères sont apparues au cours de l’évolution parce qu’elles attirent et récompensent les insectes pollinisateurs ; c’est à eux d’abord qu’elles visent à plaire ! On peut déjà voir les prémisses de cette coévolution dans la virtuosité des adolescents et des jeunes adultes à pianoter sur leur téléphone portable avec les deux pouces, alors que les personnes d’autres générations utilisent leurs autres doigts (surtout l’index pour les plus malhabiles). C’est une adaptation judicieuse car le pouce est plus agile. Cet apprentissage particulier implique des modifications des synapses dans le cerveau, exactement comme se modifient les synapses des réseaux de neurones artificiels. Bien entendu, pour Jastrow, cette association de l’homme et de l’ordinateur « ne durera pas très longtemps » car « l’intelligence humaine ne se modifie que lentement, si toutefois elle se modifie, alors que les possibilités de l’ordinateur évoluent à une vitesse absolument fantastique » (p. 167). Sans nullement mettre en doute l’accroissement continu présent et futur des capacités de l’ordinateur, cette prédiction de Jastrow et des transhumanistes demeure très conjecturale car rien pour l’instant ne permet d’assurer que (a) la conscience est inutile à l’intelligence et que (b) l’ordinateur va prochainement devenir conscient, c’est-à-dire autre chose qu’une « ferraille ». Il n’est donc pas encore exclu que la coévolution cerveau-machine se révèle plus longue qu’ils ne l’imaginent.
11. Ce sont notamment les chroniques n° 397, Petite apocalypse des machines parlantes (du 8 février 1985) et n° 400, L’étrange partie de cartes (du 12 avril 1985) que nous mettrons en ligne dans quelques semaines ou mois.