Chronique n° 27 parue initialement dans France Catholique - No 1268 - 2 avril 1971

L’ORDINATEUR-ROI ? (*)

lundi 12 juillet 2010

Si l’on était moins paresseux, on devrait réfléchir davantage à l’évolution des ordinateurs. Qu’est-ce donc que cette machine qui « pense » fantastiquement plus vite que l’homme et qui, cependant, se trompe si souvent de façon grossière et même absurde ? L’amiral Jubelin rappelait récemment dans un journal de province (a) quelques-unes de ces bévues : la plus retentissante est la faillite de Rolls Royce causée par une erreur d’appréciation sur un nouveau matériau destiné aux aubes des turbines. [1]

Le dossier de la décision

L’amiral semble penser que la responsabilité initiale doit en être portée par les technocrates. Cette imputation pose clairement le problème de l’ordinateur en tant que substitut de la pensée humaine dans les problèmes de décision : ce n’est certes pas l’ordinateur qui a pris la décision de construire le fatal moteur dont l’échec risque, de proche est proche, de jeter des centaines de milliers de chômeurs sur le pavé. Mais le dossier de la décision, sur quelles bases fut-il établi ? Qui donc le formula en chiffres, chiffres de coût, chiffres de durée et, surtout, chiffres correspondant aux milliers de problèmes techniques posés par le nouveau matériau ? L’ordinateur, et lui seul, ou presque.

On objectera que les calculs de l’ordinateur étaient très probablement justes, et que s’il donna des réponses erronées, c’est que les questions lui avaient mal été posées. C’est vrai ! Mais voici un autre exemple montrant la difficulté de poser les bonnes questions et dont la réalité nous menace tous de mort.

On sait que la paix par la terreur tient au délai des quelques dizaines de minutes exigées par une attaque massive d’ICBM à têtes nucléaires.
Aucun des Grands ne peut exterminer l’autre sans mourir lui-même sous la riposte déclenchée pendant ces quelques dizaines de minutes. Mais la dynamique d’un tel équilibre porte irrésistiblement chacun des adversaires à raccourcir en sa faveur le délai dont dépend sa survie. Comme de nombreux savants l’ont déjà souligné (par exemple, l’Américain Paul Ehrlich [2] ), ce raccourcissement tend de façon irrémédiable à dépouiller les hommes de la décision ultime, puisque le cerveau humain ne sera bientôt plus assez rapide pour apprécier la situation stratégico-politique en période de crise. Cette situation exigera en quelques secondes une décision résultant de l’appréciation de milliers de facteurs. Aucun homme au monde ne sera plus capable de comprendre à temps ce qui se passe. Il faudra donc prendre à l’avance des décisions conditionnelles, et, abandonner à l’ordinateur le soin de savoir si les conditions de telle ou telle décision existent, si bien que la guerre totale pourra être déclenchée par des machines pendant notre sommeil !

Nous n’en sommes pas encore là, mais n’oublions pas que les performances des ordinateurs doublent en moyenne tous les quatre à cinq ans. Comme celles de l’homme n’ont pas changé depuis l’apparition de l’Homo sapiens et n’ont aucune raison de changer tant que l’homme ne sera qu’un homme, nous devrions, semble-t-il, dès maintenant, réfléchir à ce qui se passera quand la machine nous dépassera dans tous les domaines relevant de ce que nous appelons l’intelligence.

Dès 1964, une équipe proposait des machines capables de résoudre des problèmes par des voies non algorithmiques, c’est-à-dire, ne faisant plus seulement appel au raisonnement aveugle de l’ordinateur ordinaire (qui est la voie de l’intelligence discursive) mais bien à des processus du type intuitif. Les recherches de cet ordre se multiplient actuellement. A l’Université Stanford, Kenneth Mark Colby, Sylvia Weber et Franklin Dennis Hilf ont pu, l’an dernier, programmer un ordinateur de telle façon qu’interrogé ensuite librement par un psychiatre, il a été reconnu − j’entends l’ordinateur − comme paranoïaque. [3]

Voici un extrait de l’interrogatoire.

Le psychiatre. − Quel est votre métier ?

La machine. − Postier.

Le psychiatre. − Pourquoi êtes-vous ici, dans cet hôpital ?

La machine. − Je n’en sais rien, je ne devrais pas être ici.

Le psychiatre. − Où habitez-vous ?

La machine. − A San José, un coin qui n’est pas trop mal ; mais...

Le psychiatre. − Qu’entendez-vous par « pas trop mal » ?

La machine. − Je veux dire qu’il y a trop d’étrangers.

Le psychiatre. − Vous n’aimez pas les étrangers ?

La machine. − Ils sont envahissants.

Le psychiatre. − Comment font-ils ?

La machine. − Ils sont responsables de la plupart des crimes de la région.

Le psychiatre essaie de savoir en quoi ces étrangers ont nui à son « client ». Réponse : « C’est de la racaille, et d’ailleurs, la police est d’accord avec eux.

Le psychiatre. − Vous semblez bien connaître la racaille ?

La machine. − Et la Mafia, vous connaissez ?

Le psychiatre. − Non, mal. Parlez-m’en un peu.

La machine. − Vous savez, ils me connaissent !

Le psychiatre. − Comment ?

La machine. − Ils m’épient.

Le psychiatre. − Mais comment ?

La machine. − Ils ont une table d’écoute à mon téléphone.

La machine fut testée successivement par plusieurs psychiatres, chacun selon ses méthodes. L’un d’eux, par exemple, s’abstenait de répondre à une question de la machine.

La machine. − Pourquoi ne dites- vous rien ?

Le psychiatre. − (Silence.)

La machine. − Vous n’êtes pas capable de me poser une question convenable ? Vous essayez de m’obliger à parler en gardant le silence ?

Le psychiatre. − Cela n’a pas l’air de vous plaire ?

La machine. − Vous avez le droit d’avoir votre opinion.

La pensée artificielle

Que l’on puisse avoir de tels dialogues avec une machine paraît incroyable. Le fait est que personne au monde n’a encore sérieusement réfléchi à l’avenir de la « pensée » artificielle et à notre cohabitation avec elle, hors quelques spécialistes que personne ne lit. On va répétant que la machine ne fait que ce qu’on lui fait faire, qu’il n’en sort que ce qu’on y a mis. C’est vrai. Mais la force des choses nous entraîne précisément à accroître sans cesse la délégation que nous lui faisons de nous-mêmes. Il semble que personne n’ait envie de savoir jusqu’où cela ira, sauf les écrivains de science fiction. Pourquoi d’ailleurs se fatiguerait-on à y réfléchir ? Il y aura toujours un ordinateur pour le faire à notre place.

Aimé MICHEL

(a) Le Provençal, 23 mars 1971.

(*) Chronique n° 27 parue initialement dans France Catholique - No 1268 - 2 avril 1971.

— -

Les Notes de (1) à (3) sont de Jean-Pierre Rospars


[1L’entreprise Rolls-Royce fut fondée en 1906 par H. Royce et C.S. Rolls à Derby. Dès 1908 elle produisit des automobiles dans son usine de Derby et, à partir de 1914, des moteurs d’avions. Près de la moitié des moteurs d’avion utilisés par les alliés durant la Première Guerre mondiale furent fabriqués par Rolls-Royce. En 1938, la demande du moteur Merlin, sorti en 1935, était telle qu’une nouvelle usine fut construite à Crewe qui employa jusqu’à 10 000 personnes en 1943. Le moteur Merlin équipa plusieurs avions britanniques (du monomoteur au quadrimoteur) et, produit sous licence aux Etats-Unis, le fameux chasseur P-51 Mustang ; il fut produit à plus de 160 000 exemplaires. Après la guerre, l’usine de Crewe fut reconvertie pour la production de voitures tandis que celle de Derby continuait celle de moteurs d’avions, beaucoup plus stratégique pour l’entreprise. D’importants investissements furent effectués dans les années 60 qui débouchèrent sur des problèmes financiers. La crise pétrolière des années 70 envenima la situation. Mais ce furent surtout les problèmes posés par la mise au point d’un moteur révolutionnaire, le RB211, qui précipitèrent la crise : ses coûts de développement étaient montés en flèche et Rolls-Royce se montra incapable d’honorer un important contrat conclu en 1968 avec la firme américaine Lockeed pour l’équipement de son futur TriStar à 300 passagers. Le problème signalé par Aimé Michel provenait des aubes de turbine : l’idée était de remplacer l’acier par un nouveau matériau en fibre de carbone, beaucoup plus léger. Mais, en 1970, lors des essais, la turbine qui avait passé tous les autres tests, se brisa en morceau sous le choc d’un poulet tiré à grande vitesse (imitant l’entrée accidentelle d’un gros oiseau dans le réacteur). En 1971, Rolls-Royce fut déclarée en faillite et ne dût sa survie qu’à la nationalisation du secteur aéronautique. Le contrat avec Lockeed fut renégocié, les pénalités de retard annulées et le prix du moteur revu à la hausse. Une équipe de retraités accepta de se remettre au travail et acheva de résoudre les problèmes techniques en 1972. Finalement le RB 211 fut un succès commercial qui fit de Rolls-Royce un acteur mondial dans le domaine. La division aéronautique (la plus importante) fut séparée de la division automobile en 1973 et de nouveau privatisée en 1987. Aujourd’hui Rolls-Royce produit des moteurs d’avion civil (51% de son activité) et militaire (23%), ainsi que des moteurs de navire (16%) et des générateurs d’énergie (8%) dérivés des premiers. C’est le deuxième fabricant mondial de moteurs d’avion derrière l’américain General Electric Aircraft Engines. L’entreprise emploie près de 40 000 personnes. La moitié des avions civils aujourd’hui en service sont équipés de moteurs Trent dérivés du RB211.

[2Paul Ehrlich est professeur à l’université de Stanford. Ce spécialiste de la coévolution est connu pour ses travaux sur la structure, la dynamique et la génétique des populations naturelles de papillon. Ehrlich a le premier tiré la sonnette d’alarme sur les impacts environnementaux de la surpopulation dans son livre de 1968, La Bombe humaine. Aujourd’hui il maintient son diagnostic : « Trop de gens – en particulier parmi les politiques et les hommes d’affaires influents – s’imaginent à tort qu’on peut éviter qu’une fin (…) tragique ne ponctue l’aventure humaine moderne en ayant recours à des solutions technologiques qui permettront à la population et à l’économie de croître à l’infini. Or, si nous échouons dans notre contrôle de la population et de la surconsommation – le nombre d’habitants sur terre devrait passer de 6,5 milliards aujourd’hui à 9 milliards d’ici la seconde moitié du XXIe siècle – nous habiterons une planète chaque jour plus invivable, menacés que nous serons par deux crises : le réchauffement climatique et la dégradation des systèmes naturels dont chacun de nous dépend. » (www.goodplanet.info/goodplanet/index.php/fre/Contenu/Points-de-vues/La-bombe-humaine/%28theme%29/1400). Ehrlich vient de créer un groupe, le MAHB (Évaluation du comportement humain pour le Millénaire ; prononcer « mob ») dont l’ambition est rien moins que de « changer le comportement humain pour éviter un effondrement de la civilisation mondiale » (Paul R. Erlich, The MAHB, the culture gap, and some really inconvenient truth, PLoS Biology, 8:e1000310, 2010).

[3Ces travaux ont donné lieu à un article par K. M. Colby, S. Weber et F. D. Hilf, Artificial paranoia, Artificial Intelligence, 2 : 1-25 (1971), qui décrit le modèle informatique de paranoïa utilisé, et à deux articles par K.M. Colby, F. D. Hilf, S. Weber et H. C. Kraemer − Turing-like indistinguishability tests for the validation of a computer simulation of paranoid processes, Artificial Intelligence, 3 : 199-221 (1972), − Experimental validation of a computer simulation of paranoid processes, Mathematical Biosciences, 15 : 187-191 (1972), qui présentent les expériences faites avec le modèle ; ainsi qu’à un livre par Kenneth Mark Colby, Artificial paranoia : A computer simulation of paranoid processes, Pergamon, New York, 1975. Une prépublication datée de novembre 1971 (CS-TR-246.pdf) est également disponible sur le site ftp://reports.stanford.edu.

Cette recherche se situe dans le prolongement des idées de Descartes et de Turing sur la possibilité de distinguer ou non un homme d’une machine lors d’un dialogue (voir la chronique n° 26 Propédeutique à la névrose publiée ici le 7 juin 2010). Colby et ses collaborateurs reprochent au test proposé par Turing de ne pas être suffisamment bien défini. Son « jeu » serait trop vague : d’une part, il n’y a pas de critères connus permettant d’identifier une femme si tous les échanges passent par un terminal d’ordinateur du genre télétype (clavier et imprimante) ; d’autre part, il ne précise pas si le juge est informé ou non de l’implication d’un ordinateur dans le test (les auteurs pensent qu’il ne faut pas le lui dire). Les auteurs abandonnent donc le test de Turing originel au profit d’une tache où l’expert (ici un psychiatre) n’a plus à décider s’il a affaire à un homme ou à un ordinateur, mais à évaluer le degré de paranoïa de son interlocuteur. Selon eux, la paranoïa a l’avantage d’être l’un des rares désordres psychiatriques dont la présence-absence et le degré de sévérité sont diagnostiqués de manière fiable avec un degré d’accord de 85 à 95% entre psychiatres.

Les exemples de dialogues qu’ils présentent (différents de ceux donnés par Aimé Michel) sont certes fascinants mais il faut bien admettre avec le recul du temps qu’ils sont un peu surfaits. Les problèmes à résoudre (tels que comprendre le langage naturel, traduire une langue dans une autre, se déplacer dans un environnement complexe, faire un diagnostic par ordinateur, etc.) se sont révélés beaucoup plus difficiles à résoudre qu’on ne le pensait aux débuts de l’Intelligence Artificielle dans les années 60 et 70. Même si de grands progrès ont été faits on est encore loin du compte aujourd’hui.

Un message, un commentaire ?


Les forums restent ouverts durant 15 jours après la date de publication

modération a priori

Ce forum est modéré a priori : votre contribution n’apparaîtra qu’après avoir été validée par un administrateur du site.

Qui êtes-vous ?
Votre message

Ce formulaire accepte les raccourcis SPIP [->url] {{gras}} {italique} <quote> <code> et le code HTML <q> <del> <ins>. Pour créer des paragraphes, laissez simplement des lignes vides.