« L’intelligence artificielle flatte le désir de puissance »

N’y a-t-il pas un projet démiurgique dans le développement de l’intelligence artificielle ? « Vous serez comme des dieux », dit le serpent à Adam et Ève…

Pierre Dulau : Il y a en effet, dans le déploiement technique contemporain, quelque chose de la promesse du serpent. Quelles sont les prérogatives d’un dieu ? L’omnipotence, l’omniscience, l’omniprésence. C’est bien ce que promet la technique : tout faire, tout être, tout savoir, à tout moment, par la reproduction numérique du réel. Voyager sans vous déplacer grâce à Internet ; être ici et là-bas grâce aux dispositifs de téléprésence ; agir à distance grâce aux systèmes de télécommande. Cela flatte en l’homme un désir de puissance. Mais ce n’est qu’une illusion : le prix à payer du contrôle, c’est l’appauvrissement du réel, sa dissolution dans un programme. Et si vous êtes là sans y être, c’est qu’en réalité vous ne vous incarnez plus nulle part. Et c’est bien ce que promet le diable. Il ne dit pas : « Vous serez des dieux » mais « vous serez comme des dieux ». C’est-à-dire des dieux de pacotille, des simulacres de déités, partout présents mais nulle part incarnés, vos désirs toujours satisfaits, parce qu’ils auront été pré-programmés. La technique nous promet bien une « vie de rêve », mais au sens littéral : une vie qui n’a plus que l’épaisseur d’un songe.

Martin Steffens : Nous ne voulons plus habiter les limites que nous fixe la nature. Chesterton disait avec humour que l’on peut, si l’on veut, libérer un tigre des barreaux de sa cage… mais non pas de ses rayures, sans quoi on le libérerait du fait même d’être un tigre ! Il est légitime de vouloir s’affranchir de contraintes extérieures, mais il est périlleux de refuser les limites qui nous constituent en propre. Et ces limites, pour l’homme, ce sont la naissance et la mort, la natalité et la mortalité. C’est par elles, qui sont les deux faits irréductibles de la Nature, que la Grâce passe : par la naissance, je reçois absolument, gratuitement la vie ; par la mort, cette vie vécue s’échappe à elle-même et indique ainsi son au-delà. La mort, d’ailleurs, commence ici-bas : qu’est-ce qu’aimer, sinon mourir à soi en vue d’un autre que soi ? L’humanité ne s’accomplit pas en faisant l’économie de la mort individuelle. Parce qu’elle est précisément une certaine manière d’habiter sa mortalité.

Pierre Dulau : L’homme est tenté par la désincarnation parce que, sous un rapport seulement, le corps est bien une sorte de prison. Je suis frappé par la disparition des inhumations et la préférence des Français pour la crémation. Il y a sans doute à cela une raison économique évidente : il est devenu presque impossible d’acheter une concession. Mais je pense que cette raison économique est travaillée par un mobile symbolique et spirituel ou, plus exactement, qu’elle certifie une conviction qui, elle, n’a rien d’économique. L’univers technique est tendu vers la possibilité de dispenser l’homme de subir l’épreuve de la terre, donc de la corruption du corps pour, jusqu’au bout du bout, nier toute espèce de gravité. Se « volatiliser » dans l’air et renaître dans le cloud (le «nuage» : réseau de serveurs reliés par Internet où sont stockées des données numériques) – c’est là ce qui vaut pour promesse de résurrection dans un monde sans transcendance. Ainsi, même la mort se trouve « déréalisée » car privée du sol et du temps où s’accomplir.

Le modèle christique nous montre au contraire la pleine nécessité du mouvement inverse qui va du Ciel à la Terre : assumer jusqu’au bout la finitude, sans même chercher à éviter la mort, et la dépasser, non en l’esquivant, mais en passant par elle. De ce point de vue, on peut s’attendre à ce que la contradiction ne fasse que s’accuser entre le message chrétien et l’idéal qui gouverne le déploiement technique, car le second, mine de rien, subvertit insidieusement la promesse du premier.

On serait tenté de prêter une forme de pensée aux machines dès lors qu’elles ordonnent des informations selon une certaine logique. N’y a-t-il pas pensée quand il y a logique ?

Martin Steffens : La logique dont vous parlez n’est plus la logique du Logos mais celle du logiciel. Le Logos, celui de Platon et plus encore celui du prologue de saint Jean, n’est pas calcul, mais « Parole », « Verbe », « Lien », « Relation » – quatre mots qui le traduisent peut-être mieux que « raison ». S’il peut se faire chair, c’est qu’il porte en lui la possibilité de venir habiter un corps qui naît d’un autre corps, celui d’une mère. Ce Logos est, comme le dit saint Jean, la Vie. Nous connaissons mieux ce qu’il est en méditant le mystère de notre vie, reçue dans une chair.

Pierre Dulau : Ce qui est effectivement nouveau – et inquiétant – c’est que l’IA touche désormais à des fonctions intellectuelles qui, traditionnellement, certifiaient la souveraineté de l’homme sur les choses et son irréductibilité à ces dernières. L’IA peut produire instantanément un texte cohérent, ou peindre une image inédite, ou encore composer de la musique. Il existe aussi des systèmes automatisés de prise de décision. Le potentiel d’action de la machine a été élargi à des domaines auparavant réservés à l’esprit parce qu’ils impliquent sa liberté et sa responsabilité. De sorte qu’on fait rentrer dans le cadre de ce qui est de droit programmable. Ce qui était au demeurant assez prévisible depuis le développement, au milieu du XX^e siècle, des systèmes cybernétiques – même si l’on était loin d’en mesurer toutes les conséquences !

Que signifie « cybernétique » ?

Pierre Dulau : Ce sont des systèmes qui sont capables de se gouverner eux-mêmes et qui simulent ainsi l’autonomie humaine de la prise de décision. Ils sont apparus au cours des années 1940, dans un contexte militaire. Par exemple une batterie de DCA qui déclenche automatiquement son tir dès qu’un avion ennemi pénètre dans l’espace aérien qu’elle protège. Sur le principe, tout est déjà joué : ce qui est automatisé, ce n’est pas seulement le fait d’envoyer un missile, c’est le fait de décider d’envoyer un missile. Ici, ce que l’homme délègue au dispositif technique, c’est l’opération du jugement prudentiel.
Automatisé, dites-vous, mais néanmoins programmé…

Pierre Dulau : C’est là toute l’ambiguïté, en effet : l’homme est bien le concepteur de ces systèmes, mais il en est aussi désormais l’agent de maintenance puisque dans de nombreux secteurs, il leur a délégué rien moins que l’opération du choix.

Il en est aussi, sous un autre rapport, la matière première, parce qu’il permet que ses caractéristiques viennent alimenter le système technique, comme c’est le cas par exemple dans l’économie numérique qui a besoin d’avoir constamment accès aux désirs des hommes pour en tirer profit. L’homme devient ainsi le serviteur et le carburant du système technique qu’il a créé. Et nous consentons à cette transformation. La machine provoque bel et bien un changement non seulement de comportement, mais surtout de statut. Elle modifie tant notre perception du monde que la place que nous occupons en lui.

Martin Steffens : La technique est, comme la poésie ou la philosophie, une certaine manière de regarder le monde. La poésie regarde le monde à partir de son avènement, comme le miracle d’une présence offerte. La technique le regarde comme quelque chose dont on peut faire autre chose, comme une matière première. C’est pourquoi la technique, contrairement à la poésie ou à la philosophie, change directement, matériellement le monde.

La technique moderne a même ceci de particulier qu’elle tend à exclure l’homme de tout rapport charnel au monde. La machine, à la différence de l’outil, extériorise complètement le geste. Un marteau, une charrue nous mettent en relation avec le monde, ils nous en font éprouver la résistance, qui appelle un effort. Ce sont encore des interfaces. La machine, au contraire, nous éloigne du monde. Il suffit d’appuyer sur un bouton pour déclencher une action mécanique : « on/off ». Or jamais l’humanité n’a chassé un animal, cousu un vêtement, cultivé un champ en appuyant, encore moins en « scrollant » ! À terme, la technique nous prive du geste. Le risque, avec Chat GPT et ses avatars informatiques, c’est que nous externalisions aussi la pensée…

Ne s’est-on pas trompé en réduisant l’homme à la pensée – « cogito ergo sum » – et, surtout, la pensée à la raison logique ?

Martin Steffens : Platon fit inscrire au fronton de son Académie : « Que nul n’entre ici s’il n’est géomètre. » Leibniz parle de Dieu comme d’un mathématicien. L’intelligence artificielle s’inscrit sans doute dans cette tradition philosophique…

Pierre Dulau : Nous sommes passés d’une civilisation du symbole à une société du signal. Le symbole, c’est ce qui a besoin d’être interprété : il appelle la « verbalisation » et permet à la pensée de se déployer, précisément parce que son sens est toujours équivoque. Il doit sans cesse être repris ; l’incertitude quant à sa signification stimule le dialogue, donc la relation pensante. Le signal, c’est tout l’inverse : on/off. C’est l’alarme qui commande la fuite ou le panneau « Stop » qui exige l’arrêt. C’est simple… et c’est tout. La culture technique soumet toute réalité au régime du signal, y compris la parole humaine ; sous ce rapport elle est une anti-culture. Elle nous prive du geste et réduit la parole au registre binaire qui est celui de l’informatique. Pour de nouveau résonner à plein, le Logos devra sans doute briser l’hégémonie du régime du signal.

Ira-t-on jusqu’à confier à des machines le soin de penser et de décider pour nous ?

Pierre Dulau : Le problème est justement que c’est déjà le cas. Même si comme on l’a vu, il s’agit seulement de simulacres automatisés de pensée : il suffit pour s’en convaincre de songer à la place prise par les systèmes d’aide à la décision dans le cadre politique ou entrepreneurial. Ils sont omniprésents. C’est qu’il y a pour l’homme un bénéfice à déléguer ses fonctions souveraines à des dispositifs techniques. Ce bénéfice, sans parler des intérêts économiques évidents, c’est le confort. La liberté est un poids. Aussi, tout ce qui nous dispense de faire des choix et d’assumer notre incarnation a toujours un caractère tentateur… Par exemple, chacun voit bien que le téléphone portable n’est pas comme un marteau que l’on range après usage. Ce n’est pas du tout un « outil ». Les hommes se contemplent dans leurs smartphones. Plus exactement, ils se donnent un accès à eux-mêmes, – leur imagination, leurs désirs, leurs hontes, etc. – qui est objectivé par la machine et qui, ainsi, les déleste de l’effort d’approfondir leur vie intérieure. Sous cette forme grossière, le téléphone est quelque chose comme une prothèse de l’âme qui en projette les qualités pour les rendre prévisibles. La prochaine étape, c’est ce que promet Elon Musk : le Neuralink, soit la « greffe » d’implants cérébraux connectés au « Teslaphone ». Ce qui vous permettra d’utiliser toutes les facilités informatiques par les seules ressources de votre pensée et qui, du même coup, soumettra ces ressources aux contraintes de l’économie et de l’informatique.

Est-ce qu’on ne joue pas un peu à se faire peur ?
Pierre Dulau : Sans parler des réactions irrationnelles d’enthousiasme technophile ou de rejet technophobe, ces transformations techniques donnent notamment lieu à deux attitudes symétriques et inverses : le relativisme qui prétend qu’il ne se passe rien alors qu’il a constamment sous les yeux l’évidence de la machinisation de l’homme, et l’élitisme culturel qui reconnaît bien ces transformations mais qui les juge trop vulgaires pour mériter sa pleine attention, ou bien qui les contourne par réflexe idéologique. Aucun de ces partis ne me semble satisfaisant. Que la promesse de l’« homme augmenté » soit une promesse menteuse tout droit issue d’un plan marketing de la Silicon Valley, c’est bien possible ; que la transformation technique de l’expérience humaine jusque dans ses retraites les plus intimes soit bien un fait que personne ne pilote, mais qui s’impose comme un destin à la Terre entière, c’est cependant une réalité. Suffisamment bouleversante pour qu’on la prenne au sérieux. Ce qui le certifie, c’est que nous vivons désormais dans le monde des banques : banques de données, banques de gènes, banques de sperme, banques de sang, et bientôt sans doute banques d’enfants. La réalité est réduite à un stock de données, mises en sûreté et exploitables à loisir. Il ne s’agit plus seulement de maîtriser une nature qui s’impose, mais, la considérant comme une matière indéterminée, de la reprogrammer. Tout cela, sous le ciel numérique d’Internet qui coiffe notre monde de son nuage de données, le Cloud.

Cette fascination pour la technique, c’est une forme d’idolâtrie ?

Martin Steffens : Il y a deux formes d’idolâtrie dont il faut se méfier. Une idolâtrie naïve, que je nommerais « blanche » : la technique va nous sauver – alors même que, création humaine, chacune des solutions qu’elle apporte est riche de futurs problèmes… Et une idolâtrie que j’appellerais « noire » : l’IA, dit-on, va faire de l’homme un zombie assujetti à la technique. C’est une idolâtrie au sens où, sous couvert d’une critique de la technique, on lui accorde par avance tout pouvoir. En dénonçant la logique totalitaire à l’œuvre dans la technique, on met sa propre huile dans la machine… Or l’homme est non seulement un inventeur, il est aussi, et tout autant, un saboteur. Dostoïevski, dans ses Carnets du sous-sol, prévient les technolâtres : promettez à l’homme, grâce au Progrès, à l’État, à la Science, etc., le bonheur sur terre… eh bien, il préférera faire tout capoter, parce qu’il n’aime pas qu’on le prenne pour la touche quelconque d’un piano mécanique. L’homme préférera être malade et malheureux que soulagé de lui-même !  

Lire aussi : De l’intelligence à la pensée