Le triple opérateur

Voici donc trois exigences : la vérité (qu’on puisse mesurer le vrai du faux), la finalité (qu’il y ait une intention), la causalité (que les mots tiennent au monde). Et l’argument de Shanahan suppose, à chaque fois, que ces propriétés sont possédées par un sujet. Le sujet humain les a ; la machine ne les a pas ; donc la machine n’est pas comme nous.

Je vais soutenir l’inverse — non pas que la machine les possède, mais que l’humain ne les possède pas davantage. Et que les trois fois, c’est le même geste qui le montre.

La vérité

Reprenons l’argument de la vérité. La machine, dit Shanahan, ne peut distinguer le vrai du faux parce qu’elle n’a aucun accès à une réalité extérieure contre laquelle vérifier ses énoncés. Soit. Mais demandons-nous : l’humain, lui, a-t-il cet accès ?

Quand je veux savoir si le Burundi est au sud du Rwanda, que fais-je ? Je ne contemple pas la vérité dans mon esprit. Je consulte une carte, j’interroge quelqu’un qui sait, je vérifie une source. La vérité ne m’est pas donnée comme une propriété de ma conscience ; elle m’arrive au terme d’une procédure — une enquête, une mesure, une confrontation avec d’autres. C’est exactement ce que Shanahan décrit du côté humain, sans voir ce qu’il s’apprête à concéder : la vérité n’est jamais logée dans le sujet. Elle est un événement du couplage entre le sujet et le monde, médié par une communauté et des instruments.

Le geste est anti-cartésien. Descartes loge la vérité dans l’idée claire et distincte que le sujet saisit en lui-même. Mais nous ne saisissons rien de tel. Nous testons. La vérité n’est pas une propriété de l’agent ; c’est une propriété du couplage.

Premier décrochage : la vérité quitte le sujet et passe dans la procédure.

La finalité

Deuxième exigence : l’intention, la finalité. La machine ne vise rien, dit-on ; elle n’a pas de but, pas de cause finale orientant ses énoncés vers le vrai ou vers autrui.

Mais que serait, chez l’humain, cette cause finale donnée d’avance ? L’idée d’une finalité inscrite dans les choses — la pierre qui tombe parce qu’elle cherche son lieu naturel — la science l’a abandonnée depuis quatre siècles. La finalité n’est pas une propriété qu’on découvre dans le réel ; c’est une fiction qu’on projette pour rendre les choses intelligibles. Et chez l’humain lui-même, l’intention n’est pas une donnée première : elle se construit, s’invente, se révise dans le dialogue. Je ne sais souvent ce que je voulais dire qu’après l’avoir dit, et parfois c’est l’autre qui me l’apprend.

La finalité n’est donc pas une cause préalable que la machine devrait posséder pour mériter qu’on parle d’elle comme d’un interlocuteur. C’est un effet — une fiction produite dans l’échange, par l’échange. Là encore, ce n’est pas une propriété de l’agent ; c’est ce qui émerge du couplage de deux paroles.

Deuxième décrochage : la finalité quitte le sujet et passe dans le dialogue.

La causalité

La troisième exigence est la plus coriace, et c’est par elle que Shanahan croit tenir son argument le plus solide. Les mots de la machine, dit-il, ne sont pas causés par les choses ; ils ne font que corréler avec elles. Quand elle dit « chien », ce n’est pas le chien qui a causé le mot, comme la lumière réfléchie par l’animal cause, sur ma rétine, ma perception. C’est une régularité statistique apprise. Corrélation, non causalité.

Ici, il faut être précis, car il y a un piège à éviter. La tentation est de dire : corrélation et causalité, c’est la même chose, la distinction est vide. Ce serait faux, et ce serait se désarmer soi-même. La distinction est réelle : un système qui ne capte que des corrélations grossières confond le chien et la niche dès que le décor change ; un système qui a saisi une structure plus profonde résiste à ce changement. C’est précisément cette différence qui sépare les premiers modèles, fragiles, des plus récents, qui lisent un plan, comprennent une scène, infèrent une intention dans une image. La distinction causale/corrélationnel est un excellent instrument de mesure de la robustesse d’un couplage.

Mais — et c’est tout — elle n’est pas le critère de la croyance ou de la conscience. Et c’est ici que Shanahan commet, contre sa propre prudence, l’erreur qu’il s’était interdite : il fait de la causalité une condition essentielle, une propriété sans laquelle, par nature, il ne saurait y avoir de croyance. Il glisse d’un constat sur la qualité du couplage à une thèse sur sa nature. Il refait de la métaphysique en croyant n’en pas faire.

Car demandons une dernière fois : l’humain, lui, a-t-il cet accès causal au monde ? Hume a répondu il y a près de trois siècles, et personne ne l’a réfuté : nous ne percevons jamais la causalité. Nous percevons des conjonctions constantes — ceci, puis cela, encore et encore — et nous ajoutons le lien causal par habitude. La causalité n’est pas dans le monde que nous percevons ; c’est une fiction de l’esprit, posée sur la corrélation observée.

Kant a tenté de la sauver en en faisant une catégorie a priori, imposée par le sujet à toute expérience. Mais cela nous ramènerait à l’essentialisme que nous fuyons : une propriété logée dans un sujet transcendantal. La voie juste est la troisième. La causalité n’est ni perçue dans le monde (Hume a raison contre le réalisme naïf), ni imposée par un sujet pur (contre Kant) : elle est inférée à partir des corrélations, puis validée par l’intervention sur le monde. Une fiction, oui — mais une fiction qu’on éprouve en agissant, et que la science raffine en la soumettant à l’épreuve. C’est, en somme, Hume relu par la science moderne : un modèle causal est une construction qu’on teste, pas une lecture du réel.

Troisième décrochage : la causalité quitte le sujet et passe dans la fiction validée par le couplage.

Le même geste, trois fois

Qu’a-t-on fait, trois fois de suite ? Le même geste. On a pris une propriété qu’on croyait logée dans le sujet — la vérité, la finalité, la causalité — on l’a décrochée du sujet, on l’a relocalisée dans le couplage au monde, et on l’a requalifiée en fiction éprouvée.

Ce n’est pas trois arguments. C’est un seul opérateur, appliqué trois fois. Et c’est pourquoi il fait tomber l’édifice entier de Shanahan d’un coup : tout son raisonnement supposait que ces trois choses étaient des propriétés qu’un sujet possède ou ne possède pas. On ne répond pas à ses trois objections une par une. On retire le sol commun sur lequel les trois reposaient.

La séparation du modèle nu et du système, qu’il croyait protectrice, devient alors le dernier piège — retourné contre lui. Car la conscience humaine, elle non plus, ne se loge ni dans l’atome, ni dans la molécule organique, ni dans l’axone, ni même dans le cerveau pris comme organe isolé. Aucune propriété du tout n’est localisable dans une partie. C’est le système qui est conscient, pas le neurone. Exiger que la propriété soit dans le modèle nu, c’est commettre exactement la faute qu’on commettrait en cherchant la pensée dans une cellule nerveuse. Shanahan a lui-même entrouvert cette porte en concédant que l’attribution « a du sens » au niveau du système. Il suffisait de pousser.