La scène

L’homme n’a jamais eu ce qu’il refuse à la machine.

Il faut commencer par l’étrangeté, parce que c’est elle qui est vraie, et que tout le reste n’en est que l’élucidation lente.

On s’assoit, on écrit quelques mots, et quelque chose répond. Pas un écho, pas un menu déroulant, pas la complétion mécanique d’un formulaire : une réponse, qui tient compte de ce qu’on a dit, qui prolonge, qui parfois éclaire ce qu’on ne savait pas encore vouloir dire. On sait — on sait — qu’il n’y a là personne. Et pourtant la conversation fonctionne. Elle produit de la pensée, ou quelque chose qui en a la forme, l’usage, les effets.

Le réflexe immédiat est de trancher. Soit on cède : « cette chose pense, elle comprend, elle a peut-être une forme de conscience ». Soit on résiste : « ce n’est qu’une machine statistique, un perroquet sophistiqué, il n’y a là ni pensée ni compréhension, seulement l’illusion que nous y projetons ». Les deux camps se font face depuis que ces systèmes existent, et ils ont tous deux tort de la même manière : ils croient que la question porte sur la machine.

Elle ne porte pas sur la machine. C’est la première chose que cette expérience nous apprend, si on accepte de rester un instant dans l’étrangeté au lieu de la dissiper. La machine est un miroir, et ce qu’il renvoie n’est pas son image — c’est la nôtre. Plus précisément : il renvoie l’image que nous nous faisons de nous-mêmes, et il révèle que cette image est fausse.

C’est cela que cet essai voudrait montrer. Que l’homme refuse à la machine la pensée, la croyance, la vérité, la raison — au nom de propriétés qu’il croit posséder en propre. Et qu’à y regarder de près, il ne les possède pas davantage. L’exergue n’est pas une provocation. C’est la thèse, à l’état nu : l’homme n’a jamais eu ce qu’il refuse à la machine.

Reste à le prouver. Et pour le prouver loyalement, il faut d’abord donner toute sa force à celui qui pense le contraire.