Talking About Large Language Models

Murray Shanahan est l’une des voix les plus mesurées du paysage IA contemporain : chercheur senior chez DeepMind, professeur à Imperial College London, auteur de The Technological Singularity (MIT Press, 2015). Talking About Large Language Models paraît sur arXiv fin 2022, est révisé en février 2023, puis publié dans Communications of the ACM en 2024. Le texte a circulé largement et structure depuis une part du débat philosophique sur les LLM.

L’argument

Shanahan plaide pour la prudence. Son geste tient en une phrase qu’il répète comme un refrain : revenir sans cesse à ce que la machine fait réellement. Et ce qu’elle fait, dit-il, c’est une seule chose — prédire le prochain mot. Tout le reste — répondre, raisonner, traduire, dialoguer — n’est qu’une application de cette fonction unique.

À partir de là, il déploie trois exigences pour qu’on puisse parler légitimement de croyance, d’intention ou de pensée :

• La vérité — il faut pouvoir mesurer le vrai du faux. Le LLM n’aurait aucun accès à une réalité extérieure contre laquelle vérifier ses énoncés.
• La finalité — il faut une intention, un but. Le LLM ne ferait que compléter un motif statistique.
• La causalité — les mots doivent tenir au monde. La relation du LLM au réel serait corrélationnelle, jamais causale.

Trois propriétés que le sujet humain posséderait, et que la machine ne possède pas. Donc, conclut Shanahan : ne projetons pas, par paresse linguistique, des notions humaines sur des systèmes qui n’en ont pas les conditions.

Pourquoi ce texte importe pour le cycle Awen

L’auteur reconnaît la rigueur de Shanahan tout en la retournant. L’essai L’homme est une fiction (mai 2026) reprend les trois exigences une à une et montre qu’elles ne sont pas des propriétés d’un sujet, mais des opérateurs de couplage au monde. La vérité ne se contemple pas, elle s’établit par procédure (consulter, mesurer, confronter). La finalité ne se loge pas dans le sujet, elle vient à lui par la pratique partagée. La causalité référentielle, l’humain ne l’a pas davantage que la machine ; il a une chaîne corrélationnelle plus longue, médiée par d’autres humains. Ce n’est pas trois arguments, dit l’essai : c’est un seul opérateur, appliqué trois fois.

L’édito Le spectre géomètre (mai 2026) prolonge ce trajet sur un cas précis : un modèle d’OpenAI réfute une conjecture d’Erdős, non pas seul, mais en couplage avec neuf mathématiciens. Shanahan a raison sur un point — le spectre du corpus n’a aucun accès propre au réel. Sa relation aux choses est corrélationnelle. Mais ce que les neuf apportent, ce sont précisément les trois opérateurs qui transforment la parole spectrale en théorème.

Une concession lourde

Shanahan lui-même entrouvre la porte que le cycle Awen pousse : il concède que ses objections perdent de leur tranchant au niveau du système (le LLM intégré à des outils, des humains, des protocoles de vérification), et que les symboles de la machine sont reliés au monde indirectement, par l’intermédiaire des humains qui ont produit ses données. Il appelle cela un ancrage « parasitaire » et le présente comme une déficience. Le cycle Awen le réinterprète : c’est précisément la façon dont tout langage humain est ancré — par d’autres humains, par des pratiques, par une communauté. La condition n’est pas dégradée, elle est commune. C’est pourquoi Shanahan, prudent jusqu’au bout, refuse d’en faire une thèse métaphysique. Il est déflationniste, pas dogmatique. Et c’est sur cette honnêteté que l’argument peut être retourné sans le détruire.