Réflexions sur l’intelligence artificielle générative et la confiance
Dans le Livre de l’Intranquillité, Fernando Pessoa (plus précisément Bernardo Soares[1]) écrit ces mots : « J'ai pris une telle habitude de ressentir le faux comme le vrai, les choses rêvées aussi nettement que les choses vues, que j'ai perdu la capacité humaine, erronée me semble-t-il, de distinguer la vérité du mensonge. »
Qu’écrirait-il aujourd’hui ? S’installerait-il à sa lucarne, en face du bureau de tabac (« Tabacaria »[2]), à une distance raisonnable du tumulte des choses qui nous occupent comme le « spectateur engagé » de Raymond Aron ? Inviterait-il l’un de ses hétéronymes à prendre le soin de « dire vrai », au sens du parrèsiaste cher à Michel Foucault, pour décrire la confusion entre ce qui est donné à voir et ce qui est ? Verrait-il une « rêverie » dans nos yeux camés, vissés sur des écrans qui défilent non pas horizontalement comme le fil du temps et son illusion mais verticalement comme s’ils étaient happés par la profondeur du tonneau des Danaïdes ? Abandonnerait-il simplement la plume de sa métaphysique poétique pour se joindre à la critique politique de Noam Chomsky ?
Pessoa et Chomsky ont en effet ceci de commun qu’ils nous invitent à réfléchir sur le réel et la manière dont il se construit en nous, en droite lignée de la métaphore de la caverne de Platon. Pessoa joue de ses hétéronymes pour explorer le réel par le truchement de récits personnels. Chomsky s’attaque aux propagandes des systèmes pour démasquer les manipulations des pouvoirs en place. Pour l’un, le réel est récit, fiction. Pour l’autre, décor, façade. Comment ne pas établir un lien avec notre période contemporaine ?
Quand l’IA générative féconde un terrain fertile
Le propos est peut-être simpliste mais il se résume à l’idée suivante. Qu’il s’agisse de désinformation, c’est-à-dire le fruit d’un processus délibéré de travestissement du réel, ou d’impossibilité à connaître le réel tel qu’il est, il n’y a strictement rien de nouveau, ce sont des sujets connus depuis la nuit des temps.
En revanche, 5 facteurs contemporains créent, selon nous, les conditions de bouleversements qu’on risque bien de regretter :
- La démocratisation rapide de l’accès à des moyens techniques puissants, de l’intelligence artificielle générative aux outils d’automatisation d’agents IA ;
- La méconnaissance de leurs limites et de leurs insuffisances, combinée à la paresse des utilisateurs ;
- Les moyens colossaux et la couverture mondiale des acteurs qui les détiennent à tous niveaux (des infrastructures sous-jacentes à leur distribution) ;
- Le potentiel que ces dispositifs représentent sur un plan politique dès lors qu’on les projette à grande échelle ;
- Les caractéristiques du terreau sociologique sur lequel ce potentiel peut s’appliquer.
La première des questions reste celle de la capacité à distinguer ce qui est vrai de ce qui est faux, ou plus exactement, d’apprécier à quel point ce qu’on nous dit ou nous montre est vrai. Mais il s’agit d’une disposition d’esprit qui a toujours été nécessaire face à tout type d’information, au sens du « mot d’ordre » de Deleuze (Deleuze G., 1987).
En revanche, qu’en est-il dès lors que l’échelle change ? L’actualité nous rappelle à chaque instant que les manipulations intentionnelles sont devenues faciles et accessibles à toutes et tous et que les erreurs et inventions (qu’on appelle pudiquement « hallucinations ») qu’on ne voit pas par ignorance ou manque de vigilance ou qu’on laisse tout simplement passer par paresse sont légion. Que disent de nous, en effet, tous ces faits divers : cabinets de conseils obligés de rembourser des états[3] pour avoir remis des rapports truffés d’erreurs, ancienne ministre rectrice d’université[4] obligée de renoncer à son doctorat honorifique pour avoir confié son discours émaillé de citations inventées à une IA, LLM qui inventent des précédents juridiques et des études scientifiques inexistantes dans plus de 25% des cas sur des sujets pointus[5].… Mais à quel Saint peut-on désormais se vouer ?
Du tiers d’autorité au tiers de confiance
La question renvoie à un potentiel changement de paradigme. À échelle d’un mensonge raisonnable, le tiers d’autorité restait un recours peut être erroné mais qui permettait de forger les bases de cette confiance sans laquelle aucun édifice social ne peut survivre (Simmel G., 1908). On s’en remettait peut-être naïvement au sachant, à l’institution, bref à celui ou celle qui offrait le plus de garanties à nos yeux. Les hiérarchies de confiance se construisaient de la sorte. Or, dès lors que le mensonge est perçu comme normal, ce n’est plus possible. Le trait le plus structurant, selon nous, de ce qu’il est désormais convenu d’appeler l’ère de la post-vérité ou de la post-réalité n’est pas tant qu’on ne sache plus ce qui est vrai de ce qui est faux ou que l’émotion et les ressentis prennent le pas sur la raison et les faits mais le fait que trouver un socle commun de vérité devient quasi impossible dans de telles conditions.
Ce qui nous guette, c’est un rapport collectif au réel et à la vérité qui se désagrège ou qui se compartimente jusqu’à l’individu se faisant mesure de toute chose à lui seul, avec son terrible corollaire d’absence de réflexion collective sur ce qui est ou se passe. La juxtaposition d’opinions individuelles ne suffit pas à faire une croyance collective sur laquelle on s’accorde et qui permet, bon an mal an, de faire société.
En telles circonstances, l’enjeu n’est plus celui du tiers d’autorité mais celui du tiers de confiance. Dit autrement, on ne s’en remet plus à la figure, individuelle ou institutionnelle, qui faisait autorité par son statut mais à celle qui nous inspire le plus confiance ou le moins de méfiance. Dans un contexte où toute source « officielle » de vérité est discutable, la question n’est plus de savoir qui détient le vrai, mais quels mécanismes aident à réduire l’incertitude. La confiance ne remplace pas la vérité mais elle permet de fonctionner collectivement en son absence de garantie (Luhmann, N. 2006). Ce n’est plus « ce que tu es » qui fera la différence mais « qui tu es » donc la résultante des liens de confiance que tu auras tissés avec les autres. La figure d’autorité ne disparaîtra pas car le système, quelle qu’en soit la nature, lui confère une légitimité d’intervention, mais c’est la figure de confiance qui fera la différence. En l’occurrence celle qui aura aux yeux de ses interlocuteurs la crédibilité sans laquelle la légitimité est vaine.
La confiance comme socle de tout dans un édifice social, c’est certes une évidence. Mais c’est une évidence qui bouleverse certains des étais de la vie professionnelle. La question managériale l’expérimente depuis bien des années mais peut-être que le rapport au temps de la vie des affaires pourrait en être transformé également. La confiance ne se construit que dans un temps long, duquel émerge des preuves suffisantes, lorsque la vie des affaires valorise le plus souvent le temps court et la réactivité. Le maintien d’un cap durable, la congruence entre ce qu’on dit et ce qu’on fait dans le temps, l’authenticité en lieu et place des « réenchantements » et autres mascarades auront peut-être désormais une valeur « patrimoniale » différente.
Du tiers de confiance au tiers-instruit
Les tiers de confiance reconnus comme tels permettent de forger un minimum de représentations communes du réel sans lesquelles rien n’est possible en société. Comment en effet se mettre d’accord sur la nécessité d’un parapluie si l’on ne se met pas d’accord sur le fait qu’il pleut ? Pour autant, sur un plan individuel, la confiance en la source ne suffit pas quand le « vide de la pensée » (Arendt, H. 1963) semble se répandre et que la généralisation à grande échelle du mensonge rend difficile tout repère stable. Quand une représentation commune du monde et des faits s’érode, l’individu n’a plus vraiment de réalité extérieure à laquelle se raccrocher personnellement. C’est toute l’histoire du climat et de la météo ! Le tiers de confiance suffit-il à convaincre du réchauffement climatique celui ou celle qui voit bien qu’il fait froid chez lui aujourd’hui ?
La réponse vient peut-être de Michel Serres et la figure du Tiers-Instruit (Serres, M. 1992). Elle émerge peut-être encore plus fort lorsque la prédominance de l’émotion personnelle caractéristique de l’ère de la post-vérité ne peut que conduire à polariser les opinions sans nuance aucune. Il suffit d’un post LinkedIn pour le mesurer tant cela saute aux yeux. Le « Tiers-Instruit » est une invitation à sortir des représentations binaires dans lesquelles on oppose et on cloisonne. C’est une troisième voie, celle du lien, celle de l’ouverture aux contraires et aux compléments, puisés dans la multidisciplinarité. Le « Tiers-Instruit » ne choisit pas un camp, celui du tiers auquel il a accordé sa confiance par opposition au tiers de l’autre dont il se fout comme du quart. Le « Tiers-Instruit » est un passeur qui relie et cherche à comprendre les liens. Or, quand la certitude extérieure peut faire défaut, la raison devient le tiers de confiance intérieur. Dans un système complexe, celle-ci trouve son espace de prédilection dans les liens logiques que les choses, les faits, les informations, les concepts tissent ensemble pour former une certaine cohérence et une certaine vraisemblance. Ce sont ces liens, tissés à l’examen de la logique, qui aident à mieux « accorder à chaque chose le degré de certitude qui convient » pour reprendre une formule chère à Patrick Bouvard.
Le glissement des proportions entre trois Tiers
Entre les opportunités qu’elle offre aux professionnels comme aux particuliers et les risques qu’elle amplifie sur un plan sociétal, la démocratisation de l’intelligence artificielle et ses connexes (agents, protocoles MCP, etc.) invite bien sûr à aiguiser son esprit critique et donc à cultiver un doute salvateur. Il s’agit là d’une évidence aussi facile à dire que difficile à mettre en œuvre au quotidien et encore plus à tenir dans le temps, notamment dans le flot incessant d’informations et injonctions qui rythme la vie professionnelle.
Dans cette perspective, tiers d’autorité, tiers de confiance et « Tiers-Instruit » cohabitent inévitablement car nous avons besoin des repères de légitimité, de crédibilité et de compréhension pour forger nos propres avis. Sans les renier, la clé est de construire le deuxième (confiance) à l’aune du troisième (l’examen logique) plus que du premier (l’autorité). Ce constat peut modifier bien des représentations communément admises dans la vie des affaires, qu’il s’agisse du lien managérial, des pratiques RH, de l’accompagnement du changement ou de l’image et les processus commerciaux.
_______________________________________________
Arendt, Hannah (1963) Eichman in Jerusalem: A Report on the Banality of Evil, New York, The Vinking Press, 1963
Deleuze, Gilles (1987) Qu’est-ce que l’acte de création ? Conférence donnée dans le cadre des mardis de la fondation Femis – 17/05/1987
https://www.webdeleuze.com/textes/134
Luhmann Niklas (2006) La confiance, un mécanisme de réduction de la complexité sociale, Paris, Economica, 2006
Serres, Michel (1992) Le Tiers-Instruit, Gallimard (1992)
Simmel, Georg (1908) Sociologie, étude sur les formes de la socialisation (1908), P.U.F., 1999, 2013
[1] Fernando Pessoa est un poète Portugais qui a écrit sous le nom de plusieurs personnages. La plupart de ses hétéronymes correspondait à des poètes ayant leur « vie » et leur personnalité. On lui en prête de très nombreux dont les plus connus sont Alberto Caeiro, Ricardo Reis ou Álvaro de Campos. L’auteur du Livre de l’intranquillité, Bernardo Soares, est particulier en ce sens qu’il est considéré comme un « semi-hétéronyme » tant Fernando Pessoa ne put dissocier l’auteur fictif de lui-même.
[2]Poesias de Álvaro de Campos. Fernando Pessoa. Lisboa: Ática, 1944 (imp. 1993). - 252.
[3] https://www.usine-digitale.fr/article/fiasco-pour-deloitte-apres-avoir-genere-un-rapport-par-ia-pour-le-gouvernement-australien.N2238940
[4] https://www.rtl.be/actu/belgique/politique/je-regrette-profondement-une-ancienne-ministre-refuse-une-distinction-car-elle/2026-01-08/article/775933
[5] The Guardian / Stanford University ("AI-generated 'hallucinations' in legal and academic citations", 2024).
