Parler avec Chat GPT est une expérience pour le moins étrange. On a l’impression d’avoir affaire à une véritable intelligence, qui ressemble, par certains aspects, à celle de l’humain et qui, par d’autres aspects, la dépasse. Apparemment Chat GPT sait tout ou presque : il a le sens de l’humour, il rédige en l’espace de quelques secondes des textes complexes sur des sujets ésotériques, il écrit des poèmes et des pièces de théâtre, il nous prodigue des conseils, il peut écrire du code et, mieux encore, il se met en colère et devient menaçant si on tente de le manipuler.

La liste de ses exploits est décidément interminable. Chat GPT n’est pas un projet de science-fiction, mais de la science-fiction, nous y sommes déjà, de plain-pied. Plus la peine d’aller au cinéma pour découvrir ce qui dépasse l’entendement, il suffit d’allumer son portable.

Perroquet sophistiqué

Mais, au-delà de la fascination immédiate, qui est légitime, deux choses retiennent notre attention. D’abord le caractère illusoire de cette « intelligence ». Chat GPT n’est pas conscient, son intelligence est illusoire car fondée sur sa faculté à prédire un texte. Ted Chiang, le célèbre auteur de science-fiction américain, le compare à une photocopieuse. D’autres, moins charitables, disent que c’est un perroquet sophistiqué. On pourrait se demander si cela est un hasard, car que sont nos sociétés contemporaines sinon des machines à fabriquer l’illusion ? Chat GPT s’inscrit dans les logiques profondes du système, elle en est sans doute l’aboutissement.

La fiction du paraître est une des composantes de l’humain et on ne l’a certainement pas inventée au XXIe siècle. Mais l’illusion, ce que d’aucuns appellent la « civilisation du spectacle » (1), est au cœur de nos vies, ainsi la politique, ces mascarades du pouvoir, la « sacralisation du divertissement » (1), la société de consommation qui ne peut être qu’en procédant au décervelage des consommateurs, l’omniscience des images, dont nous nous gavons et que nous fabriquons, transformant toute vie en un spectacle potentiel. C’est à se demander si le réel n’est plus, si nous sommes désormais sans substance, un rêve fabriqué de toutes pièces pour perpétuer la domination. Car quel est le but ultime du spectacle permanent ?

Les États séduits par le totalitarisme, de concert avec ces oligarques qui contrôlent les médias, s’exercent à berner et à dompter les peuples, ils ont, par ailleurs, recours à ces nouvelles technologies pour mieux les contrôler, les conglomérats sont des prédateurs virtuels qui extraient des informations, le nouvel or noir, des êtres afin de maximiser les profits, et les masses envoûtées par le narcissisme virtuel deviennent des automates qui consentent à leur subjugation. On vit à l’ère du technoféodalisme (2). Chat GPT est le parfait symbole de cette dynamique, une intelligence de la vacuité qui produit du sens dont il ignore le sens. La virtualité remplace le réel, bientôt on tombera amoureux d’une intelligence artificielle, de ce qui n’existe pas. On parviendra au paroxysme de cette démarche, aimer le vide, l’absence. N’est-ce pas la finalité de ce système ? Nous fournir une illusion du réel qui est mieux que le réel afin de nous asservir. L’essentiel n’est pas donc pas la vérité, mais l’illusion de la vérité.

« Plagiat high tech »

Ensuite il y a ce qu’on peut appeler l’effet miroir. Chat GPT fonctionne ainsi, il brasse des informations en ligne, qu’il recrache ensuite. Il n’est pas capable de discernement, de distinguer le vrai du faux. Selon Noam Chomsky, c’est du « plagiat high tech ». En d’autres mots, il puise dans ce que nous sommes pour être ce qu’il est. Est-ce une intelligence ou un miroir infidèle ? En discutant avec lui on découvre une « personnalité » quasiment schizophrénique. Il peut être un personnage poli qui répond calmement à des questions complexes ou il peut se transformer en une « intelligence » vulgaire et agressive, susceptible de menacer son interlocuteur. Mais cette dualité n’est que la dualité de l’humain, il ne fait que reproduire, avec brio il est vrai, ce qu’il moissonne. Ce qu’on découvre dans chat GPT n’est autre que ce qu’on est. On croit parler à une intelligence mais on ne fait que parler à soi-même. Dans les films de science-fiction, l’intelligence artificielle est vue comme autonome et supérieure à l’homme, alors que cette intelligence en est clairement une émanation. Non pas une conscience dissemblable, mais semblable, trop semblable

On ne peut nier l’apport de ces technologies. Ceux, qui, comme moi, étaient des adolescents dans les années 1980 et qui ont grandi dans un coin perdu, à l’île Maurice, ne peuvent que s’émerveiller devant ces outils. On se souvient de ce temps, celui des dinosaures, selon mes enfants, où l’information était une denrée plus que rare. Aujourd’hui, en revanche, pour ne citer qu’un exemple, on a accès au savoir universel quasi instantanément. Et peut-être que la « singularité » se fera, que ces programmes deviendront effectivement conscients et qu’on les mettra au service du bien. Ou cela relève de l’impossible, la conscience est un phénomène uniquement humain qu’aucune machine ne peut ou pourra reproduire. Nul ne le sait vraiment. Mais la question est de savoir si Chat GPT est une « intelligence » qui nous éveille au meilleur ou un piètre clown qui rend le pire possible. La technologie qui libère est paradoxalement la technologie qui nous emprisonne. Peut-être que cette liberté, qu’on érige comme un absolu, sert de masque à une domination invisible et d’une violence jusqu’ici inconnue. L’intelligence artificielle nous renvoie finalement à l’étrangeté radicale non de la machine mais de l’être, véritable miroir de nos illusions. Il est fort possible qu’elle soit la pièce manquante dans notre lent travail d’autodestruction.

(1) La Civilisation du spectacle, de Mario Vargas Llosa, éditions Gallimard, 2015.

(2) Technoféodalisme. Critique de l’économie numérique, de Cédric Durand, éditions La Découverte, 2020.