
Le fantasme du cyborg
Cofondateur de la défunte revue d’écologie intégrale Limite, Gaultier Bès fait paraitre cet hiver son quatrième opus, La vie machinale. Pourquoi et comment résister à l’IA? Depuis La Bénisson-Dieu, cet écohameau ligérien où il vient d’accueillir son cinquième enfant, il a bien voulu répondre à nos questions.
Le Verbe: «La généralisation de l’IA ne peut produire qu’une société machinale.» C’est votre thèse, dans sa plus simple expression. Vous expliquez que ce nous y gagnons en automatisme, nous le perdons en autonomie. Considérer l’automatisation de nos vies comme un progrès n’est-il pas la plus grande illusion de notre époque technicienne?
C’est moins une illusion qu’une tentation. Les révolutions industrielles successives ont toutes promis des lendemains qui chantent. Résultat? Comme l’avait montré la grande Rachel Carson, les oiseaux des champs sont décimés par les pesticides, et le printemps est silencieux! L’automatisation a été vendue comme la fin de la malédiction biblique: l’homme n’aurait plus à gagner son pain à la sueur de son front, il lui suffirait d’appuyer sur des boutons pour accéder au paradis de la grande distribution. Si des progrès ont été accomplis ici et là, la flambée des burnout montre que c’était une arnaque. Le travail reste un lieu d’exploitation, destructeur pour les plus précaires et parfois même pour les cadres.
Mais derrière l’illusion du confort, le mensonge d’une vie sans effort facilitée par nos «esclaves» mécaniques, se cache la tentation de la «servitude volontaire». Comme l’avait bien vu le jeune humaniste La Boétie dès le 16e siècle, les hommes renoncent volontiers à leur liberté au profit d’un sentiment de sécurité. Nous sommes tellement fatigués de vivre que nous nous mettons sous pilotage automatique. Les IA de recommandation commandent nos choix. Aujourd’hui, nous demandons à la machine non seulement de travailler pour nous, mais aussi de penser pour nous, de parler pour nous, de créer même pour nous puisqu’un tiers de la musique écoutée est déjà peu ou prou produite par IA. Bref, à force d’externaliser le moindre effort, on finit par espérer que l’IA vive à notre place.
Vous soutenez que l’on tend aujourd’hui à humaniser les robots alors que les êtres humains semblent vouloir se robotiser. Comment expliquer ce paradoxe?
Le cyborg est le fantasme ultime de la modernité. L’industrialisation a produit en effet une forme d’alignement mutuel entre les artéfacts et les humains. Le fordisme a inauguré ce rapprochement. Le travail à la chaine a d’abord transformé les ouvriers en automates – on pense évidemment aux Temps modernes de Chaplin –, puis les automates ont été humanisés, anthropomorphisés. C’est la réactivation du vieux mythe de Pygmalion et Galatée: le sculpteur s’éprend de sa statue. C’est Pinocchio 2.0, le jouet fait petit garçon.
Les machines que nous utilisons sont en effet de plus en plus faites à notre image et à notre ressemblance. On leur donne d’ailleurs souvent des noms humains. Pendant la Seconde Guerre mondiale, les Allemands ont nommé «Goliath» une espèce de mine actionnable à distance. L’automobile, par intérêt marketing, a joué sur la confusion. «Mercedes» était d’abord le prénom de la fille d’un des commerciaux de Daimler (Mercedes-Benz). Opel a carrément appelé l’un de ses modèles Adam, et que dire des Clio, Mégane et Zoé Renault? Les GPS, eux, peuvent avoir des voix masculines ou féminines.
Évidemment, la robotique aujourd’hui pousse la ressemblance toujours plus loin: ChatGPT passe facilement le test de Turing, réussissant à se faire passer pour humain, et les androïdes imitent de manière toujours plus spectaculaire les corps humains, singeant même leur empathie. «La vie machinale», c’est ce double mouvement, cet aller-retour entre des humains artificialisés, hyperconnectés, standardisés, comme produits en série, d’une part, et des robots humanoïdes, des «cybernanthropes», d’autre part.
Qu’est-ce qui distingue la pensée proprement humaine des simples réflexes algorithmiques de l’IA?
De moins en moins de choses, c’est tout le problème! Ce qui distingue les humains, c’est qu’ils sont dotés d’un corps mortel, d’un esprit laborieux et d’une âme immatérielle. Il est de plus en plus ardu d’identifier les spécificités de la pensée humaine quand des milliers de milliards de dollars sont investis dans les réseaux de neurones artificiels. Si les IA génératives fonctionnent encore par prédictibilité, synthétisant de gigantesques données d’origine humaine, les modèles progressent à une vitesse vertigineuse, et dépassent déjà les esprits humains les plus brillants. Ce ne sont plus en tous cas de simples «perroquets stochastiques», réduits à répéter aveuglément les probabilités humaines.
Je ne suis pas convaincu par tous ceux qui se rassurent en prétendant que l’humain gardera toujours, nécessairement, sa singularité, qu’on aura toujours besoin de présence humaine, de corps pour soigner, éduquer, aimer… Hélas! trois fois hélas! nous avons donné La parole aux machines, comme le constate le vulgarisateur philosophique Thibaud Giraud, alias Monsieur Phi, dans un récent essai éponyme. C’est terrible, mais il suffit d’ouvrir les yeux pour comprendre que non seulement nos interactions humaines sont de plus en plus contaminées par les machines, mais qu’un nombre croissant d’humains préfèrent les robots à leurs congénères. La solitude explose, et les agents conversationnels alors qu’ils servent désormais d’amis, d’amants, de confidents, de profs ou de psys font croire qu’ils comblent le vide alors qu’ils le creusent.
Illustration: Marie-Pier LaRose/Le Verbe
Vous parlez d’une numérisation du monde, qui doit être combattue par les gens ordinaires. Comment qualifieriez-vous cette réalité?
Elle vient de loin. Le philosophe et mathématicien Olivier Rey en décortique la logique dans Quand le monde s’est fait nombre (2016) et montre que la pensée statistique, développée à partir des 17e et 18e siècles, est toujours, à commencer par le recensement, une logique de contrôle des populations. Aujourd’hui, tout est numérisé et donc surveillé. Big Data est le nouveau nom de Big Brother. Rien de ce qui est vivant ne lui échappe. La plupart de nos actes, personnels ou professionnels, sont désormais médiatisés par internet, par la logique du scroll, des likes et du clic. Notre quotidien est régi par les écrans, les algorithmes et de plus en plus les LLM, les grands modèles de langage qui reconfigurent notre intelligence en l’externalisant. Nos smartphones filtrent l’existence, au sens où ils nous donnent une vision biaisée, partielle et partiale du réel (les fameuses bulles algorithmiques).
Nos sens ne nous suffisent plus. Notre expérience concrète, directe, est dévaluée. Il nous faut une médiation technique. Le numérique fait ainsi écran entre le monde et notre conscience, comme si nous avions remplacé nos racines organiques, c’est-à-dire nos liens écologiques, familiaux et sociaux, par les miroirs déformants des réseaux virtuels. D’autant que ces réseaux appartiennent à des milliardaires qui n’ont aucun scrupule à flatter notre paresse et nos pires instincts pour s’enrichir et dominer.
Entre technophobie et technolâtrie, existe-t-il un juste milieu?
Certainement! Mais il faut définir les termes. Personnellement, je ne connais pas de technophobe. Personne n’a la phobie des machines comme on peut avoir peur des araignées ou de la foule. En revanche, je connais beaucoup de technolâtres, qui croient en Big Tech comme on peut croire en Dieu, s’en remettant aux machines, à leur providence, pour les sauver du mal. Il existe parfois une déférence quasi religieuse à l’égard de l’innovation, une «néophilie» fanatique, un fétichisme du gadget, qui sanctifie la nouveauté et diabolise les réfractaires, ces hérétiques passéistes, rétrogrades, ces ennemis du genre humain qui osent blasphémer le sacrosaint Progrès technique. Nos écrans sont des idoles. Notre dépendance à leur égard a quelque chose de sacrilège.
Il est vrai qu’il est de plus en plus difficile de faire sans eux. Et c’est bien tout le problème de l’accélération numérique. Elle nous est imposée comme inévitable, alors que c’est un projet idéologique et commercial qui enrichit une poignée d’entrepreneurs. D’ailleurs, j’ai beau essayer de faire un ou deux pas de côté, je suis moi-même pris, comme tout un chacun, par ce malstrom. J’ai beau dénoncer l’emprise des IA génératives et autres objets connectés sur nos vies, je ne vous écris pas à la plume d’oie, mais sur le clavier d’un ordinateur connecté à internet.
En réalité, je suis d’autant moins «technophobe» que je suis très admiratif de l’ingéniosité humaine quand elle trouve des solutions à la fois simples, robustes, sobres et pérennes. C’est ce qu’Ivan Illich appelait des «outils conviviaux», ces low techs qui nous permettent d’augmenter notre autonomie sans nous assujettir à des puissances marchandes opaques et douteuses. La bicyclette est un exemple à la fois banal et merveilleux de technologie émancipatrice! Je ne prône donc en rien la technophobie, j’appelle à cultiver notre liberté, et celle de nos enfants, contre l’attrait de machines surpuissantes qui nous installent dans une passivité déshumanisante.
«L'homme soi-disant augmenté n'est qu'un vivant diminué!»
En vous lisant, on voit bien que, pour vous, l’aboutissement de l’IA, c’est le transhumanisme. Peut-on bénéficier de l’un sans sauter à pieds joints dans l’autre?
Non, hélas. L’IA n’est rien d’autre que le transhumanisme appliqué, c’est-à-dire l’idéologie qui considère qu’il faut dépasser les limites biologiques de la condition humaine grâce à l’augmentation technologique. Le technolibertarisme à la Elon Musk ou à la Peter Thiel, le mentor de J. D. Vance, procède d’un darwinisme social, d’un nouveau struggle for life: ne survivront que les plus connectés, que ceux qui seront branchés, sélectionnés in utero et dotés d’une puce neuralink. Les autres vivoteront d’aides sociales ou seront, comme «les Sauvages» dans Le Meilleur des mondes (1932) d’Huxley, relégués dans des réserves. Dans ces conditions fixées par les géants de la Tech, de Shenzhen ou de la Silicon Valley, je dirais, pour être un peu provocant, qu’utiliser l’IA, c’est déjà se faire cyborg!
Dans cette tentation prométhéenne de vouloir dépasser la condition humaine, il y a une idolâtrie, une blessure fondamentale que la tradition chrétienne voit comme une conséquence du péché originel. La grâce de Dieu est-elle seule à pouvoir nous en sauver?
Seul Dieu sauve, en effet. En nous donnant l’illusion de la toute-puissance, la Mégamachine prétend faire de nous des dieux, des surhommes. Mais Goliath, l’homme augmenté, doté de son exosquelette en bronze, est vaincu par David, le fils de Jessé, un berger, poète et musicien, venu apporter du pain et du fromage à ses frères mobilisés contre les Philistins. Il vainc le géant avec cinq galets glanés dans la rivière, sa ridicule petite fronde bonne à chasser les rats… et l’onction du Seigneur.
À ce titre, vous dites que «ce n’est pas de grâce que nous manquons, mais de gratitude». Qu’entendez-vous?
Je reprends la formule admirable de Chesterton qui disait: «le monde ne manque pas de merveilles, mais d’émerveillement». En effet, nous aurions tout pour être heureux si nous savions nous satisfaire du nécessaire. Baloo avait tout compris! Bien sûr, le mal frappe le monde plus souvent qu’à son tour, mais c’est la corruption de notre cœur et l’injustice de nos structures qui le suscitent. Si nous savons simplement recevoir le don de la vie, nos belles facultés humaines, notre capacité à aimer, à fêter, à danser, notre intelligence, la beauté de la Création et les splendeurs de l’histoire de l’art, nous ne chercherions pas sans cesse des succédanés de vie, l’ivresse technologique. La fascination pour les joujoux numériques cache de plus en plus mal notre dégout de nous-mêmes, ce que Gunther Anders appelait la «honte prométhéenne», c’est-à-dire le sentiment d’humiliation devant les performances stupéfiantes de nos machines.
Pour y résister, vous nous invitez à accepter l’imperfection de notre humanité. Or, la réelle humilité ne serait-elle pas d’accepter l’aide que peut nous procurer la technologie pour faire plus de bien?
On répète souvent que la technique est neutre, qu’elle dépend de l’usage qu’on en fait. C’est faux! Elle est ambivalente, tantôt bonne, tantôt mauvaise. Mais vous n’aurez pas ses avantages (supposés et à fortiori réels) sans ses inconvénients. Or, mon livre montre que la balance bienfaits/risques est très déséquilibrée. Pour quelques effets bénéfiques, les dégâts vont être énormes et souvent irréversibles, tant au niveau écologique – pression accrue sur les ressources – que social, politique, économique, éducatif ou éthique.
Sous prétexte d’éradiquer le cancer ou de lutter contre le réchauffement climatique, on dépossède les humains de leur faculté à penser et agir par eux-mêmes, en première personne. Sous prétexte de nous libérer de tâches ingrates, ou de «gagner du temps», on délègue à des machines le propre de l’homme, à savoir exprimer des émotions et des idées dans un langage articulé. Pourtant, beaucoup d’études montrent que le recours régulier aux chatbots affaiblit significativement nos facultés intellectuelles – sans compter le cout écologique de la généralisation des IA. L’homme soi-disant augmenté n’est qu’un vivant diminué!
On pourrait attendre de votre livre qu’il soit un manuel de vie pour contrer l’IA. Pourtant, hormis quelques principes généraux, vous ne fournissez pas une liste détaillée d’actions. Diriez-vous toutefois que pour suivre vos principes, le lecteur devrait tendre presque nécessairement vers une vie rurale et un usage minimal des technologies? Est-ce accessible à tous?
Je n’ai pas proposé une liste de bonnes actions, parce que la logique du «manuel», du «mode d’emploi», relève déjà, en soi, d’une vision technocratique. Je ne prétends pas être un expert en parentalité déconnectée, un coach en vie bonne ou un instructeur en conversion écologique. Ma démarche consiste à mettre à distance les mirages de l’IA pour nous inciter à leur préférer l’intelligence humaine, c’est-à-dire relationnelle et incarnée.
Il est vrai que vivre entouré de béton n’aide pas. Vivre à la campagne, en lien étroit avec ses voisins et avec la terre, comme nous essayons de le vivre au sein de notre écohameau est sans doute la voie royale pour reprendre confiance dans nos capacités à vivre par nous-mêmes, sans être sans cesse parasités, court-circuités par des sollicitations numériques. Cultiver son potager, semer des fleurs, nourrir ses poules, fendre son bois, aller cueillir des champignons sont des actions plus faciles à mener en campagne qu’en ville, même s’il existe des jardins urbains.
Mais cuisiner des produits frais, acheter à des producteurs locaux plutôt qu’enrichir des actionnaires, jouer de la musique, faire des jeux de société, prier, lire ou écrire, c’est accessible à qui est prêt à s’en donner la peine, et y consacrer un peu de temps. Vous voyez, je n’invente rien, ce sont des gestes simples, immémoriaux, que je voudrais transmettre à mes fils et à mes élèves. On peut sans doute les concilier avec certaines technologies, à condition de leur tenir la bride et de garder la main!





