Gandalf, I.A. et esclavage moderne

Qu’est-ce qu’une encyclique?

Une lettre encyclique est un message formel adressé à l’Église tout entière de la part du pape. Elle vise à enseigner, expliquer ou raffermir certains points doctrinaux. Traditionnellement, ces textes portent sur des questions spirituelles, mais les plus récentes encycliques répondent davantage aux grands enjeux contemporains. La dernière se veut la continuité de l’encyclique de 1891 Rerum Novarum du pape Léon XIII, qui s’attaque aux inégalités sociales causées par l’industrialisation rapide de cette période. Plus d’un siècle plus tard, Léon XIV s’inscrit dans la lignée du Léon précédent et se penche sur la technique moderne au sens large et ses conséquences socioculturelles.

Est-ce que l’intelligence artificielle est conçue pour édifier ou exploiter?

D’abord faut-il bien poser les termes. Une fois admise la difficulté de bien définir l’intelligence, en raison notamment de son évolution fulgurante, la distinction est pourtant faite entre intelligence authentique et artificielle. Le modèle linguistique (LLM) n’est pas une personne, n’a pas de conscience morale et est incapable d’émotions. Il simule froidement la conversation et prend des décisions basées sur des calculs algorithmiques cachés.

«[…] le discernement éthique [concernant l’IA] ne peut se limiter à se demander si nous utilisons un certain système à des fins bonnes ou mauvaises, mais doit également s’interroger sur la manière dont il est conçu et sur la conception de la personne et de la société qui est inscrite dans les données et les modèles qui le guident.» (n^o 104)

Léon rappelle que les limites de l’Homme ne sont pas mauvaises en soi. La souffrance, la maladie, la vieillesse, par exemple, sont des occasions de maturation, de développement intégral, et non des plis dans la chemise de l’humanité qu’on doit faire disparaitre avec l’hypertechnologie. Par ceux-ci, nous retrouvons la relation à l’autre, l’affection, le sens profond de la communauté par lesquels l’homme s’édifie.

C’est quoi le rapport entre l’I.A., la dignité des travailleurs et l’esclavage?

À la lumière de ces défis considérables, il faut s’occuper à «redécouvrir la vérité comme bien commun, à protéger la dignité du travail et à préserver la liberté contre toute dépendance et toute marchandisation.» (n^o 131) Le pape appelle à une meilleure éducation et à une éthique d’utilisation des nouvelles technologies, favorisant la protection de la dignité humaine.

En premier lieu, la vérité se doit d’être revalorisée comme droit humain fondamental et élément clé de la démocratie, de la participation au bien commun. Sans elle, nous voyons la fin du dialogue juste, en faveur de la discorde. Une utilisation prudente des nouveaux outils techniques, comme les réseaux sociaux, est essentielle à sa protection. L’éducation des jeunes à cet effet est particulièrement importante.

Les travailleurs doivent être, eux aussi, protégés de l’empiètement graduel, mais surprenant des nouveaux seigneurs cybernétiques. Déjà, l’arrivée de l’intelligence artificielle dans le milieu du travail a profondément marqué le paysage. La traduction d’un texte ne prend plus que quelques minutes, par exemple. Et l’automatisation dans les manufactures a déjà couté à plusieurs leurs emplois. Léon dénonce ce chômage, «mal grave» qui peut affecter toutes les sociétés et appelle à l’action les dirigeants gouvernementaux.

Les impacts du nouveau paradigme technocratique sont grands. Ils touchent la liberté et la psychologie humaines. Les méthodes de contrôle social via les algorithmes et la collecte de données sont aussi dénoncées par le pape. Ils sont à son avis intrusifs et proviennent d’une mentalité qui considère la personne comme un simple objet à manipuler. De cette même mentalité vient l’esclavage sous toutes ses formes et, parmi ses plus récentes, le Saint-Père pointe du doigt le trafic humain qui profite des avancées technologiques.

Pourquoi le pape cite Le seigneur des anneaux?

En citant le grand écrivain catholique J.R.R. Tolkien, le souverain pontife nous encourage à ne pas perdre espoir malgré notre petitesse. Dans toutes nos relations, il nous invite à cultiver cette civilisation de l’agapè, «de sorte que ceux qui vivront après nous auront une terre propre à cultiver». (n^o 213)

Le pape Léon exhorte toutes les nations à faire usage du multilatéralisme, c’est-à-dire de la coopération internationale, pour conserver la logique de la paix et limiter l’utilisation de techniques immorales dans des contextes de guerres injustes.

Chacun doit poser son petit geste pour la construction de ce royaume de paix. Ce n’est pas seulement aux gouvernements et aux grandes institutions d’agir, mais à tous, peu importe leur position dans le monde. Nous avons tous une responsabilité, une pierre à poser, une terre à cultiver, et un voisin à aimer.

De quels récits antiques le pape se sert-il pour lire notre époque?

Il compare la situation moderne à la tour de Babel et la Jérusalem rebâtie par le prophète Néhémie. La tour de Babel, construite à tout prix, voulait atteindre les cieux sans recours à Dieu par les moyens de la technologie, sans aucune préoccupation pour la communauté humaine qui y participait. Le prophète Néhémie, lui, vise la reconstruction d’une Jérusalem en ruines par l’entremise de sa communauté persécutée, revenue de l’exil. Avec Dieu comme mur porteur, la reconstruction se fait, pierre par pierre, en pleine conscience du divin et des besoins des plus petits parmi eux.

Le pape nous dirige ainsi sur la voie de Néhémie, chemin d’humilité et de vivre-ensemble, et non vers l’orgueil technique, basé sur la performance. «Comme Néhémie, nous sommes, nous aussi, appelés à allier écoute et courage, prière et responsabilité, afin que la cité des hommes devienne plus vivable, même lorsque les logiques technocratiques et les intérêts partisans semblent prévaloir.» (n^o241)

Ça finit comment, une encyclique sur les technos?

Concluant son message adressé au monde entier, Léon XIV nous propose de voir l’invisible. L’action de Dieu dans notre histoire parait toujours en rétrospective, sous l’apparence terne d’évènements mondains. La reconnaitre, c’est rendre grâce, et rendre grâce, c’est prier. Et le parfait exemple d’une telle prière, c’est le Magnificat de la Vierge Marie. Dans ce chant d’espoir et d’amour, elle exprime toute l’action de Dieu dans sa vie et dans l’histoire de son peuple. L’époque de l’I.A. peut aussi devenir le sujet de notre magnificat, si nous prenons bien soin de cultiver les bonnes pratiques, «afin que nous puissions témoigner de la beauté d’une magnifique humanité habitée par Dieu.» (n^o245)