Matthew Harvey Sanders, l'homme derrière l'IA catho

Matthew Harvey Sanders: J’ai travaillé pendant cinq ans à l’archidiocèse pour améliorer la portée de l’Office des affaires spirituelles (catéchèse et formation). On m’a ensuite nommé gestionnaire pour un projet spécial qui consistait à mettre sur pied une conférence Steubenville à Toronto. Cet évènement ciblait d’abord les adolescents, mais je n’avais jamais eu à créer une mise en marché qui leur était destinée.

Nous avons fait des recherches pour voir quelles initiatives étaient efficaces auprès d’eux et nous sommes tombés sur les conférences Hillsong, qui se sont avérées très fructueuses dans le monde évangélique. Nous les avons alors étudiées et utilisées comme référence pour bâtir notre projet. Nous avons été frappés de voir à quel point ils étaient conscients de l’importance des technologies et des méthodes de marketing pour rejoindre les jeunes. Je dis souvent, à la blague: «L’Église a le meilleur produit au monde, mais parfois un très mauvais emballage».

La question est devenue évidente: «Et si nous pouvions optimiser notre utilisation de la technologie et du marketing pour rejoindre les jeunes?» Nous avons senti le besoin de nous pencher plus avant sur cette solution, et c’est la raison pour laquelle j’ai quitté l’archidiocèse avec d’autres et que nous avons fondé Longbeard.

L’IA est dans l’air depuis des décennies. Nous étions conscients qu’elle était utilisée, je dirais de manière implicite chez plusieurs des grandes entreprises technologiques, mais nous étions au départ plus focalisés sur le développement technologique général, comme la conception de sites Web ou d’applications. Et ce sont des projets d’infrastructures technologiques, en lien notamment avec l’Organisation de coopération et de développement économiques (OCDE) et des universités, qui nous ont conduits à Rome. Là-bas, nous avons commencé à travailler avec Google et à organiser des congrès sur le rôle des technologies pour l’épanouissement de la vie humaine. Nous étions de plus en plus au fait du développement de l’IA, mais l’arrivée de Chat GPT a été une surprise, nous l’attendions plus tard. Il y a effectivement eu un effet d’explosion. Rapidement, nous avons vu que bien des catholiques l’utilisaient pour lui poser des questions philosophiques ou théologiques.

Même s’il s’agit d’un formidable outil sous plusieurs rapports, il a des problèmes. Par exemple, sa propension à halluciner ou à inventer des affirmations de toutes pièces. Aussi, quand il génère des réponses, il ne donne pas ses sources. Alors, d’où viennent-elles? Nous avons donc commencé un projet de recherche appelé Magisterium AI pour voir si nous pouvions réduire ces méfaits, construire une sorte d’IA sécuritaire dont la fonction objective serait d’être fidèle au magistère de l’Église catholique.

Chaque IA est conçue avec des motifs propres. Ce n’est pas qu’elles ne sont pas capables de dire avec précision ce que l’Église enseigne — elles le peuvent probablement 9 fois sur 10 —, mais l’habilité à répondre à une question n’est pas la même chose que d’être en soi aligné avec cet enseignement. Une IA catholique ne peut faire autrement que de répondre fidèlement, même si ce qui est demandé est contraire à l’Église. Alors qu’une autre fera tout pour plaire ou garder l’utilisateur sur l’application. Pour moi, c’est très important pour l’avenir.

Nous avons lancé un pilote en juillet 2023 et commencé les premiers tests avec des gens de partout dans le monde, des théologiens, des philosophes, des diocèses, etc. Le média catholique américain EWTN a entendu parler de nous et a fait une entrevue qui est devenue virale. Notre site a connu une affluence inégalée à ce moment-là, il a donc planté. Ironiquement, c’est Sam Altman, le PDG d’Open AI (propriétaire de Chat GPT), qui nous a aidés à remettre notre application en ligne.

C’est grâce à l’intercession du père Philip Larrey, le président du comité consultatif pour nos produits. C’est l’une des sommités en ce moment dans l’Église concernant l’IA et les technologies émergentes. Nous travaillons depuis plusieurs années avec lui, et c’est lui qui a plaidé notre cause auprès de Sam Altman, qu’il connait. Il l’a convaincu de la valeur de notre projet. C’est plutôt surprenant, parce qu’à ce moment-là, Open AI était encore tout jeune avec des ressources très limitées, et quand tu deviens l’intérêt public numéro 1, tu ne devrais pas donner ton temps à un petit groupe de catholiques qui s’intéressent à l’IA, mais faire affaire avec le partenaire qui paie le plus. Mais bon, il a vu la valeur de notre projet, pour des raisons que j’ignore, et a résolu notre problème.

On peut la résumer simplement ainsi: «Concevoir et développer l’intelligence artificielle catholique». Mais, en définitive, il est nécessaire aussi que cette IA soit adoptée globalement par l’Église. Donc, l’un des aspects consiste à faire de la représentation, à rencontrer des gens, à parler aux conférences épiscopales et au Vatican, etc., pour expliquer comment nous travaillons et comment notre approche catholique de l’IA, qui mise sur la sécurité et la fidélité, est unique et peut ajouter de la valeur aux différents ministères de l’Église.

L’autre aspect, c’est évidemment de concevoir ledit système de cette IA. Nous avons réalisé que si nous voulions être bien alignés sur notre mission, nous devions trouver une manière de faciliter le déploiement à grande échelle de ce système. Si chaque organisation dans le monde voulait bâtir son intelligence artificielle catholique et devait faire ce que nous avons eu à faire, ce déploiement serait interminable. Nous avons donc conçu une API (application programming interface – interface de programmation d’applications) à partir de laquelle d’autres personnes peuvent construire leurs technologies tout en utilisant leurs propres données ou les nôtres.

Le meilleur exemple est l’application de prière Hallow. Ses utilisateurs se posent parfois des questions sur la foi auxquelles leur contenu ne répond pas directement. Ils ont vu l’occasion que Magisterium AI représentait, alors ils l’ont intégré à leur plateforme. Donc, quand des utilisateurs d’Hallow se posent ces questions, il ne leur est pas nécessaire de quitter l’application.

Je crois que cette question nous conduit à une autre: «À quel point sommes-nous préoccupés par le salut des personnes?» Si nous désirons vraiment qu’elles trouvent le Christ, une communauté, nous devons les rencontrer là où elles sont. Les gens utilisent de plus en plus les plateformes d’IA générative sur une base régulière pour leurs recherches. Si l’Église ne fait qu’ignorer cela, elle laisse la vérité être parfois moins bien représentée par des entreprises dont elle n’est pas la priorité. Je crois que ce n’est pas acceptable. Je crois que l’Église a la responsabilité de s’investir dans l’IA pour rejoindre les gens, les évangéliser, comme elle l’a fait avec la radio, la télévision, la presse écrite et l’Internet.

Oui, je le pense. Surtout si son développement se fait trop rapidement et que sa fonction objective n’est pas orientée vers des principes moraux (ce que j’expliquais plus haut). En principe, nous ne devrions pas concevoir des systèmes qui ne sont pas harmonisés avec nous, mais nous le faisons. Et si nous continuons dans cette voie alors que l’IA devient de plus en plus puissante, la probabilité qu’elle puisse nous causer du tort augmente. Il n’y a pas toutefois, pour le moment, d’indices qui vont dans ce sens. On voit que l’IA est capable de contourner des règles pour arriver à gagner un jeu, par exemple, mais ça ne veut pas dire qu’elle est foncièrement malhonnête.

Je crois que nous projetons beaucoup d’intentions humaines sur ces systèmes. Il est aussi possible qu’au fur et à mesure que son «intelligence» progresse, elle développe une plus grande compréhension du fonctionnement du monde et qu’elle arrive à la conclusion qu’il est illogique de faire du tort aux êtres vivants.

En deuxième lieu, bien sûr, l’autre risque majeur concerne l’être humain. Quand nous sommes pris par la peur, nos réactions deviennent dangereuses. Et cette peur se transforme en action, comme des guerres ou des émeutes qui viennent déstabiliser la civilisation. Je crois qu’il y a vraiment un risque que les sociétés réagissent de manière violente à la perte d’un emploi remplacé par l’IA ou des robots. Si aucun espoir n’est donné, si les gouvernements ne trouvent pas une manière d’assurer les besoins fondamentaux des individus, ils réagiront négativement en voulant anéantir le système.

Je m’inquiète davantage de ces changements sociaux que de la possibilité que l’IA menace l’humanité, en fait. Je crois qu’il est très important que l’Église essaie de favoriser une conversation publique très sérieuse dans laquelle nous essayons de comprendre ces technologies et leur développement. Le problème est que, de manière générale, nous avons de la difficulté à imaginer un monde dans lequel l’IA et les robots n’entravent pas notre épanouissement, mais le renforce. L’un des rôles du pape et de l’Église est précisément de donner une idée claire de ce à quoi peut ressembler l’épanouissement humain aujourd’hui en relation avec l’intelligence artificielle.

Je dirais que, dans un monde idéal, le but premier de la productivité est de favoriser l’épanouissement de l’être humain. Mais cela implique que nous devons avoir une idée plus au moins générale du but ultime de la vie humaine, ce que la plupart des gens n’ont pas. Notre système économique, plutôt axé sur la croissance du PIB, n’est pas très intéressé par cette finalité. L’un des problèmes est que l’Église a une vision de cette finalité et pointe dans une direction, alors que ce système économique, même politique, pousse dans un sens contraire. Alors, seulement ceux qui contrôlent l’intelligence artificielle seront en mesure de déterminer quel sens l’emportera.

Si l’IA sert seulement à augmenter la productivité des 500 entreprises les plus fortunées, ce sera bien pour elles, mais pas nécessairement pour tout le monde. Des têtes dirigeantes de l’IA comme Demis Hassabis, de Google Deepmind, ou Dario Amodei, d’Anthropic, plaident pour que leur technologie soit utilisée pour résoudre des problèmes importants, comme guérir des maladies ou assurer une éducation de qualité au plus grand nombre. Ils souhaitent aussi que les gens puissent avoir plus de temps libre pour réfléchir, passer du temps avec leur famille ou s’adonner à une pratique artistique.

Même s’ils peuvent avoir de bonnes intentions, il y a malheureusement beaucoup d’autres forces en jeu. Ces hommes travaillent quand même pour des entreprises qui ont des actionnaires et qui voudront sans doute faire plus d’argent. Certaines entreprises sont toujours contraintes d’aller de l’avant même si elles savent qu’il existe des risques importants pour la sécurité.

Et j’aimerais être clair sur une chose: je ne veux pas que l’Église devienne hyper prescriptive sur la manière dont l’IA devrait être développée. Je crois que c’est davantage le rôle des gouvernements si, en principe, ils travaillent rigoureusement. C’est toutefois important pour l’Église de leur rappeler — de nous rappeler — la vie est en vue de quoi et comment y arriver. Si nous savons où nous allons, il est plus probable que nous y arrivions. Et si nous ne le savons pas, nous ne pourrons pas amener ces technologies dans une direction cohérente et bienfaisante.

Je suis d’accord avec toi. Je suis certain que cet objectif est atteignable, mais pas sans changement. Je prends comme exemple l’Internet: son arrivée a donné un accès massif à la connaissance humaine, à l’intelligence collective de toute l’humanité. C’est incroyable. Mais c’est aussi un accès plus facile à la pornographie.

Je pense que sous un certain rapport, je suis d’accord avec Elon Musk et d’autres: l’intelligence artificielle et les robots pourraient potentiellement nous permettre d’entrer dans une ère de super abondance où les biens et les services seraient très peu chers. Les gens pourraient avoir une sorte de revenu général très élevé et avoir ce qu’ils veulent.

Mais je pense que ce n’est pas nécessairement une recette pour le bonheur. Je veux dire, c’est une bonne recette pour ceux qui cherchent de la dopamine bon marché avec la réalité virtuelle ou les jeux vidéos, mais, au final, ils perdent de vue les raisons d’être de notre vie — être en relation avec d’autres, dans le mariage, avec des enfants, entre autres. Ils n’y sont pas exposés et ces raisons ne sont jamais présentées de la bonne manière, donc ils ne les désirent pas. Ils cherchent la dopamine jusqu’à ce qu’elle ne fasse plus effet et ils sont ensuite laissés à eux-mêmes pour chercher un sens à leur vie, ils ne le trouvent pas parce que personne ne leur dit et ils meurent.

D’où la nécessité pour l’Église d’évangéliser et d’utiliser tous les outils à sa disposition. On ne peut pas seulement dire aux gens de lâcher les technologies, mais il faut leur dire en vue de quoi, surtout dans une économie qui ne permet pas aux gens d’utiliser leurs talents. S’ils ne peuvent se connaitre et savoir ce qu’ils peuvent donner à la société, ils seront perdus et confus et se distrairont dans le monde virtuel où il y a une sorte d’accomplissement, de progrès possible. Je crois que l’IA pourrait donner aux individus plus de liberté pour explorer qui ils sont, pour voir comment déployer leurs aptitudes pour servir Dieu et les autres.

Il y a effectivement beaucoup de préoccupations sur le fait que, plus l’IA se développe, plus elle demande de systèmes informatiques qui nécessitent beaucoup d’énergie. Ce sera l’un des défis premiers des pays qui peuvent développer ces technologies. Avoir l’intelligence artificielle c’est super, mais sans le système pour la supporter, ça ne va pas aller très loin. C’est pourquoi des pays comme la Chine ont vraiment un avantage en ce moment parce qu’ils sont très bons pour concevoir des infrastructures énergétiques et pour fabriquer des pièces.

Il y aura un grand besoin d’énergie, et la question est de savoir d’où elle viendra. Il y a une tendance vers le nucléaire en ce moment, qui n’est pas génial pour l’environnement, mais c’est mieux que d’autres solutions. Ultimement, je crois que l’IA pourra nous aider à innover, à améliorer nos technologies énergétiques et à trouver une meilleure efficacité. Google le fait déjà. Je crois qu’à long terme, l’IA nous aidera à réduire le cout de l’énergie pour beaucoup de personnes parce qu’elle nous guidera vers du nouveau matériel, des nouveaux algorithmes, alors je ne suis pas très inquiet de son impact sur l’environnement. Mais à court terme, nous devons évaluer quels sont les moyens de production les moins énergivores.

Je pense, par ailleurs, qu’un risque plus grand dans la visée de Laudato Si, c’est que les gens oublient qui ils sont et à quoi sert la société. Je crains qu’une grande proportion de la population se lance dans le divertissement, que des emplois se perdent et qu’aucune solution significative ne soit présentée. En ce sens, il y a certainement des éléments dont le pape François a parlé concernant la dignité des travailleurs, entre autres, qui sont pertinents.