«Ces derniers mois ont vu les laboratoires d’intelligence artificielle s’enfermer dans une course incontrôlée pour développer et déployer des cerveaux numériques toujours plus puissants, que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable. » Lancé en mars 2023, ce cri d’alarme n’a pas été poussé par quelque écologiste technophobe ou philosophe misanthrope, nostalgiques de « la douceur des lampes à huile et de la splendeur de la marine à voile » : il s’agit d’une lettre ouverte cosignée par le créateur de Tesla et de SpaceX, aujourd’hui propriétaire de Twitter (X), Elon Musk, et des centaines d’experts mondiaux de l’intelligence artificielle (IA), dont le cofondateur d’Apple. « Devons-nous, poursuivent-ils, inonder nos canaux d’information de propagande et de mensonges ? Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ? Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, nous rendre obsolètes et nous remplacer ? Devons-nous risquer de perdre le contrôle de notre civilisation ? »
L’initiative d’Elon Musk était-elle vraiment désintéressée ? On a souligné que ce texte était paru, sur le site Futureoflife.org, quelques mois seulement après le lancement triomphal par l’un de ses concurrents, Sam Altman, de Chat-GPT – un système d’intelligence artificielle conçu pour répondre à une multitude de requêtes en brassant les milliards de données publiées sur Internet. On pourrait donc n’y voir qu’une rivalité commerciale. Mais Sam Altman lui-même s’est dit « un petit peu effrayé » par sa créature si celle-ci – qui a déjà conquis 200 millions d’utilisateurs – était utilisée pour « de la désinformation à grande échelle ou des cyberattaques »… Les signataires de cette tribune réclamaient un moratoire de six mois sur le développement de ces technologies. En vain.
Des applications innombrables
C’est aujourd’hui le Vatican qui se penche sur ce sujet brûlant. « Intelligence artificielle et paix » : ainsi s’intitule le message du pape François pour la 57e Journée mondiale de la paix, le 1er janvier. Bien sûr, « nous nous réjouissons à juste titre et nous sommes reconnaissants pour les extraordinaires avancées de la science et de la technologie, grâce auxquelles d’innombrables maux qui affligeaient la vie humaine et causaient de grandes souffrances ont été corrigés », écrit le Saint-Père.
Parce qu’elle peut traiter logiquement et rapidement bien plus d’informations que ne sauraient le faire les meilleurs experts, l’intelligence artificielle accélère ces progrès, notamment en matière médicale. « Des expériences d’utilisation de l’IA pour détecter les septicémies – l’une des principales causes de décès en milieu hospitalier – ont permis de réduire les complications de santé et les décès », note par exemple Jean-Charles Cointot dans son dernier livre, Conversation avec une IA (Les acteurs du savoir). Les applications sont si nombreuses dans l’industrie, la formation, l’étude des climats, la biologie, l’exploration spatiale, la prédiction des pandémies, les communications… qu’il est impossible d’en dresser une liste exhaustive.
« Un risque pour la survie de l’humanité »
« En même temps, poursuit le pape sans naïveté, les progrès techniques et scientifiques, en permettant l’exercice d’un contrôle sans précédent sur la réalité, mettent entre les mains de l’homme un vaste éventail de possibilités dont certaines peuvent constituer un risque pour la survie de l’humanité et un danger pour la maison commune. » La question est évidemment celle des usages et des intentions, bienveillantes ou malignes, de ceux qui développent et utilisent l’IA. Aussi le Vatican demande-t-il que l’expansion de ces technologies soit encadrée par des normes éthiques – le Pape parle même d’« algoréthique ». Les gouvernements y réfléchissent… tout en veillant à ne pas brider la croissance de leurs champions nationaux !
Mais la question ne se limite pas aux usages car « la recherche scientifique et les innovations technologiques ne sont ni désincarnées de la réalité, ni neutres », souligne le pape. Ce que rappellent aussi les philosophes Martin Steffens et Pierre Dulau dans l’entretien qu’ils ont accordé à France Catholique : les machines peuvent soulager l’homme, mais elles peuvent aussi le priver de son humanité en le délestant de compétences, manuelles ou intellectuelles, qu’il ne jugerait plus utile de cultiver. « Une faculté dont on ne fait pas sans cesse usage dépérit. D’où un rabougrissement moral autant qu’intellectuel », résume le philosophe et mathématicien Olivier Rey dans La Nef, citant Aragon : « Plus l’ingéniosité de l’homme sera grande, plus l’homme sera démuni des outils physiologiques de l’ingéniosité […]. Il va s’oublier » (Blanche ou l’oubli, 1967).
On ne peut enfin ignorer les projets transhumanistes de nombreux « gourous » de la Silicon Valley au motif qu’ils relèveraient de la science-fiction : « La convergence NBIC – Nanotechnologie, Biotechnologie, technologie de l’Information et science Cognitive – a rendu possible le fantasme de nombreux savants qui, il y a quelques années encore, auraient été considérés comme fous », prévient Yohan Picquart dans Comprendre et penser le transhumanisme quand on est chrétien (Saint-Léger éditions), un essai qui éclaire les enjeux anthropologiques de cette révolution technologique. Il ne s’agit plus seulement de réparer l’humain, comme le propose la médecine, mais de créer un homme supposément « augmenté », par exemple par l’implantation de composants électroniques dans le cerveau. C’est le but de l’entreprise Neuralink créée par… Elon Musk ! Au motif de soigner certaines pathologies invalidantes, mais aussi de faciliter la communication entre ces humains « hybridés » et les intelligences artificielles dont il se plaît pourtant à souligner les menaces. De quelle liberté jouirait alors cet homme connecté à des machines ?
La mise en garde de l’Écriture sainte
« Vous serez comme des dieux », dit le serpent à Adam et Ève en les incitant à croquer le fruit de l’arbre de la connaissance du bien et du mal. Le pape – qui poursuivra sa réflexion sur l’IA à l’occasion de la prochaine Journée mondiale des communications sociales, le 24 janvier – avait préféré citer un autre « épisode » de la Genèse, lors d’un colloque organisé au Vatican par le dicastère pour la Culture et l’Éducation, en mars 2023 : « L’histoire biblique de la tour de Babel a souvent été utilisée pour mettre en garde contre les ambitions excessives de la science et de la technologie. En réalité, l’Écriture nous met en garde contre la fierté de vouloir “toucher le ciel”. » Commentant ce récit dans son dernier livre, Dieu après la peur (Salvator), Martin Steffens rapporte que « Thérèse d’Avila, quand elle construisait un couvent, n’y mettait qu’un étage ou deux. On y vit un manque de quelque chose. On lui demandait pourquoi. Elle répondit : “Cela fera moins de bruit quand tout s’effondrera.” »
