Léon XIV face à l’IA : l’humanité est-elle en train de perdre le contrôle ?

Fin mai paraissait dans le quotidien économique britannique Financial Times un article intitulé « Pope Leo says A.I. needs to be disarmed ». Selon Léon XIV, l’intelligence artificielle n’est pas un simple outil de productivité flambant neuf. Entre de mauvaises mains, elle peut devenir une arme au service du profit, de la surveillance, de l’exclusion et même de la guerre.

Dans son encyclique récemment publiée, Magnifica Humanitas, il explique que les principaux moteurs du développement technologique sont désormais des acteurs privés et transnationaux, dotés d’un pouvoir et d’une influence sans précédent. L’État-nation classique, si imparfait soit-il, cède progressivement la place à des centres de pouvoir privés qu’il devient presque impossible de corriger démocratiquement.

Le pape nomme cela le « syndrome de Babel » : l’idolâtrie du profit et le sacrifice des plus faibles. Je pense qu’il a raison.

Une nouvelle course à la puissance mondiale

La force transformatrice de l’intelligence artificielle se manifeste déjà dans le domaine géopolitique. De plus en plus d’experts en relations internationales comparent l’IA à la percée des armes nucléaires au milieu du XXe siècle. D’autres rejettent cette analogie et y voient plutôt une invention comparable à l’électricité.

Léon XIV, lui, choisit clairement le registre nucléaire lorsqu’il appelle à un « désarmement » de l’intelligence artificielle.

Que les États-Unis et la Chine mobilisent aujourd’hui des ressources colossales pour atteindre le degré supérieur de l’intelligence n’a rien d’étonnant. Il ne s’agit plus seulement d’innovation ou de compétitivité économique. Il s’agit de redéfinir les rapports de force internationaux.

Des systèmes de défense autonomes capables de s’améliorer eux-mêmes représenteraient une rupture stratégique majeure. Le fait qu’Anthropic réserve certaines capacités de son modèle Mythos 5 à un cercle restreint de partenaires, tandis que la version publique intègre davantage de garde-fous en matière de cybersécurité et de biosécurité, en dit long sur les préoccupations du secteur.

Lorsque l’on contrôle l’accès à une technologie, c’est souvent parce que la capacité elle-même devient un enjeu de sécurité.

Le Saint-Graal : l’intelligence artificielle générale

L’objectif ultime de cette compétition mondiale est l’IAG, l’intelligence artificielle générale. Une telle technologie serait capable d’apprendre, de comprendre et d’exécuter pratiquement toute tâche intellectuelle qu’un être humain peut accomplir.

Le premier pays à maîtriser une telle capacité bénéficierait d’un avantage stratégique considérable.

Dans le domaine du renseignement, l’IAG pourrait révolutionner l’analyse des données et bouleverser les équilibres actuels. Dans le domaine militaire, elle accélérerait encore davantage la prise de décision. Dans le cyberespace, elle pourrait offrir des capacités offensives et défensives inédites.

La vitesse de décision devient alors un facteur décisif. Celui qui agit plus lentement perd.

Une concentration du pouvoir sans précédent

La révolution de l’IA n’est pas seulement militaire ou géopolitique. Elle est aussi économique.

Nous connaissons déjà le phénomène de la « malédiction des ressources », qui touche certains pays riches en pétrole ou en gaz mais incapables de transformer cette richesse en prospérité durable. Pourtant, cette malédiction n’est pas une fatalité. La Norvège a prospéré grâce à ses hydrocarbures, tandis que le Venezuela s’est enfoncé dans la crise.

La différence réside dans la qualité des institutions. Aujourd’hui, les valorisations de groupes technologiques comme OpenAI, Anthropic ou SpaceX atteignent des niveaux comparables à la richesse produite annuellement par certains États européens. La comparaison est imparfaite mais révélatrice de l’échelle atteinte.

L’économie mondiale entre dans une phase inédite où le pouvoir technologique, financier et informationnel se concentre entre les mains d’un nombre extrêmement réduit d’acteurs.

L’histoire montre rarement que ce type de concentration produit des résultats favorables sur le long terme.

Quand la machine remplace le consommateur

À mesure que les algorithmes créent davantage de valeur économique, la source de la richesse se déplace progressivement de l’usine vers le centre de données. Or une économie ne repose pas uniquement sur la production. Elle repose aussi sur la consommation.

Une automatisation massive et rapide du travail pourrait affaiblir la demande elle-même. Chaque entreprise prise individuellement a intérêt à réduire ses coûts grâce à l’IA. Mais collectivement, si les revenus du travail disparaissent trop vite, la capacité des consommateurs à acheter les biens et services produits s’érode.

Le paradoxe devient alors évident : une production toujours plus efficace, mais de moins en moins de clients capables de l’absorber.

Redonner le pouvoir aux citoyens

Face à ces transformations, Léon XIV avance une idée forte. Les données et les algorithmes devraient être considérés comme des biens à destination universelle, qui ne sauraient être accaparés par une poignée d’acteurs.

Cela implique davantage de transparence algorithmique, un accès plus équitable aux données et la possibilité pour les citoyens de contester les décisions prises par des systèmes automatisés.

Mais cela suppose également des institutions capables d’imposer des règles et des gouvernements suffisamment courageux pour anticiper les conséquences du progrès technologique au lieu de courir derrière lui.

Le pouvoir doit revenir au citoyen. Non par romantisme politique, mais par nécessité.

Car une civilisation qui délègue progressivement ses décisions, ses richesses et son avenir à des acteurs auxquels elle ne peut demander aucun compte finit par abandonner sa propre capacité de réflexion. Elle ne gouverne plus son destin. Elle se contente de l’accompagner.