Le pape François souligne l’ambivalence de l’IA, entre avantages et risques pour l’humanité

Le 14 juin lors du sommet du G7 en Italie, le pape François a prononcé un discours passionné sur l’intelligence artificielle (IA) qu’il a présentée comme « un outil fascinant et redoutable » qui amène les dirigeants du monde entier à faire des choix déterminants pour l’avenir de l’humanité. En prenant la parole, le Saint-Père a demandé « une réflexion à la hauteur de la situation » et appelé à interdire « les armes létales autonomes », qui sont précisément basées sur l’IA.

C’est la première fois qu’un pape participe à une session du G7. Cette occasion a été fournie par un des sujets au programme, à savoir l’augmentation généralisée de l’utilisation des systèmes basés sur l’IA, qui place les gouvernements à un carrefour moral décisif. Le 1^er janvier 2024, le pape avait déjà centré son message pour la Journée mondiale de paix sur ce même sujet. Lors du G7, il a à nouveau souligné l’ambivalence de l’IA, qui d’un côté « suscite l’enthousiasme en raison des possibilités offertes, et d’un autre côté alimente les craintes sur les conséquences qu’elle présage ».

Les systèmes d’IA « pourraient permettre une démocratisation de l’accès au savoir »

D’un côté, pour le pape, les systèmes d’IA « pourraient permettre une démocratisation de l’accès au savoir, une avancée exponentielle de la recherche scientifique, et la possibilité de demander aux machines des tâches pénibles et difficiles ». Pourtant, d’un autre côté, l’IA pourrait aussi favoriser une plus grande injustice entre les nations développées et en développement, ou entre les classes sociales dominantes et opprimées, favorisant ainsi la dangereuse possibilité qu’une « culture du jetable » soit préférée à une « culture de la rencontre ».

Ce n’est pas seulement la question de la bonne utilisation de l’IA qui est en jeu selon le Saint-Père, mais aussi la compréhension des caractères spécifiques de cet outil. Dans son intervention, il a souligné que « quand nos ancêtres ont aiguisé des silex pour en faire des couteaux, ils les ont utilisés à la fois pour façonner des vêtements à partir du cuir et pour s’entretuer ». « L’IA est toutefois un outil bien plus complexe, qui peut s’adapter de manière autonome à la tâche demandée et qui peut, si elle est programmée ainsi, faire des choix indépendants afin d’atteindre l’objectif fixé », a-t-il ajouté. Ceci peut poser un grave danger à l’humanité si ce n’est pas suffisamment contrôlé et régulé, selon lui.

« Nous condamnerions l’humanité à un avenir sans espoir, si nous ôtions aux hommes la possibilité de prendre leurs propres décisions sur eux-mêmes et sur leur vie. Cela les condamnerait à dépendre des choix des machines. Nous devons garantir le contrôle par l’homme sur les choix qui sont faits par les programmes d’IA : la dignité humaine elle-même en dépend. » Pour cette raison, il a insisté sur la nécessité de bannir les « armes létales autonome », parce qu’aucune machine « ne doit pouvoir choisir de prendre la vie d’un être humain ».

« À chacun d’en faire bon usage, et à la politique de créer les conditions favorables »

Selon le pape, même les systèmes d’IA générative comme ChatGPT risquent, s’ils sont mal orientés, de « légitimer les fake news » et d’affecter « le processus éducatif ». « L’éducation doit fournir aux étudiants la possibilité d’une réflexion authentique », a-t-il souligné. Enfin, pour lui, il est essentiel de mettre la dignité de chaque personne au centre, même quand il s’agit des nouvelles frontières de la technologie. C’est pourquoi « j’ai salué à la fois la signature de l’Appel de Rome pour une éthique de l’IA en 2020, et son soutien en faveur d’un type de modération éthique des algorithmes et des programmes d’IA, que j’appelle ‘algor-éthique’ ».

Mais selon le pape, ce n’est possible qu’avec l’aide d’une action politique. C’est pourquoi il a souligné que « la politique est nécessaire ! ». « En vérité, la véritable habileté politique se manifeste quand, dans les difficultés, nous défendons les principes fondamentaux en pensant au bien commun sur le long terme », a-t-il ajouté. « Il en va de même pour l’IA. C’est à chacun d’en faire bon usage, c’est à la politique de créer les conditions favorables pour cela, pour qu’une bonne utilisation de l’IA soit possible et fructueuse. »

Centrer l’innovation « sur la primauté de la dignité humaine »

Un peu plus d’une semaine après son intervention au G7 en Italie, le pape François a réaffirmé que cette puissante avancée technologique doit être utilisée au service de l’humanité, en assurant que les risques qu’elle comporte doivent être contrôlés. Le Saint-Père a dit cela le samedi 22 juin dernier au matin au Vatican, en présence des participants à une convention internationale sur « l’intelligence artificielle générative et le paradigme technocratique », organisée par la fondation pontificale Centesimus Annus Pro Pontifice.

En faisant ces remarques, le pape a aussi remercié les participants pour leur engagement à rechercher comment l’IA peut servir la dignité humaine et les plus défavorisés : « J’apprécie comme le Centesimus Annus a donné un large espace sur le sujet, en impliquant des universitaires et des experts de différents pays et disciplines, afin d’analyser les opportunités et les risques liés au développement et à l’utilisation de l’IA. »

Il a conclu son intervention en encourageant à se poser les bonnes questions sur la véritable finalité de l’IA : « Est-ce qu’elle sert à satisfaire les besoins de l’humanité, à améliorer le bien-être et le développement intégral ? Ou est-ce qu’au contraire elle est utilisée pour s’enrichir et augmenter le pouvoir déjà considérable de quelques géants technologiques malgré les risques posés à l’humanité ? » Pour lui, ce sont les questions fondamentales. Il s’agit d’orienter l’innovation « vers une configuration centrée sur la primauté de la dignité humaine ». C’est pour le Saint-Père un point non discutable.

Il a terminé sur ce qu’il a décrit comme une « provocation » : « Sommes-nous certains de vouloir continuer à appeler ‘intelligence’ ce que l’intelligence n’est pas ? » En insistant sur la nécessité de réfléchir à cela, il a invité à se demander « si la mauvaise utilisation de ce mot, qui est tellement important, et tellement humain, n’est pas déjà une façon de céder au système technocratique ».

(Avec Asianews)