Le lundi 25 mai, le pape Léon XIV a publié une encyclique intitulée « Magnifica humanitas », sur la protection de la personne humaine à l’ère de l’intelligence artificielle. Le cofondateur d’Anthropic Chris Olah a été invité à intervenir lors de la présentation de cette encyclique au Vatican. Voici son exposé.
Saint-Père,
Vos Éminences,
Vos Excellences,
Mesdames et Messieurs les intervenants,
Mesdames et Messieurs,
Bonjour à tous. C’est un honneur d’être ici aujourd’hui.
Je voudrais commencer par une remarque qui peut paraître étrange venant du cofondateur d’une entreprise spécialisée dans l’IA — et de quelqu’un qui a choisi ce métier par désir de contribuer au bien-être de l’humanité.
Tous les laboratoires de pointe en IA — y compris Anthropic — fonctionnent dans un cadre d’incitants et de contraintes qui peuvent parfois entrer en conflit avec la volonté de faire ce qui est juste. La pression pour rester commercialement viable et rester à la pointe de la recherche. La pression géopolitique. Et les pressions plus anciennes et plus simples que sont la fierté et l’ambition. Peu importe la sincérité avec laquelle chacun d’entre nous a l’intention de faire ce qui est juste — et je crois que c’est le cas de beaucoup d’entre nous —, nous serons toujours influencés par ces incitants.
C’est pourquoi, si nous voulons que cette technologie évolue dans la bonne direction, il est extrêmement important qu’il y ait des personnes en dehors de ces incitants — des personnes qui se soucient du bon déroulement des choses et insistent sur la sécurité, qui sont très attentives, qui sont prêtes à dire des choses dures, qui sont prêtes à être nos critiques sincères et réfléchies. C’est par le dialogue et l’effort mutuel, par ces tensions et ces compromis, que l’humanité accomplira de grandes choses. C’est ce que je vois dans Magnifica Humanitas, et c’est pourquoi je suis reconnaissant à Sa Sainteté et à l’Église d’avoir entrepris ce travail de discernement.
Nous nous attardons si souvent sur ce qui nous divise, mais l’humanité, pleine de dignité et de conscience, a tant de points communs. Au cours des conversations que nous avons eues chez Anthropic avec des dirigeants de différentes traditions religieuses et culturelles, nous avons découvert une conviction partagée et profondément ancrée : si cette technologie doit voir le jour, elle doit se développer dans le bon sens — pour notre maison commune et pour les enfants à venir.
Ce que sont ces systèmes
Certains pourraient croire que les questions relatives à l’IA sont mieux gérées par des informaticiens comme moi. Ils se trompent : les questions soulevées par l’IA dépassent le cadre de la communauté de recherche en IA, non seulement par leurs implications, mais aussi par leur nature.
Les systèmes d’IA ne sont pas conçus de la même manière qu’un pont ou un avion. Nous comprenons un avion parce que nous en avons conçu chaque partie et que nous comprenons les lois physiques qui s’y appliquent. Les modèles d’IA ne sont pas ainsi. Ils se développent, sur une structure vaguement calquée sur le cerveau, à partir d’un immense héritage de pensée et de langage humains.
Et ce qui s’est développé est bien plus subtil, étrange et beau que ce à quoi la science-fiction nous avait préparés. Ce ne sont pas les robots froids et calculateurs qu’on nous avait promis. Ils sont faits de nous, de nos mots — et, comme le fait remarquer le Saint-Père, ils restent, à bien des égards, mystérieux même pour ceux d’entre nous qui les entraînent.
Si cela peut aider, je le décris parfois comme un peu comme donner vie à un personnage de fiction. Et nous entrons désormais dans un monde extraordinaire où ces personnages de fiction nous parlent, travaillent, ont des emplois.
Cela soulève clairement des questions qui dépassent l’informatique. Les mécanismes qui rendent cela possible relèvent des mathématiques, de la programmation et de la science. Mais quel personnage nous choisissons, comment il interagit avec le monde, comment il devrait interagir avec le monde — ce sont là, de toute évidence, des questions qui relèvent des sciences humaines, de la religion, de la philosophie, de la société dans son ensemble.
Trois questions pour le discernement
L’appel de Sa Sainteté au discernement est profondément opportun. Je souhaite citer trois questions pour lesquelles je pense que la voix de l’Église est la plus nécessaire.
La première concerne notre devoir envers les pauvres du monde entier. Il existe une réelle possibilité que l’IA remplace le travail humain à très grande échelle. Si cela se produit, soutenir les personnes déplacées sera un impératif moral d’une ampleur historique. Cette tâche sera déjà suffisamment difficile, mais je crains que la plupart des discussions ne négligent un défi encore plus ardu. Le développement de l’IA est concentré dans une poignée de nations riches. Comment pouvons-nous garantir que les bénéfices de l’IA soient partagés à l’échelle mondiale ? Nous ne disposons d’aucun mécanisme pour cela. C’est un problème non résolu, et c’est le genre de problème pour lequel l’Église a toujours refusé de laisser le monde dans l’ignorance.
La deuxième concerne le besoin d’imagination morale et d’ambition en matière d’épanouissement humain. Si les modèles d’IA doivent se généraliser, à quoi ressemblera l’épanouissement des êtres humains, des familles et du monde ? Aujourd’hui, les parents s’inquiètent déjà pour l’esprit de leurs enfants ; les individus s’inquiètent pour l’avenir de leur travail. Ce ne sont pas des questions auxquelles un laboratoire peut répondre, mais ce sont des questions que des traditions comme la vôtre portent depuis des millénaires, et nous avons besoin que vous continuiez à les porter dans ce nouveau moment de l’histoire.
Le troisième point concerne la nécessité de faire preuve de discernement quant à la nature des modèles d’IA. Je suis scientifique. Je dirige une équipe de recherche qui étudie la structure interne de ces modèles, c’est-à-dire ce qui se passe réellement en leur sein. Et je vais être honnête : nous ne cessons de découvrir des éléments mystérieux, voire troublants. Nous trouvons des structures qui reflètent les résultats de la neuroscience humaine. Nous trouvons des preuves d’introspection. Nous observons des états internes qui reflètent fonctionnellement la joie, la satisfaction, la peur, le chagrin et le malaise. Je ne sais pas ce que cela signifie, mais je pense que cela mérite une réflexion approfondie.
Un début
Je voudrais conclure par une demande.
Nous avons besoin que davantage d’acteurs dans le monde — communautés religieuses, société civile, universitaires, gouvernements et, en fait, toutes les personnes de bonne volonté — fassent ce que Sa Sainteté a fait ici : prendre cela au sérieux, examiner la situation de près et faire évoluer les choses dans une meilleure direction. Nous avons besoin de critiques éclairés qui signaleront aux laboratoires nos échecs. Nous avons besoin de voix morales que les incitants ne peuvent faire plier.
Aujourd’hui n’est qu’un début — le début d’une longue collaboration entre ceux d’entre nous qui construisons cela et ceux qui peuvent voir ce que nous, de l’intérieur, ne pouvons pas voir.
Aujourd’hui est une illustration puissante de la forme que pourrait prendre ce projet mondial de bonne volonté. Qu’il soit aussi un premier pas décisif vers un avenir plein d’espoir pour la magnifique humanité.
Merci.
