Op maandag 25 mei heeft paus Leo XIV een encycliek gepubliceerd met de titel “Magnifica humanitas, over de bescherming van de menselijke persoon in de tijd van de artificiële intelligentie”. Chris Olah medeoprichter van Anthropic was uitgenodigd om een toespraak te houden tijdens de voorstelling van deze encycliek in het Vaticaan. Ziehier zijn uiteenzetting.
Heilige Vader,
Eminenties,
Excellenties,
Dames en heren sprekers,
Dames en heren,
Een goede dag aan allen. Het is een eer vandaag hier te zijn.
Ik zou willen beginnen met een opmerking die vreemd kan lijken komend van de medestichter van een onderneming gespecialiseerd in AI — en van iemand die dit vak gekozen heeft omdat hij wenste bij te dragen aan het welzijn van de mensheid.
Alle geavanceerde AI-laboratoria — inclusief Anthropic — functioneren binnen een kader van stimuli en van verplichtingen die vaak in conflict kunnen raken met de wens te doen wat juist is. De druk om commercieel leefbaar te blijven en om aan de spits van het onderzoek te blijven. De geopolitieke druk. En de oudste en eenvoudigste druk van trots en ambitie. Hoe oprecht ook ieder van ons de bedoeling heeft om te doen wat juist is — en ik geloof dat dit het geval is voor velen onder ons — wij zullen altijd beïnvloed worden door deze stimuli.
Als we willen dat deze technologie evolueert in de goede richting, is het daarom uiterst belangrijk dat er personen zijn buiten deze stimuli — mensen die bekommerd zijn om het goede verloop van dingen en aandringen op veiligheid, die heel aandachtig zijn, die bereid zijn om openhartig te spreken en die bereid zijn om onze oprechte en nadenkende critici te zijn. Het is door dialoog en wederzijdse inspanning, door deze spanningen en deze compromissen, dat de mensheid grote dingen zal verwezenlijken. Dat is wat ik zie in Magnifica Humanitas, en daarom ben ik Zijne Heiligheid en de Kerk dankbaar dat zij dit werk van onderscheiding hebben ondernomen.
Wij blijven zo vaak te lang stilstaan bij wat ons verdeelt, maar de mensheid, vol waardigheid en bewustzijn, heeft zoveel punten gemeenschappelijk. In de loop van de gesprekken die we bij Anthropic hadden met de leiders van verschillende religieuze en culturele tradities, hebben we een gedeelde en diep verankerde overtuiging ontdekt: als deze technologie moet tot stand komen, moet ze zich ontwikkelen in de goede richting — voor ons gemeenschappelijk huis en voor de kinderen die nog komen.
Wat die systemen zijn
Sommigen zouden denken dat de vragen in verband met AI het best behandeld worden door informatici zoals ik. Ze vergissen zich: de vragen opgeworpen door AI, stijgen uit boven het kader van de AI-onderzoeksgemeenschap, niet alleen door hun gevolgen maar ook door hun aard.
AI-systemen worden niet ontworpen zoals een brug of een vliegtuig. We begrijpen een vliegtuig omdat we er ieder onderdeel van hebben ontworpen en we verstaan de fysica wetten die erin worden toegepast. AI-modellen zijn anders. Ze ontwikkelen zich, op een structuur enigszins afgekeken van de hersenen, vanuit een immens erfgoed van menselijk denken en taal.
En wat ontwikkeld is, is veel subtieler, vreemder en mooier dan waarop sciencefiction ons had voorbereid. Het zijn niet de koude en berekenende robots die men ons beloofd had. Ze zijn gemaakt uit ons, uit onze woorden — en zoals de Heilige Vader opmerkt, blijven ze in veel opzichten mysterieus, zelfs voor diegenen onder ons die ze trainen.
Als dat kan helpen, ik beschrijf het soms een beetje als het tot leven brengen van een fictief personage. Wij betreden nu een buitengewone wereld waarin deze fictieve personages met ons praten, werken, functies hebben.
Dat roept duidelijk vragen op die de informatica overstijgen. De mechanismes die dat mogelijk maken, vallen onder het domein van de wiskunde, de programmatie en natuurwetenschap. Maar welk personage wij kiezen, hoe het met de wereld omgaat, hoe het zou moeten omgaan met de wereld — dat zijn, natuurlijk, vragen die de menswetenschappen, de religie, de filosofie, de maatschappij in haar geheel betreffen.
Drie vragen voor het onderscheiden
De oproep van Zijne Heiligheid tot onderscheiden is heel gepast. Ik wens drie vragen te citeren waarvoor ik denk dat de stem van de Kerk het meest nodig is.
De eerste betreft onze plicht jegens de armen van de hele wereld. Er bestaat een reële mogelijkheid dat AI het menselijk werk op grote schaal zal vervangen. Als dat gebeurt, zal het ondersteunen van ontheemden een morele plicht van historische omvang zijn. Deze taak zal al moeilijk genoeg zijn, maar ik vrees dat de meeste discussies een nog veel grotere uitdaging over het hoofd zien. De ontwikkeling van AI is geconcentreerd in een handvol rijke landen. Hoe kunnen we ervoor zorgen dat de voordelen van AI wereldwijd gedeeld worden? We beschikken over geen enkel mechanisme daarvoor. Het is een onopgelost probleem, en het is het soort probleem waarvoor de Kerk steeds geweigerd heeft de wereld in onwetendheid te laten.
De tweede betreft de nood aan morele verbeeldingskracht en ambitie op het gebied van menselijke ontplooiing. Als AI-modellen zich overal moeten verspreiden, waarop zal de ontwikkeling van de mensen, de gezinnen en van de wereld dan lijken? Vandaag zijn ouders reeds ongerust over de geestelijke ontwikkeling van hun kinderen; de mensen maken zich ongerust over de toekomst van hun werk. Het zijn geen vragen waarop een laboratorium kan antwoorden, maar het zijn vragen die tradities zoals de uwe al sinds millennia meedragen, en wij hebben jullie nodig om ze ook in dit nieuwe tijdperk te blijven dragen.
Het derde punt betreft de noodzaak om blijk te geven van onderscheiding wat betreft de aard van AI-modellen. Ik ben wetenschapper. Ik leid een onderzoeksteam dat de inwendige structuur van deze modellen bestudeert, d.w.z. wat werkelijk binnenin gebeurt. En ik zal eerlijk zijn: we blijven mysterieuze, ja zelfs verontrustende elementen ontdekken. We vinden structuren die de resultaten van de menselijke neurowetenschappen weerspiegelen. We vinden bewijzen van introspectie. We nemen inwendige gesteldheden waar die functioneel de vreugde, voldoening, angst, verdriet en het gevoel van onbehagen weerspiegelen. Ik weet niet wat dat betekent, maar ik denk dat dit een diepgaander overwegen verdient.
Een begin
Ik zou willen besluiten met een verzoek.
Het is nodig dat meer figuren in de wereld — religieuze gemeenschappen, burgermaatschappij, universitairen, regeringen en, eigenlijk, alle mensen van goede wil — zouden doen wat Zijne Heiligheid hier gedaan heeft: het ernstig nemen, de situatie van nabij onderzoeken en de dingen doen evolueren in een betere richting. We hebben deskundige kritieken nodig die aan de laboratoria onze tekortkomingen zullen signaleren. We hebben morele stemmen nodig die zich niet door ‘stimuli’ laten beïnvloeden.
Vandaag is maar een begin — het begin van een lange samenwerking tussen diegenen onder ons die dat opbouwen en diegenen die kunnen zien wat wij, van binnenuit, niet kunnen zien.
Vandaag is een sterke illustratie van de vorm die dat wereldproject van goede wil zou kunnen hebben. Moge het ook een eerste beslissende stap zijn naar een toekomst vol hoop voor de magnifieke mensheid.
Bedankt.
Bron: https://www.anthropic.com/news/chris-olah-pope-leo-encyclical. Deze tekst werd uit het Frans vertaald door Jos en Helene Van Dyck.
