Vooraf
Dat alles wat ik hier schrijf mijn persoonlijke mening is en niet noodzakelijkerwijs die van mijn werkgever spreekt voor zich. En ik ben geen theoloog, heb vast te weinig verstand van het onderwerp om er een mening over te hebben, maar ik heb er naar geluisterd als mens, g
En ik kan ook best een aantal redenen bedenken waarom je de encycliek van Paus Leo XIV niet zou willen lezen. Je zou principieel iets tegen religies kunnen hebben. Of kunnen vinden dat dingen die een hoofd van een religieus instituut zegt, op zijn best alleen waarde hebben voor de leden van het instituut. Minder principieel, maar minstens zo goed als reden is dat Leo XIV, ondanks dat hij “alle mensen van goede wil” aanspreekt in zijn encycliek (niet alleen katholieken), ook hij vervalt in oude starheden. Dus op een antropologie met alleen man-vrouw en een gezin bestaande uit man-vrouw als normatief uitgangspunt. Het zit in bijzinnetjes, tussen de regels, maar heel consistent. Dat maakt een deel van de boodschap die heel sterk is als het gaat algemeen welzijn, solidariteit, sociale rechtvaardigheid namelijk opeens complex. Geldt het alleen voor mensen die aan die randvoorwaarden voldoen of écht voor iedereen?
Daarnaast is het document met ongeveer 42.000 woorden verdeeld over 5 hoofdstukken sowieso niet de meest lichte kost. Maar als dat het enige is dat je zou weerhouden, dan kan ik je deze podcast van harte aanbevelen.
Een indrukwekkende 3 uur 51 minuten en 57 seconden, door een mens voorgelezen. Dat was zelfs voor mij een paar keer woon-werk met de auto.
Kunnen we wat leren van Magnifica Humanitas?
Wat als ik er voor kies om het document niet in zijn religieuze context, met de hierboven genoemde knelpunten, te bezien, maar uitsluitend naar de inhoud kijk?
Dan blijkt het document lang niet alleen over AI te gaan (zoals de indruk op basis van de nieuwsberichten had kunnen zijn). De encycliek begint met een uitvoerige terugblik over de afgelopen 135 jaar, de momenten waarop voorgangers van Leo XIV de verschillende grondslagen en principes van de sociale leer van de kerk hebben vastgesteld. In hoofdstuk 2 komen de vijf principes (het algemene welzijn, de universele bestemming van goederen, subsidiariteit, solidariteit en sociale rechtvaardigheid) aan bod. Als rode draad door het document loopt de normatieve basis van het zorgen voor de allerzwaksten (armen, zieken, migranten). Het is een duidelijke tegendruk tegen de ontwikkelingen die nu zichtbaar zijn in de wereld (ook in Nederland!) waar het recht van de sterksten de boventoon lijkt te voeren. Daaraan verbonden beschrijft de encycliek het gegeven dat de menselijke waardigheid ontologisch is. Ze vloeit niet voort uit wat je doet, presteert of bijdraagt, maar uit wat je bent. Je waardigheid kan niet worden afgenomen door ziekte, armoede, cognitieve beperking.
De kritiek op (machtige) landen die zich onttrekken aan de internationale rechtsorde, het ICC, de VN, verdragen, zodra hen dat uitkomt, staat niet tussen de regels door, maar is zo duidelijk als kan zonder expliciet conflicten te noemen of landen te noemen. Dat zou ook niet passen in een encycliek. Oorlog als uiterste middel wordt overigens niet afgewezen, maar de normalisering van oorlog als middel zoals nu weer lijkt te gebeuren, wordt wel duidelijk afgewezen.
De doorvertaling naar AI
Met deze basis (en kanttekeningen) is het ook mogelijk om naar de lessen voor AI te kijken zoals ze in de encycliek naar voren komen:
AI is niet neutraal
Het is voor mij eigenlijk best een open deur, maar vooruit: het doet er niet alleen toe hoe AI gebruikt wordt, maar ook hoe het ontworpen wordt, wie het financiert en wie ervan profiteert.
Technologie neemt de kenmerken over van haar makers. Het is te gemakkelijk om alleen te zeggen “AI is een tool, het hangt ervan af hoe je het inzet.” De encycliek verwerpt die neutraliteitsgedachte als naïef. De encycliek gaat daarbij dan weer niet zo ver als Amnesty International, die het hebben over “Unlawful by design“.
AI en concentratie van macht
Een meer morele AI is niet genoeg als die moraliteit door een kleine groep bepaald wordt. De paus constateert dat private, vaak transnationale bedrijven nu meer technologische slagkracht hebben dan veel overheden. AI versterkt de macht van wie al macht heeft (economisch, politiek, militair). Dat is, zo stelt de encycliek, geen randverschijnsel maar de structurele dynamiek. Gekoppeld aan het principe van de universele bestemming van goederen stelt de encycliek dat de vruchten van AI-ontwikkeling niet voorbehouden mogen zijn aan wie al aan de winnende kant staat. Het is voor ons als onderwijssector ook een uitspraak met ingewikkelde gevolgen. Als je dit als uitgangspunt neemt dan kun je je ook als sector niet neerleggen bij afhankelijkheid van grote technologiebedrijven.
Dat gaat overigens verder dan alleen het gedoe over wie toegang mag hebben tot Fable 5 en Mythos 5, een individu met een (theoretische) waarde van 1,1 biljoen dollar is daar ook een voorbeeld van.
AI en Ontologische waardigheid
Het is een begrip dat ik niet dagelijks gebruik: ontologische waardigheid. Zoals in de inleiding gezegd, ontologisch betekent hier simpelweg: het zit in je wezen, niet in wat je doet. Je waardigheid is geen prestatie. Je hebt haar niet verdiend en je kunt haar niet verliezen. De encycliek stelt dat als menselijke waardigheid intrinsiek is en niet functioneel, dan mag het nooit voorkomen dat een algoritme oordeelt over iemands waarde als mens. Niet in sollicitatieprocedures, niet in kredietbeoordelingen, niet in asielaanvragen, niet in de medische sector, niet in het onderwijs. Het bezwaar is dan niet dat AI te onnauwkeurig is of fouten kan maken (die je zou kunnen oplossen met betere modellen), maar dat de categorie van beoordeling principieel misplaatst is. Een mens is ook niet nutteloos zodra een machine zijn taak beter uitvoert. De vraag naar nut is de verkeerde vraag.
AI en Onderwijs
De encycliek staat niet in heel erg veel detail bij het onderwijs stil. Scholen als plekken waar mensen leren waarheid te zoeken, niet waar ze leren de output van machines te accepteren is natuurlijk niet heel schokkend en ook niet heel concreet. Want hoe scholen er dan voor moeten zorgen dat jongeren kritisch blijven denken, vragen blijven stellen en om kunnen gaan met AI zijn dan daadwerkelijk de moeilijke opdrachten. De encycliek biedt het onderwijs daarmee dus zeker geen richtlijnen, duidelijke handvatten of checklijsten. Die invulling moet nog steeds van onszelf komen.
AI en Autonome wapens
Op het snijvlak van AI en oorlog is de encycliek duidelijk: een algoritme dat beslist over het doden van mensen is principieel onaanvaardbaar. Ook hier: niet omdat de technologie onbetrouwbaar is, maar omdat verantwoordelijkheid dan nergens meer te lokaliseren valt. Dat het zo expliciet genoemd wordt geeft ook wel de tijdsgeest weer. Was AI in oorlogsvoering lange tijd een soort theoretische toekomst, vooral in films uitgebeeld waarbij de AI dan in de vorm van een denkbeeldige terminator de wereld vernietigde, in de verschillende actuele conflicten wordt al meer en meer AI ingezet. Het speelt een belangrijke rol bij het verkorten van de kill chain. Dit is de opeenvolging van stappen (van doelidentificatie tot de daadwerkelijke aanval) die traditioneel menselijke beslissingen vereist op elk kritiek moment. Bij autonome wapensystemen met AI neemt een algoritme een of meer van die beslissingen over, waardoor de menselijke verantwoordelijkheid uit de keten verdwijnt. Ik vrees dat niemand wakker ligt van de kritiek hierop in deze encycliek. Maar dat maakt hem niet minder relevant. Bijvoorbeeld als waarschuwing (in combinatie met ontologie) dat besluitvorming bij een volgende pandemie nog steeds primair bij mensen moet blijven liggen. Ook als die mensen fouten maken.
Samenvattend
Het is een document dat nog niet in het Nederlands beschikbaar is, 245 paragrafen, 5 hoofdstukken, ongeveer 42.000 woorden in omvang is. Zelfs de (wat mij betreft prettig om te beluisteren) podcast met bijna 4 uur maakt de encycliek niet gemakkelijk toegankelijk. Helemaal luisteren was voor mij de moeite waard, al was het maar omdat het bevestigd wat vaak het geval is: samenvattingen van onderzoek, wetenschap of ook zo’n encycliek geven haast per definitie een vertekent of slechts gedeeltelijk (en daarmee ook vertekent) beeld van de inhoud. Op zich niet zo heel vreemd aangezien de meeste mensen geen 4+ uur aan een enkel nieuwsbericht kunnen besteden en dit een van de vele, vele publicaties over AI is die op het moment het daglicht zien.
En ook hier, in lijn met wat de encycliek ook benadrukt, kan AI maar voor een deel helpen. Jazeker, ik kan het verhaal laten samenvatten, ik kan infographics laten maken, een podcast met exact de insteek en nuances die ik wens. En jazeker heb ik ook AI gebruikt om me te ondersteunen bij deze blogpost, bij het bedenken van uitleg bij onderdelen. Maar zonder de tijd die ik genomen heb om naar de integrale audioversie te luisteren, de tijd om erover na te denken, het voor delen ook sparren met AI als het ging over vragen als “ik lees er dit en dit in, zie je dit ook tekstueel terug en zo ja, waar?”, was die niet geworden tot was het is. En belangrijker nog: was ik niet geworden tot wat ik nu ben. Want wellicht niet van buiten zichtbaar, en niet alleen door de inhoud van de encycliek, zorgt het denkproces dat ik zelf heb doorlopen daarvoor. Dat kan ik niet aan AI uitbesteden. Het is de reis en niet alleen het beoogde eindpunt die er toe doet.
