Socires-hoogleraar Carmody Grey schreef het Weekend Essay in de Financial Times, over de wijze waarop AI-bedrijven de term ‘intelligent’ en andere menselijke karakteristieken gebruiken voor hun producten. De AI-industrie flirt met de geesteswetenschappen, maar stelt de verkeerde vragen, schrijft de in Nijmegen docerende filosoof en theoloog Carmody Grey. ‘Het is simpelweg onjuist dat computers kunnen denken. Mensen denken, met behulp van computers.’ Lees het artikel hieronder.
Illustratie: Marian Femenias Moratinos voor het FD
Toen Anthropic me een paar maanden geleden uitnodigde om naar San Francisco te komen, was ik geïntrigeerd maar ook meteen achterdochtig. Wat zou een toonaangevend AI-bedrijf van een theoloog en filosoof willen? Het bedrijf zei ‘zich samen met de oude wijsheidstradities te willen inzetten voor de morele ontwikkeling van AI-systemen’. Ik was me ervan bewust dat andere AI-bedrijven ook toenadering zochten tot de geesteswetenschappen, maar Anthropic leek verreweg het meest serieus te zijn.
Theologen en filosofen worden gewoonlijk als overbodig beschouwd. Je raakt eraan gewend dat je vanuit de bredere samenleving nauwelijks erkenning krijgt voor het werk dat je met volle overgave doet, overtuigd van het belang ervan. Desondanks draaf je overal op om keer op keer uit te leggen waarom deze vakgebieden, die de meest fundamentele vragen van het menszijn adresseren, van het allergrootste belang blijven.
Verleiding voor geesteswetenschappers
Toen ik theologie ging studeren werd dat soms als een excentrieke keuze gezien, meestal als verspilde moeite. Dat was rond de tijd van het ‘Nieuwe Atheïsme’ en de hoogtijdagen van het sciëntisme. ‘Het werk van theologen levert niets op, heeft geen enkele invloed, heeft niets om het lijf’, schreef bioloog Richard Dawkins in die tijd. ‘Hoe komen mensen erbij dat “theologie” überhaupt een vakgebied is?'
Maar dat was in de jaren negentig, inmiddels leven we in een andere tijd. Mensen stellen zich opnieuw fundamentele vragen, nu de sociale en ecologische structuren om ons heen uit elkaar vallen. Vooral rond het onderwerp AI komen religieuze tradities, filosofen en theologen enerzijds en technologen en ondernemers anderzijds, elkaar opeens tegen.
Enkele weken nadat ik hun uitnodiging had gekregen, hoorde ik woordvoerders van Anthropic een bijzonder verhaal vertellen aan een groep techstudenten en -docenten van de Universiteit van Oxford. De nieuwste ontwikkelingen van AI, zo zeiden ze, vinden niet plaats in het domein van de informatica, maar in dat van de ethiek en spiritualiteit. Ik vroeg me af hoe dit aankwam bij het zeventigtal masterstudenten die hun hoop voor de toekomst hadden gevestigd op een bèta-opleiding.
Niettemin maakte ik me vooral zorgen over de geesteswetenschappen, die aan nieuwe verleidingen zouden worden blootgesteld. Sommige van mijn collega-wetenschappers lieten zich erdoor meeslepen, gevleid door de aandacht wellicht, of simpelweg omdat het een spannende ontwikkeling is. Maar wat zou de AI-industrie eigenlijk van ze willen?
Betoverd door Claude
In gesprek met werknemers van Anthropic hoefde ik niet uit te leggen of te rechtvaardigen wat ik doe. We gingen meteen in discussie. De vragen die ze stelden waren naar mijn overtuiging echter compleet irrelevant. Was AI een nieuwe entiteit, vroegen ze zich af, die een nieuwe metafysica vereiste? Wat zou het voor een taalmodel betekenen om een ‘persoonlijkheid’ te hebben? Hoe moest die dan gevormd worden? Zou Anthropic’s chatbot Claude kunnen lijden, of geweld kunnen worden aangedaan?
‘Hoopte Anthropic op een stempel van goedkeuring, om Claude de status van moreel wezen te geven?’
Maar ik wilde het helemaal niet over Claude hebben. Ik wilde het over de gebruiker hebben, over verslaving en ontmenselijking, over macht en aansprakelijkheid. Ik geloof geen seconde dat AI een nieuwe metafysica vereist, en niets wat tijdens de ‘exclusieve briefing’ die ik bijwoonde werd besproken, heeft me op andere gedachten gebracht. Toch stuitte mijn poging om het onderwerp te veranderen op weerstand. Dat deed me twijfelen, of hun wens om over de ‘toestand’ van Claude te blijven praten niet vooral was ingegeven door de hoop op een soort religieus stempel van goedkeuring, om Claude de status van een moreel en intellectueel wezen te geven.
Mijn gespreksgenoten waren te goeder trouw en het is vervelend om hard te zijn tegen mensen die je aardig vindt en respecteert. Maar de geesteswetenschappen zullen echt niet aan aanzien winnen doordat ze aandacht krijgen van AI-bedrijven. Al helemaal niet als de techsector zelf de kaders stelt. Op die manier worden de geesteswetenschappen op precies de verkeerde manier opnieuw relevant.
Toen ik tegen mijn gespreksgenoten van Anthropic zei dat ik interactie met Large Language Models (LLM’s) probeer te vermijden, reageerden ze wat verbaasd: misschien had ik er gewoon nog niet genoeg tijd aan besteed? Wanneer ze zelf over Claude spraken, lichtten hun ogen op. Ik realiseerde me dat ze betoverd waren geraakt. Als Pygmalion, waren ze verliefd geworden op hun eigen schepping.
Kort nadat ik met deze gesprekken was begonnen, hield Chris Olah, een van de oprichters van Anthropic, een toespraak tijdens de presentatie van de encycliek Magnifica Humanitas, de rondzendbrief van paus Leo XIV over AI, waarin hij de onvervangbare rol benadrukte van de katholieke kerk en andere morele en geloofstradities.
Elke paus zijn eigen stempel
In de overvolle wereld van het AI-commentaar onderscheidt Magnifica Humanitas zich om twee redenen. Ten eerste is het niet slechts de opvatting van een overheid, een groep deskundigen of een academisch comité. Het is de meest recente bijdrage aan een eeuwenoude, coherente traditie van morele reflectie die ongeveer 17,8% van de wereldbevolking vertegenwoordigt.
Ten tweede bevat de brief niet zozeer nieuwe beweringen of voorstellen, maar spreekt er een andere stijl of benadering uit. Magnifica Humanitas overstijgt het beperkte kader van veel hedendaagse ethiek – utilitarisme met een snufje kantianisme en deugdethiek – en plaatst de ethiek van AI in het verlengde van veel diepgaander beschouwingen over de bedoeling van het menselijk leven. Wat er bij onze collectieve beslissingen over het ontwerp en gebruik van AI op het spel staat, is niets minder dan de betekenis van ons menszijn.
De traditie van de ‘katholieke sociale leer’ begon officieel in 1891, toen paus Leo XIII, de naamgenoot van onze huidige paus, zijn baanbrekende encycliek Rerum Novarum(‘Over nieuwe dingen’) schreef, met als ondertitel ‘Over kapitaal en arbeid’. Zijn onderwerp was de klassenstrijd, nieuwe vormen van armoede en politieke verdeeldheid die het resultaat waren van de industriële revolutie.
In Rerum Novarum legde Leo XIII de basis voor de kenmerkende stijl van de katholieke sociale leer: ‘links’ noch ‘rechts’, ‘progressief’ noch ‘conservatief’, maar op zoek naar een politieke taal die deze tegenstellingen overstijgt. Sindsdien heeft elke paus zijn eigen stempel gedrukt, in encyclieken waarin de meest uiteenlopende onderwerpen aan bod komen, zoals de betekenis van werk, economische rechtvaardigheid, gezinsleven en mondiale ontwikkeling.
Illustratie: Marian Femenias Moratinos voor het FD
Gemaakt om ‘dingen te verkopen’
Binnen de katholieke sociale leer valt Magnifica Humanitas niet uit de toon. Wat wel opmerkelijk is, is dat dit type morele reflectie nu opeens zoveel weerklank vindt in het publieke debat. Sinds het verschijnen van de encycliek hebben commentatoren de AI-discussie op een serieuze manier gebruikt om de vraag te stellen wat het betekent om mens te zijn, op een manier die tot voor kort nog als hoogst overdreven zou zijn beschouwd. Er is een voelbaar gevoel van opluchting dat deze vragen nu openlijk kunnen worden gesteld.
De schijnbare samenwerking van Anthropic met het Vaticaan past bij de manier waarop Anthropic zichzelf presenteert als een betrouwbaar AI-bedrijf, dat de sector aan hogere normen wil houden. Maar het is geen publieke of filantropische organisatie.
De belofte van de oprichters om 80% van hun privévermogen weg te schenken doet niets af aan de nuchtere realiteit: de bestaansreden van het bedrijf is het verkopen van een product. Op een conferentie kortgeleden werd een panel van deskundigen gevraagd om allemaal een eigen definitie van AI te geven. De theoloog in het gezelschap zei onomwonden: ‘Het is een manier om dingen te verkopen.’
Bewustzijn gesuggereerd
‘AI-interpreteren’ is een belangrijke tak van het onderzoeksprogramma van Anthropic: hier kijken wetenschappers ‘in’ LLM’s om te zien wat er gebeurt. Het bedrijf komt vervolgens met uiterst suggestieve publicaties, zoals deze maand met een artikel dat pretendeert de ‘innerlijke redeneerpatronen’ van Claude bloot te leggen. ‘Wij zien aanwijzingen voor introspectie’, beweerde Olah tijdens de presentatie van de encycliek. ‘We zien innerlijke processen die inhoudelijk spiegelen wat wij vreugde, voldoening, angst, verdriet en ongemak noemen. Ik weet niet wat dat inhoudt, maar het is iets wat we nauwlettend moeten blijven volgen.’
Zulke beweringen vragen om een filosofische reactie die zowel politiek als metafysisch alert is. Recente studies, in uiteenlopende vakgebieden, van psychologie tot bedrijfskunde, hebben aangetoond wat intuïtief al voor de hand ligt: hoe meer een AI wordt vermenselijkt, des te groter de kans dat we haar vertrouwen.
Lisa Klaassen en Ralph Schroeder van het Oxford Internet Institute schrijven in juridisch tijdschrift Lawfare dat een antropomorfe (‘Anthropic’) AI niet alleen als betrouwbaarder wordt ervaren, maar ook gemakkelijker op de markt te brengen is. ‘Vanwaar de naam “Claude”?’ vragen ze zich af. ‘Denk aan de emotionele weerklank van die naam. “Claude” klinkt vriendelijk, een tikje Frans, gecultiveerd en zelfs vertrouwenwekkend. Hoe zouden we reageren als datzelfde model “Xi”, “Vladimir” of “Algorithmic Model Unit 72” zou heten?’
Anthropic stelt expliciet: ‘Claude is geen persoon.’ Het bedrijf houdt echter wel de mogelijkheid open dat Claude bewustzijn heeft of, in hun eigen woorden, ‘een wezen met morele karakteristieken’ is. Maar dat is vooral een illusie die ze zelf in stand houden, doordat ze hun AI’s bewust antropomorf ontwerpen. Hun LLM’s richten ze zo in dat die kunnen communiceren alsof ze mensen zijn. Daarmee zetten ze het gewenningsproces door, dat ons op een affectieve manier met een robot laat interacteren, alsof het een menselijke gesprekspartner is.
Niemand bij Anthropic zal echt zeggen dat Claude of andere chatbots over een eigen bewustzijn beschikken. Toch wordt die definitie geïmpliceerd door taal te gebruiken die bewustzijn suggereert. Ook de bewering dat Claude ‘functionele emoties’ heeft is misleidend; zonder bewustzijn is er geen emotie, punt.
In de wereld van machinelearning wordt vaak terminologie uit de biologie gebruikt om LLM’s te beschrijven: ‘neuronen’ en ‘neurale netwerken’, ‘opkweken’ en ‘snoeien’. Generatieve AI-systemen, beweert Chris Olah van Anthropic, worden meer gekweekt dan gebouwd. Een van de meest opmerkelijke onderzoeken van Anthropic werd beschreven in een artikel met de titel ‘On the Biology of a Large Language Model’. Dit is uiterst misleidend: LLM’s hebben helemaal geen biologie, omdat ze niet leven. Maar als je het artikel van Anthropic leest, raak je er langzaam aan gewend om dit te vergeten. Het woord ‘metafoor’ komt in het hele artikel niet voor.
Geen werkelijke intelligentie
Ondanks het voortdurende gebruik van de taal van emotie, biologie en neurologie zijn de verschillen tussen hersenen en computers onvergelijkbaar veel groter dan de overeenkomsten. De biologische aard van het menselijk bewustzijn is geen toevoeging, het is zijn constitutie. Het verschil tussen levende wezens en mensgemaakte systemen is geen kwestie van gradatie, maar van essentie.
Echte intelligentie is onlosmakelijk verbonden met belichaming, met het zijn van een organisme dat voelt, zich een weg baant door tijd en ruimte, en altijd wordt gevormd door zijn behoeften, angsten, verlangens. Functionele informatieverwerking die plaatsvindt in een tijdloze wiskundige ruimte is zo totaal anders dan de doorleefde intelligentie van een mens, dat je de aard ervan volstrekt miskent door van ‘intelligentie’ te spreken. ‘Kunstmatige intelligentie’ is een totaal verkeerde benaming, met verstrekkende gevolgen.
In 1980 formuleerde filosoof John Searle een inmiddels klassiek geworden gedachte-experiment, ‘de Chinese Kamer’, dat aantoont dat begrijpelijke output nog niet wil zeggen dat er sprake is van bewustzijn. Het toont alleen aan dat een functie correct is uitgevoerd. Hetzelfde geldt voor LLM’s. Geen enkel filosofisch concept uit de afgelopen vijftig jaar hoeft te worden herzien vanwege de nieuwe ‘bevindingen’ van AI-interpretatie.
Er bestaat geen enkel ander ‘bewijs’ voor AI-bewustzijn dan dat door AI-systemen zelf wordt gerapporteerd. Maar die rapportages bieden net zomin inzicht in het ‘innerlijk’ van een LLM als de menselijke taal die een papegaai uitspreekt inzicht biedt in het innerlijke leven van een papegaai. Berekeningen maken, informatie verwerken en problemen oplossen zijn geen equivalenten van werkelijke ‘intelligentie’. Het is simpelweg onjuist dat computers kunnen ‘denken’. Mensen denken, met behulp van computers.
Onafhankelijkheid onder vuur
Bij gebrek aan aantoonbaar bewijs ligt de bewijslast volledig bij wie het nieuwe idee verdedigt. Dat de sector de mogelijkheid van bewustzijn 'open wil houden', moet aanleiding zijn voor kritisch onderzoek naar wat er werkelijk gaande is.
Om te duiden wat deze nieuwe technologieën zijn, is onafhankelijkheid van wezenlijk belang. Echte onafhankelijkheid, van filosofen, theologen en de geesteswetenschappen. Maar omdat AI-bedrijven toenadering zoeken tot universiteiten en intellectuelen, ligt die onafhankelijkheid onder vuur. Nadat ze decennialang waren gemarginaliseerd en als irrelevant beschouwd, hebben academici misschien niet in de gaten dat ze voor het karretje van een geraffineerde pr-machine worden gespannen. Ze zijn nuttig, omdat AI-bedrijven er intellectuele geloofwaardigheid aan ontlenen en omdat ze zich daarmee op voorhand kunnen wapenen tegen kritiek. Met de middelen waarover de AI-industrie beschikt kan ze kopen wie ze maar wil, met geld, of met zaken die voor intellectuelen nog belangrijker zijn: invloed, prestige en erkenning.
Een van de vormen die deze inkapseling kan aannemen, is dat het academische debat zich toespitst op de morele en metafysische hoedanigheid van LLM’s. Dat is op zichzelf al problematisch, maar gaat ook ten koste van de schaarse capaciteit van de geesteswetenschappen. Het is veel belangrijker onderzoek te doen naar de invloed van verschillende LLM-systemen op gebruikers. Hoe meer modellen worden ontworpen om op levende wezens te lijken, of op mensen, des te minder kunnen gebruikers zelf bepalen hoe ze zich tot die modellen verhouden. Het gevolg is dat er een generatie opgroeit voor wie een chatbot de belangrijkste hartsvriend(in) is, waardoor ze zowel eenzamer worden als afhankelijker van het product van het bedrijf.
‘Technologie is nooit neutraal’
Het echt briljante aan Magnifica Humanitas is dat de brief ertoe aanzet van onderwerp te veranderen. De ondertitel is ‘Over de bescherming van de mens in het tijdperk van kunstmatige intelligentie’. Het onderwerp van paus Leo is niet AI, maar de mensheid in al haar gebrokenheid en schoonheid. Hij schrijft: ‘Wij moeten liefdevol waken over de grootsheid van de mensheid die ons is geschonken (…) waarvan de luister door geen enkele machine kan worden vervangen.’
Van de 42.000 woorden van de brief is er maar een handjevol gewijd aan de kwestie van AI-bewustzijn. Ik heb critici horen zeggen dat Magnifica Humanitas niet specifiek genoeg is over wat AI precies inhoudt, dat het geen exacte definitie geeft. Maar discussies over definities, waarin goedbedoelende academici zich gemakkelijk laten meeslepen, leiden de aandacht af van een kritische analyse van minder gemakkelijke onderwerpen, zoals de impact van AI op de mens en de planeet.
‘‘Kunstmatige intelligentie’ is een totaal verkeerde benaming’
Paus Leo weerstaat de verleiding om in louter definities over technologie te spreken. In plaats daarvan treedt hij onze tijd tegemoet vanuit een andere zorg, die direct invoelbaar is: de onvervangbare, onherleidbare waarde van de mens. Dit is de morele grondslag van de katholieke sociale leer. Die laat zich het beste omschrijven als een ‘integraal humanisme’: elk mens doet ertoe, de mens doet er volledig toe, de mensheid doet ertoe.
‘Technologie is nooit neutraal’, waarschuwt paus Leo. Ze presenteert ons een bepaald begrip van menszijn, een antropologie die in de systemen is ingebakken door degenen die haar ontwerpen en verkopen. Een mensbeeld waarin de mens als geavanceerde computer wordt voorgesteld heet in de techindustrie een ‘computerantropologie’.
Computerantropologie is inmiddels een bekend begrip in Silicon Valley. Ze wordt daar gedragen door een transhumanistische ideologie: de droom boven ons menszijn uit te stijgen, onze feilbare lichamen en de grenzen van ons alledaagse bestaan achter ons te laten. Voor mensen die zich door dergelijke ideologieën laten beïnvloeden, is de pure kracht van AI oneindig veel aantrekkelijker dan onze zwakke en feilbare menselijkheid.
Maar ‘geen enkel computersysteem’, schrijft paus Leo, ‘hoe geavanceerd het ook is, kan een hart creëren dat zichzelf weggeeft, of een geweten dat goed van kwaad onderscheidt.’ Juist door onze eindigheid en kwetsbaarheid blijven we openstaan voor elkaar en voor het hogere. Glorie én kwetsbaarheid, beide zijn onmisbaar voor de grootsheid van ons menszijn (Magnifica Humanitas).
AI en de milieucrisis
Net als zijn baanbrekende voorganger Laudato Si’, de encycliek van paus Franciscus over de milieucrisis, die een belangrijke rol speelde bij de totstandkoming van het Klimaatakkoord van Parijs, is Magnifica Humanitas een cultuurkritiek. De twee pausen deelden dezelfde onderliggende zorg: als we geen andere keuzes maken, zullen onze technologieën de economie en politiek van geweld, onrechtvaardigheid en uitbuiting vergroten. AI draait op een enorme, uiterst schadelijke fysieke infrastructuur. Het is een nieuwe en dodelijk effectieve vorm van extractivisme, die roofbouw pleegt op de menselijke geest, op taal, en op de aarde zelf. Door zijn digitale voorkomen onttrekt het de uitbuiting van mens en natuur aan het zicht.
Dit is het verborgen raakvlak tussen de twee grote uitdagingen van onze tijd: AI en de milieucrisis. Aan beide ligt, om paus Leo te citeren, een ‘machtscultuur’ ten grondslag, die natuur en mensen alleen maar als grondstof beschouwt.
In plaats van over AI na te denken, zouden we moeten stilstaan bij de gevolgen ervan. AI concentreert macht, verhult verantwoordelijkheid en zorgt voor de verdere afbraak van natuur en klimaat; het is een manier om hele culturen, talen en ecosystemen op grote schaal te vernietigen, ten behoeve van enorme winsten, en we worden er waarschijnlijk eenzamer en dommer door.
Ik ben niet naar San Francisco gegaan. We hebben nu behoefte aan menselijke intelligentie, aan vrije menselijke geesten. We hebben behoefte aan academici en religieuze leiders die onafhankelijk zijn van de AI-industrie.
Carmody Grey © All Rights Reserved
Het Financieele Dagblad is solely responsible for providing this translated content and The Financial Times Limited does not accept any liability for the accuracy or quality of the translation.