De terreur van modellen

Ons leven wordt almaar meer bepaald door wiskundige modellen, zoals ook blijkt in het stikstofdossier. Politici gebruiken ze gretig om ons allerlei maatregelen op te leggen. Maar zijn die wel geschikt om beleid op te stoelen? Datawetenschapper en modellenbouwer Marc Jacobs en hoogleraar Waarschijnlijkheidsberekening prof. dr. Ronald Meester (Vrije Universiteit Amsterdam) hebben daar zo hun twijfels bij.

Marc Jabos (op de foto links) en Ronald Meester (rechts op de foto) schreven samen ‘Van Aardbeving tot Zoönose‘, een kritisch boek over de inzet van modellen voor beleid. Daarin trachten ze te verduidelijken welk gevaar hierin schuilt.

Het was verfrissend om te zien dat experten uit het veld zo kritisch staan tegenover hun eigen passie. Is dat nog altijd het geval?

Ronald Meester: ‘Onze mening is nog niet veranderd.’

Waar zit nu juist het gevaar?

Marc Jacobs: ‘We beginnen in het boek met een quote van Lilian Marijnissen, de fractieleidster van de SP in de Nederlandse Tweede kamer. Die vroeg zich af hoe het kon dat de modellen ons zo in de steek hebben gelaten tijdens de coronacrisis. Daaruit blijkt dat ze de ware aard van modellen niet begrijpt. Zij ziet een model als een objectief wetenschappelijk instrument dat als feitelijk wordt overgenomen.’

‘Wij hebben niet zozeer kritiek op de modellen zelf. We hebben wél kritiek op hoe ze worden gebruikt. Modellen zijn inherent subjectief en zitten vol tekortkomingen en zijn nooit de weergave van een feitelijke realiteit. Ze dienen eigenlijk om te achterhalen waar er lacunes zitten in de bestaande kennis. Het beleid rukt modellen weg uit hun natuurlijke habitat en kent hen een status toe die ze helemaal niet hebben. Daardoor lijkt het vaak dat ze worden ingezet om een vooropgezet plan in werking te laten treden. Dat bleek al tijdens corona, maar ook in de Stikstofcrisis in Nederland. We laten ons als burgers leiden door modellen. Wanneer we proberen om grip te krijgen op de wereld rondom ons met behulp van modellen, zien we al snel dat net die modellen grip krijgen op ons en met de werkelijkheid aan de haal gaan. Dat is de kern van onze kritiek.’

RM: ‘Modellen zijn niet objectief. De wetenschap zélf is verre van objectief. Daarom is het gevaarlijk om je achter een bepaald model te verschuilen. Als een minister zegt: “Het model zegt dit of dat”, realiseert die zich niet dat er achter zo’n model een hele wereld schuilgaat van gemaakte keuzes, genomen beslissingen en ingevoerde parameters. Daar heeft de minister geen idee van.’

‘Modellen vatten samen wat de maker ervan belangrijk acht. Maar iets belangrijk vinden is een subjectieve en persoonlijke aangelegenheid. Wetenschap – en bij uitbreiding wetenschappelijke modellen – worden te veel als absolute autoriteit gezien. Terwijl je modellen in het beste geval kan gebruiken om een gesprek mee te beginnen. Nu worden ze ingezet als einde van het gesprek: het model zegt zus, dus moeten we zo handelen.’

Zou het kunnen dat ministers dat wel degelijk weten en zelfs mee bepalen hoe die modellen worden gevoed? Net om de gewenste uitkomst te bekomen?

RM: ‘Dat is speculatie. Het zou kunnen, maar dat kan je niet hard maken. Ons gaat het puur om het fenomeen dat we nu steeds vaker zien opduiken, waarbij modellen worden gebruikt als gesprekstopper. De bevolking moet begrijpen dat het zo niet kan werken en dat politici en beleidsmakers daarop kunnen aangesproken worden.’

Om beleidsmakers daarop aan te spreken moet je natuurlijk wel inzage hebben in hoe de modellen tot stand kwamen, welke keuzes werden gemaakt, welke parameters men hanteerde en hoe zwaar die doorwegen. Net dat wordt door de makers angstvallig geheim gehouden. Dan stel je bijna automatisch de vraag wat ze te verbergen hebben.

MJ: ‘Als een overheid modellen inzet waardoor miljoenen mensen geraakt worden in hun dagelijks bestaan, dan moet daar een vorm van Transparantie bijhoren.’

‘Neem nu de modellen van het Nederlandse Rijksinstituut voor Volksgezondheid en Milieu (RIVM) ten tijde van corona. Die zijn pas twee jaar later beschikbaar gemaakt. Wat nog erger is, is dat er actief is tegengewerkt om ze beschikbaar te maken, zelfs nu nog. Ondertussen hebben een aantal mensen de overheid gedwongen via WOO-verzoek (Wet Open Overheid, red) om ze vrij te geven. Maar het eerste wat je ziet is dat er veel gegevens worden zwart gelakt, zodat je niet weet welke data in welk model zit. De vrijgave van de modellen gaat niet van harte.’

‘Als je als overheid een instrument inzet, moet je dat transparant doen. Het is net die geheimdoenerij in de nasleep die nog meer schade berokkent dan de inzet van modellen zelf. Dat schaadt namelijk het vertrouwen in de overheid. Ondertussen wordt er nog steeds ijverig gemodelleerd terwijl de transparantie uitblijft. Dat verwacht je bij grote bedrijven die in het heetst van de concurrentiestrijd alles doen om hun belangen te beschermen. Maar niet van een publieke overheid die democratische verantwoording moet afleggen.’

In Nederland kan je tenminste nog succesvol een WOB-verzoek indienen. In België hoeft de federale overheid daar niet eens op te antwoorden.

RM: ‘Ok. Wow…’

Ondertussen blijft de overheid schermen met modellen om de maatregelen tijdens corona goed te praten. Het model voorspelde een rampscenario en kijk, het is niet uitgekomen. Dat komt dan door de maatregelen.

RM: ‘Dat is een bekende tactiek: achteraf voorspellen wat de waarde van interventies was. Ondertussen is er in Nederland, maar ook in België, geen enkele deugdelijke analyse uitgevoerd over de effectiviteit van de maatregelen. Als dat überhaupt al kan, want dat is maar zeer de vraag.’

‘Ik heb die argumenten al zo vaak gehoord: het model voorspelde zus of zo, en dat is allemaal niet gebeurd dankzij de genomen maatregelen. Maar niemand die bedenkt dat de oorspronkelijke modellen wel eens totaal onrealistisch zouden kunnen zijn. En dat kunnen we niet controleren omdat ze niet worden vrijgegeven. Let wel, we hebben het hier over wetenschap. En in de wetenschap is één ding cruciaal: andere wetenschappers moeten kunnen verifiëren en controleren wat je doet. Als je dat niet toelaat, heet het niet eens wetenschap. Aan die basisvoorwaarde wordt gewoon niet voldaan.’

MJ: ‘Nu had ik met al die modellen niet echt een probleem gehad mochten ze niet zo’n enorme invloed hebben op het leven van de burgers. Met macht komt ook verantwoordelijkheid en dat verantwoordelijkheidsgevoel lijkt gewoon te ontbreken. Op dit moment zetten we modellen in bij de stikstofcrisis, corona, de aardbevingen door gaswinning in Groningen, maar ook voor het voorspellen van wie misdaden gaat plegen. En de mensen komen daar pas achter wanneer het grondig fout loopt en het dus te laat is. Dit is een opstap naar een samenleving waarin het vertrouwen in de mens vervangen wordt door vertrouwen in technologie, een zogenaamde technocratie. Dat is een recept voor ellende.’

In het model om misdaad te voorspellen staken ook parameters die – laat het ons voorzichtig stellen – mogelijks racistisch waren.

MJ: ‘Dat moet je niet voorzichtig stellen, dat is gewoon zo.’

RM: ‘Dat kwam naar boven in een onderzoek van Follow the Money (website voor onderzoeksjournalistiek, red). Op basis van dat artikel heeft de politie overigens besloten om dat algoritme niet langer te gebruiken. Ik heb eerder dat soort grappen meegemaakt bij het voorspellen van recidive bij TBS-patiënten. De minister wilde daar graag een algoritme voor optuigen. Ik zat in de adviesraad en ben daar voor gaan liggen. Mensen verwachten veel te veel van dit soort instrumenten die een oordeel vellen.’

‘Een oordeel is menselijk. Eigenlijk moet iemand daar de verantwoordelijkheid voor nemen. Je kan daar wel modellen voor gebruiken, maar de eindbeslissing en dus ook de verantwoordelijkheid moet bij een mens liggen, niet bij het model. Marc en ik zeggen ook nergens dat je geen modellen mag gebruiken. Dat denken we soms wel eens stiekem, maar dat zeggen we nooit (lacht). Waar het op neerkomt is dat je als beleidsvoerder verantwoordelijk bent voor je keuzes en dat je moet uitleggen waarom je bepaalde dingen wel of niet doet.’

‘Daar schort het. Corona en stikstof zijn daarvan een mooi voorbeeld. Maar we vergeten nog wat er op ons afkomt: het klimaat. Dat is één groot modellencircus, waarvan ik nog wil zien wat er van al dat gemodelleer terecht gaat komen.’

Nochtans verscheen laatst een artikel waarin werd gezegd dat de modellen van de laatste 30 jaar de opwarming van het Klimaat perfect voorspelden.

RM: ‘Als men zegt dat de modellen van de laatste 30 jaar zijn uitgekomen, is dat aantoonbaar niet waar. Maar het is ook heel moeilijk om te verifiëren. Hoe doe je dat namelijk? De laatste 30 jaar hebben we tientallen modellen gezien rond klimaat en die hebben niet allemaal hetzelfde voorspeld. Misschien is er eentje dat in zijn voorspelling uitkwam op het niveau dat we nu zien.’

MJ: ‘Mensen zijn extreem goed in het zoeken naar patronen. We vinden ze waar ze zijn, maar ook waar we ze willen vinden. Waar we minder goed in zijn, is in zaken extrapoleren: vaststellen wat er in de toekomst kan gebeuren op basis van wat we nu zien. Maar het houdt ons wel enorm bezig. Modellen vervullen de behoefte om controle te krijgen op de toekomst. Het klimaat verandert, dat kunnen we met zekerheid vaststellen. De temperatuur stijgt. Je ziet ook dat er een verband lijkt te zijn met de aanwezigheid van CO2 in de atmosfeer.’

‘Maar we baseren onze modellen nu op 160 jaar aan data en een hoop veronderstellingen van wat voorheen is gebeurd. Op een planeet die vele malen ouder is. Daardoor missen we een heleboel context. Wat er nu gebeurt, is dat we gaan modelleren op basis van die 160 jaar aan data wat er in de nabije en verre toekomst zou kunnen gebeuren. Als je de IPCC-rapporten doorneemt zie je tientallen modellen met honderden uiteenlopende scenario’s. Sommigen daarvan zijn echt extreem.’

‘Het loopt niet fout bij de wetenschappers. Ik zie weinig wetenschappers die op een zeepkist gaan staan en roepen dat ze de waarheid in pacht hebben. Het loopt mis bij de media. Die proberen van alles los te frutselen om mee uit te pakken. Zo zie je dat ze nu veel aandacht besteden aan bosbranden. De mensen krijgen daardoor de indruk dat er meer bosbranden zijn dan vroeger. Maar als je naar de data kijkt, zie je dat er net minder zijn. Als mensen naar het nieuws kijken, lijkt het wel alsof de wereld vergaat. Terwijl we kunnen vaststellen aan de hand van data dat we alsmaar langer leven en welvarender worden. Dat is natuurlijk niet eerlijk verdeeld over alle continenten, maar door de band genomen is die tendens duidelijk.’

‘Nu geven we lukraak miljarden uit in de veronderstelling dat die iets gaan bijdragen. En daarom wordt er hard gerekend, want cijfers geven de schijn van een beetje zekerheid en moeten onderbouwen waarom we zoveel geld uitgeven. Uiteindelijk willen we ons de zekerheid in rekenen. Het is een hang naar controle in een wereld vol onzekerheid. Modellen vullen dat gat in onze ziel op. Een beleidsmaker kan zich daar perfect achter verschuilen, want als het niets oplevert kan die zeggen: “Ah, de wetenschap!”.’

Maar al die data waar u naar verwijst, daarmee kan je toch een rationeel verhaal opbouwen?

RM: ‘Rationele overwegingen zijn niet zo belangrijk. Wat mensen denken en waar ze bang voor zijn weegt veel zwaarder door. En dat is bij vlagen behoorlijk irrationeel. Ik heb al lang in de gaten dat in het publieke debat – of het nu gaat over covid of modellen – het geen zin heeft om je opponent met feiten om de oren te slaan. De overtuiging is te sterk.’

Heeft het dan nog zin om te debatteren?

RM: ‘Er is altijd een bepaald percentage van de bevolking dat ontvankelijk is voor rationele argumenten. Misschien is het voldoende om hen te overtuigen van wat er aan de hand is om het tij te keren. Maar de mensen tegen wie Marc en ik ons hebben uitgesproken tijdens de coronacrisis, konden we nooit met argumenten overtuigen. Het geloof zit te diep.’

Modellen zijn momenteel het einde van elk gesprek. Net omdat diegenen die er mee zwaaien stellen dat ze het sluitstuk zijn.

RM: ‘Dat is net de mythe die we willen doorprikken. Ik koester wel hoop, al blijft het moeilijk. Het geloof in de wetenschap is zo diep geworteld in onze cultuur. Ik spreek de laatste tijd steeds vaker mensen, krijg steeds meer reacties die die hoop levend houden. We kunnen met kleine stapjes best wel iets bereiken…’

MJ: ‘Heel langzaam. Ik wil toch ook even zeggen dat er weinig modellenbouwers waren die zich tijdens corona publiekelijk durfden uitspreken. Toch ben ik er zeker van dat ook zij zagen dat het ging om een gecreëerde werkelijkheid op basis van modellen. Dat zag je zo aan de grafieken: het ging om een alternatieve werkelijkheid. Maar je bijt niet in de hand die je voedt. Zoals je in het begin van het gesprek al zei: het is wel apart, modelleurs die kritiek geven op hun eigen business.’

Wat mij vooral bijblijft uit de coronacrisis is de angst en de lafheid binnen de academische wereld om tegen het officiële narratief in te gaan.

RM: ‘Die angst was niet onterecht. Ik ken verschillende voorbeelden van collega’s wiens contract niet werd verlengd omdat ze tegen het narratief ingingen. Er kwamen ook veel aangiftes en klachten tegen die mensen. Op sociale Media ontstond een STASI-sfeertje. Best wel beangstigend, hoor.’

MJ: ‘En toch moeten we ons daar over zetten. Want, zoals Ronald daarnet al zei, klimaat wordt het volgende. Het feit dat de WHO het klimaat al gekoppeld heeft aan gezondheid is de ultieme manier om weer met modellen uit te rekenen hoeveel we nog mogen vliegen en wat we nog mogen doen. Als er maar een cijfer komt, dan zal het wel waar zijn. Wij mensen laten dat ook toe. Omdat we te lui of te goedgelovig zijn om zelf eens na te gaan of dit allemaal wel klopt. Kinderen doen dat automatisch: die willen altijd weten waarom iets is zoals het is. Naarmate we ouder worden leren we om ons te conformeren, voelen we een vorm van schaamte voor die twijfel. In België is dat misschien nog meer dan in Nederland, want wij stellen nogal snel alles in vraag.’

‘Al bleef er van die Nederlandse identiteit weinig over tijdens corona. Er mocht niet meer getwijfeld worden. Dat is niet alleen de doodsteek voor de wetenschap, maar ook voor de vooruitgang die we als samenleving kennen en nastreven.’

Dat hele gedweep met ‘De Wetenschap’ en het verbod op twijfel doet me wel eens denken aan de inquisitie. In hoeverre is wetenschap verworden tot een nieuwe religie?

RM: (lacht) ‘Daar schreef ik vorig jaar nog een boek over: “Wetenschap als nieuwe religie”. Het begint met de overweging hoe wetenschap en traditionele religie eigenlijk op elkaar zijn gaan lijken. Ik zie allerlei parallellen en werk dan uit hoe dat onze beleving en behandeling van de coronacrisis heeft beïnvloed.’

‘Bij uitbreiding heeft het diepe geloof in modellen waar beleidsmakers bij zweren dus ook een religieus kantje. En net zoals vroeger zijn de twijfelaars de ketters.’

Dit artikel verscheen eerder in een uitgebreidere versie in het Doorbraak Magazine van september.