Artificiële Intelligentie (AI), zoals ChatGPT en Google Gemini, verovert scholen, bedrijven en gebruikers over de hele wereld. Hoogleraar Waarschijnlijkheidsrekening (VU Amsterdam) Ronald Meester en datawetenschapper Marc Jacobs (MSJ Advies) schreven met De onttovering van AI een pleidooi voor het gebruik van gezond verstand bij de inzet van AI in ons dagelijks leven. ‘Alleen de mens bepaalt of hij zich laat overnemen door deze technologie.’

Eerder al schreven beide heren samen een boek over het gevaar van het overmatig en onoordeelkundig gebruik van wiskundige modellen voor het voeren van beleid. Met de intrede van AI neemt het gevaar op een al te grote rol van technologie in de maatschappij weer toe.

Eerst en vooral: wat ìs volgens jullie Artificiële Intelligentie?

Ronald Meester: ‘AI is een volgende stap in de technologische ontwikkeling. In zekere zin is het business as usual, de normale vooruitgang. Maar AI heeft als bijzonder kenmerk dat het de illusie van menselijkheid opwekt, en dat is nieuw. Uiteindelijk is AI niets meer of minder dan een stukje technologie die je kan inzetten, maar waar het gevaar voor misbruik en ondoordacht gebruik veel groter is dan bij vorige technieken.’

Marc Jacobs: ‘Ik heb het wat moeilijker met het exact definiëren van AI, en dan vooral met het gedeelte ‘intelligentie’. Want daarmee kom je in het veld van wat ‘intelligentie’ is. Voor mij is AI voornamelijk het automatiseren van bepaalde taken, zoals het herkennen en maken van afbeeldingen en het vertalen van stukken tekst, waarbij er geen mens meer aan te pas komt. Dat gebeurt op basis van rekenregels en enorm veel computerkracht.’

RM: ‘Het is belangrijk dat we het woord ‘intelligent’ hier eigenlijk liever niet bij betrekken.’

Het gaat dus vooral over simpele wiskunde en brute rekenkracht?

RM: ‘Elementaire wiskunde. Het is niet zo simpel om dit allemaal te doen, zeker niet wanneer je vanaf nul moet beginnen.’

Ik zie toch dat veel mensen enorm gecharmeerd zijn door wat AI op dit moment al presteert. Tegelijk zie je dat er veel fouten worden gemaakt. Door ChatGPT geformuleerde antwoorden bevatten vaak nonsens. En de beelden die Gemini genereert doen de wenkbrauwen fronsen met teveel vingers… En als je beelden van Nazi’s wil genereren, krijg je enkel vrouwen en gekleurde mensen….

RM: ‘AI maakt fouten, maar zal steeds minder fouten maken. Dat is niet per se het probleem. Mensen maken ook fouten. Als je zaken vraagt aan ChatGPT, mag je het programma nooit geloven. Je moet die antwoorden steeds verifiëren. Vraag maar eens wie Winny Matheeussen is. (volgens ChatGPT is WM een niet onverdienstelijke wielrenner uit de jaren ’90 en 2000. WM heeft in die jaren geen fiets van dichtbij gezien, WM). Je krijgt waarschijnlijk de grootst mogelijke onzin te horen. Maar dat is niet mijn fundamentele kritiek.’

MJ: ‘De fouten die je nu ziet, gaan er in de toekomst uit. Kijk maar naar de evolutie die Google Translate de laatste tien jaar heeft doorgemaakt. Dat gaf vroeger een woord-voor-woord-vertaling die nergens op sloeg. Ondertussen houdt het rekening met grammatica en zinsopbouw.’

Het grote probleem van AI zit in blind gebruik zonder kritisch te blijven denken.

‘ChatGPT geeft inhoudelijk wel problemen, maar de antwoorden zien er vormelijk wel aardig uit. Waar het om gaat is dat je ChatGPT enkel kan gebruiken als je over de nodige kennis beschikt om de antwoorden te verifiëren. We tonen dat duidelijk aan in het tweede hoofdstuk van ons boek, waar we het programma een aantal opdrachten geven. Als je een opdracht geeft aan cursisten, zie je zo wie er ChatGPT heeft gebruikt. Die haal je er uit, omdat je de materie goed beheerst.’

‘Voor ons zit het grote probleem in het blind gebruik van technologie zoals AI, zonder kritisch te blijven denken en reflecteren.’

RM: ‘Het gaat er om dat je verantwoordelijkheid moet nemen voor wat er gegenereerd wordt. Als je dat kritiekloos door een AI-systeem laat doen, kán je eigenlijk geen verantwoordelijkheid nemen. Dat probleem is inherent aan AI, hoe veel beter het ook mag worden qua grammatica en presentatie. Zelfs als het inhoudelijk niet ‘liegt’, blijft het onpersoonlijk en leeg. Als je mij een vraag stelt, geef ik een antwoord waarbij ik beslis hoe ik antwoord, welke kennis ik wel of niet inzet. Dat is mijn keuze en die kan je niet aan een chatbot overlaten.’

Maar de technologie zal beter worden. ChatGPT schrijft nu al mooie teksten. Heb ik als journalist straks nog een job?

MJ: ‘Dat denk ik wel. Er zijn bedrijven die de vraag stellen of ze bepaalde taken kunnen overlaten aan AI. Maar een krant heeft een bepaalde ziel, een uitstraling en een kijk op de wereld. Met AI haal je dat weg, waardoor elke krant heel generiek zou worden. Het hele menselijke is er uit. Dat, in combinatie met de verantwoordelijkheidsvraag, zal, denk -en hoop- ik, leiden tot de conclusie dat het enkel een hulpmiddel is en de mens niet kan vervangen.’

RM: ‘Je kan de ziel van een krant niet definiëren door een vragenlijst te beantwoorden. Je kan het daar niet toe reduceren. Een ziel is ongrijpbaar en principieel nooit te bereiken met een AI-systeem.’

MJ: ‘Laatst hadden we in Nederland een radioprogramma dat volledig door AI was gemaakt. De gesprekken waren haast niet van echt te onderscheiden, maar ze waren wel inhoudelijk leeg. Er zit niets achter, het is een omhulsel. Een representatie, een simulatie van iets diepers. Maar wel een simulatie.’

‘Een interview is een gesprek, waarbij je allerlei interacties hebt en connectie probeert te maken. Het is iets typisch menselijks dat we proberen connectie te maken met dingen die niet levend zijn. Dat is een illusie. Daar zit ook het gevaar. Het lijkt makkelijk om dat te doen, maar dat gemak heeft een prijs. Je verliest voor een stuk jezelf als mens.’

Wat de verantwoordelijkheid betreft: die vraag is er ook bij zelfrijdende auto’s. Wie is er verantwoordelijk voor een ongeval? Het systeem, de ontwerper of de persoon die beslist om zich over te geven aan AI?

RM: ‘Dat blijft in elk geval een mens. Om verantwoordelijkheid te nemen heb je een brein en bewustzijn nodig. Je kan zeggen dat het algoritme de keuze heeft gemaakt, maar het is een mens die heeft bepaald hoe het tot die keuze komt.’

Het algoritme maakt een keuze, maar de mens blijft er verantwoordelijk voor.

‘Verantwoordelijkheid is een complex juridisch begrip en dus voer voor juristen. Dat zal telkens van de context afhangen. Maar wie het ook mag zijn, het zal altijd een mens zijn.’

MJ: ‘Verantwoordelijkheid gaat gepaard met kennis. Je moet weten waar je verantwoordelijkheid voor neemt. Daar zie ik een groot probleem: AI wordt te makkelijk ingezet, zonder het besef van hoe het werkt of wat het wel en niet kan. Het probleem is dat AI enorm breed kán worden ingezet. Dat geeft het principe van verantwoordelijkheid een nieuwe dimensie.’

‘Laat me een voorbeeld geven: het stikstofprobleem in Nederland en Vlaanderen. Binnen die problematiek is een model juridisch bindend gemaakt. De rechter heeft gezegd dat je pas een vergunning kan verlenen aan een bedrijf nadat alle gegevens door een model zijn gehaald. Dat model krijgt dus een enorme rol in de samenleving. Je zal dat ook zien bij zelfrijdende auto’s. Algoritmes krijgen een steeds grotere plaats, hun rol wordt groter en zo krijgen ze ook steeds meer macht. Maar with great power comes great responsibility. En die verantwoordelijkheid ligt bij ons allemaal, dus zeker ook bij de gebruiker.’

We hebben de laatste tijd gezien dat politici graag gebruik maken van technocratische oplossingen. Denk maar aan die stikstofmodellen, het CST tijdens corona, trajectcontroles en geautomatiseerde boetes. De burger lijkt zich daar tot nu toe makkelijk bij neer te leggen.

RM: ‘Daar zit inderdaad het grootste gevaar. We schrijven dit boek niet voor niets.

MJ: ‘Heel veel zaken worden inderdaad al langer geautomatiseerd. En daar heb je niet eens AI voor nodig. In automatisering zitten heel wat fouten. Dat zag je bij ons bij de toeslagenaffaire (de overheid spoorde via een model ‘fraudeurs’ in de sociale zekerheid op en beroofde zo veel kwetsbare mensen onterecht van een uitkering, nvdr.) en bij de stikstofproblematiek. Blinde automatisering kan tot haast onherstelbare fouten leiden en blind automatiseren via modellen is gewoon vragen om problemen. We kunnen technologie nog zo indrukwekkend maken als we willen, wanneer we zelf de zaken niet verifiëren en alles overlaten aan technologie, brengt automatisering gewoon ellende.’

‘Het valt op dat overheden er makkelijk mee aan de slag gaan. Bij bedrijven werkt dat anders. Zij hebben een duidelijk doel: kosten terugschroeven of de rendabiliteit opschroeven. Ik merk in mijn beroepsleven dat ze veel omzichtiger omgaan met technologie. Daar waar de overheid de maatschappij durft te gebruiken als één grote testomgeving waar ze dan later wel zien of het goed uitdraait. Blijkbaar komen ze daar ook makkelijk mee weg.’

Sociale kredietscores mogen niet van de Europese AI-act, tenzij die ten dienste staat van de nationale veiligheid…

‘We hebben nu in de EU de AI-act. Eigenlijk een wassen neus. Maar daar staat wel in dat ze opzij geschoven kan worden als de nationale veiligheid in het gedrang komt. Sociale controle, biometrische controle en sociale kredietscores mogen niet, tenzij die ten dienste staan van de nationale veiligheid. Dat betekent dat de overheid als eerste mag snoepen van wat er op dat gebied allemaal mogelijk is.’

RM: ‘Het mag duidelijk zijn dat de overheid autoritaire neigingen heeft. Ik ben wat dat betreft mijn naïviteit verloren tijdens de coronacrisis. Maar als wij, als bevolking, dit niet accepteren, gebeurt het ook niet.

In jullie boek geven jullie duidelijk de hoop mee dat de burger het niet zal accepteren en in opstand komt. Of toch minstens zal aandringen op een stevig debat. Is dat geen ijdele hoop?

RM: ‘Iedereen lijkt inderdaad te slapen. Net daarom schrijven wij dit boek: om de burger bewust te maken van wat er gebeurt en wat de daaraan verbonden gevaren zijn. Van de overheid zelf zal het niet komen. De overheid gaat door, zolang niemand protesteert. Dat heb ik echt wel geleerd.’

‘Al maak je maar vijftien procent van de burgers bewust, dan heb je al een grote macht die iets kan betekenen. En misschien kunnen we zo veel onheil voorkomen. Al bestaat het risico dat we foute keuzes maken die we dan weer gaan moeten terugdraaien. De kern van de boodschap is dat we zelf als mens bepalen of en hoe we ons aan de technologie overleveren. Technologie gaat het niet van ons overnemen, zolang we dat niet toestaan. Die verantwoordelijkheid ligt bij onszelf.’

MJ: ‘Die hoop dat we het niet zover laten komen, hebben we nodig. Ons boek is geen dwingende preek, maar een poging om uit te leggen hoe het nu zit met die aanstormende technologie. De keuze ligt bij de gebruikers. En er is hoop. In Nederland zijn een aantal partijen groot geworden, net omdat ze zich tegen die technocratie hebben verzet in het kader van de stikstofproblematiek en nu ook de klimaatcrisis.’

Waarschijnlijkheidsrekening

De gevaren van AI: ‘Het mag duidelijk zijn dat de overheid autoritaire neigingen heeft’