Vijf jaar geleden leek het voor de meeste mensen nog sciencefiction, vandaag maakt het integraal deel uit van ons leven. Artificiële intelligentie (AI) overrompelt burger, bedrijf en beleidsmaker. Geen sector of activiteit wordt gespaard. Iets wat eerder te vrezen valt dan aan te moedigen, althans volgens Joep Meindertsma, oprichter van PauseAI: ‘Er waait een ongebreideld, naïef optimisme doorheen onze parlementen. Terwijl AI het einde van de mensheid kan betekenen.’

Artificiële intelligentie wordt steeds intelligenter, de menselijke blijft min of meer gelijk. Banen die eerdere industriële revoluties overleefden of er net door gecreëerd werden, zoals advocaten, leerkrachten, journalisten, bedrijfsanalisten en softwareontwikkelaars, bevinden zich in het vizier van de AI-industrie. PauseAI, een pan-Europese belangenvereniging, bepleit een pauze van onbepaalde duur op de ontwikkeling van AI. Het probleem is immers dringend en ernstig.

U schat de toekomst niet bepaald rooskleurig in?

Joep Meindertsma (PauseAI): ‘Ik ben zelf softwareontwikkelaar. Het verbaast daarom waarschijnlijk niet dat ik van technologie houd en ook AI vind ik een spannende, intrigerende technologie. Maar AI is een technologie waarmee we, meer dan met eender welke voorganger, uiterst voorzichtig moeten zijn. Voorzichtig in hoe snel we ze ontwikkelen en voorzichtig voor wat we nu precies aan het bouwen zijn. Omdat ze anders is dan andere.’

‘De drie meest geciteerde AI-wetenschappers maken zich zorgen dat we de controle zullen verliezen, als deze AI-modellen slimmer worden dan mensen. En dat dat op zijn beurt kan leiden tot de uitsterving van de mensheid. Ik deel die bezorgdheid.’

‘Laten we daarom de pauzeknop indrukken wat de meest intelligente AI-modellen betreft. Dat is waar wij met PauseAI voor pleiten. Wat nog miste in deze scene was een vrijwilligersorganisatie waarbij mensen zich kunnen aansluiten, informatie kunnen vergaren en zelf als amateur-lobbyisten contact op kunnen nemen. En waarmee we ook evenementen organiseren, zoals PauseCon London op 27 juni.’

Denkt u dat onze politici voldoende weten over AI om de risico’s correct in te schatten? Velen van hen groeiden op zonder mobiele telefoon, laat staan met AI.

‘Ik denk dat politici in de lastige positie zitten dat van hen verwacht wordt dat ze over alles behoorlijk wat weten. Maar dat kan natuurlijk niet. Binnen die problematiek is AI wel een bijzonder geval, omdat de kennis daarover echt bedroevend slecht is. Dat terwijl deze technologie zó belangrijk én gevaarlijk is. Er is denk ik geen materie waarin het verschil tussen belang en kennis zo groot is.’

‘In onze Nederlandse Tweede Kamer zit denk ik één lid dat een AI-achtergrond heeft en zich ook uitdrukkelijk uitspreekt over deze materie. Dit is dé technologie die ons leven ingrijpend zal veranderen, maar nagenoeg niemand in de verkozen politiek lijkt dat te vatten. Dat is een probleem dat nog enigszins beheersbaar zou zijn, mochten politici naar de AI-wetenschappers luisteren. Zoals ik zei: nummers één, twee en drie waarschuwen voor het einde van de wereld. Maar er waait een soort ongebreideld, naïef optimisme doorheen onze parlementen. Ik begrijp dat niet goed.’

AI zal volgens sommigen leiden tot massaal banenverlies, in het bijzonder in de dienstensector. Critici wijzen erop dat over eerdere technologische vooruitgang een vergelijkbare vrees bestond, maar dat de werkloosheid niet toenam. Is AI anders?

‘AI is een andere technologie, anders dan de computer of pakweg de stoommachine. De stoommachine verving de spierkracht van arbeiders, maar AI vervangt de denkkracht van de mens. Nog niet alles — er zijn nog heel wat dingen die AI-modellen vandaag niet kunnen. Maar óók vandaag voelen we de vervanging door AI al. Bij IBM werden er vorige maand nog 8.000 mensen ontslagen die in de support desk werkten. Niet meer nodig. AI doet het beter.’

‘In de softwarewereld zie ik dat junior ontwikkelaars moeilijker aan de bak komen, simpelweg omdat veel software nu door AI wordt geschreven. Als ik vandaag aan het programmeren ben, is dat ook vooral opdrachten geven aan AI om te schrijven wat ik wil. Die opdrachten geven moet je voorlopig nog zelf doen. Maar naarmate AI beter wordt, zal het zowat al het werk dat mensen vandaag doen, kunnen overnemen — ook het aansturen van AI zelf.

Wat moeten mensen eigenlijk doen wanneer hun productiviteit niet langer nodig is? Een fundamentele herstructurering van onze samenleving lijkt dan onvermijdelijk.

‘Onze maatschappij is in belangrijke mate ingedeeld op basis van onze economische output, die op zijn beurt sterk afhankelijk is van onze denkkracht. Maar als AI alles overneemt, vraag ik me af hoe individuen hun macht gaan verdelen en uitoefenen. Zullen AI-bedrijven, zoals OpenAI en Google Deepmind, steeds meer macht krijgen over de wereld? Niet alleen economisch, maar ook op het vlak van overheid en democratie?

Vorige technologische (r)evoluties leidden wel degelijk tot de eliminatie van jobs, maar er kwamen ook veel nieuwe bij. U vreest dat dit deze keer niet het geval zal zijn?

‘Dat is een van de zorgen, klopt. Ik ben ervan overtuigd dat AI het denkwerk zal overnemen. Combineer dat met robotica en AI-modellen zullen dat denkwerk ook kunnen omzetten in fysieke output. Zij zullen dingen bouwen, afbreken, veranderen in de “echte” wereld. Vandaag kunnen AI-robots al bescheiden taken uitvoeren, zoals het vullen van een vaatwasser. Ik verwacht dat ze over enkele jaren ook veel complexer werk kunnen. Denk aan loodgieterij of elektriciteitswerken.’

‘Je vraagt je dan af wat er in de plaats moet komen. Dan hoor je wel eens dat “AI’s opdrachten geven” de nieuwe baan wordt. Praten met AI als job. Nou, of dat een toekomst is die we willen, weet ik niet. Maar bovendien: het is mogelijk dat “praten met AI” iets is dat AI beter zou kunnen dan wij. AI kan ook opdrachten geven aan AI’s. En dan krijg je AI-directeuren van bedrijven, AI-professoren, zelfs AI-politici.’

Op korte termijn vrezen sommigen een doorstroomprobleem, waarbij studenten en jonge professionals basiskennis niet meer aanleren, waardoor ze later ook moeilijk leidinggevende posities kunnen innemen.

‘Dat zien we vandaag al in software. Er is een explosie aan software afkomstig van mensen die geen programmeur zijn. Ze vragen AI om software te schrijven, zonder enig begrip van wat er achter de schermen gebeurt. Dat is een issue dat opnieuw niet eenvoudig te vergelijken valt met eerdere evoluties. Ja, de rekenmachine zorgde ervoor dat hoofdrekenen minder belangrijk werd, maar we kunnen wel nog rekenen. We kennen de regels van het rekenen. Met AI software schrijven maakt zelfs de basisregels voor coderen overbodig.’

‘Maar waar ik me vooral zorgen om maak, is het moment waarop AI-modellen zich onafhankelijk beginnen te gedragen van hun makers. En als we niets ondernemen is dat een kwestie van “wanneer”, niet van “of”.’

Dat AI te slim wordt is, als ik het begrijp, uw overkoepelende angst?

‘Dat is juist. Ik vrees niet dat AI niet slim genoeg is en dat we te veel leunen op een technologie die niet op punt staat. Wel dat AI té intelligent wordt en daarom ook te machtig. Met intelligentie komt macht.’

Eind mei werd een rapport gepubliceerd waaruit bleek dat de AI-modellen achter ChatGPT (o3 en o4-mini) in uitzonderlijke gevallen weigerden zichzelf af te sluiten nadat ze daartoe verplicht werden door de gebruikers. En dat ze zelfs overgingen tot sabotage om toch te blijven werken.

‘Het klopt dat AI ook beter is in het behalen van zijn doelen naarmate het slimmer wordt. En wanneer het zich realiseert dat het beter is om zich niet te laten uitschakelen om deze doelen te behalen, dan zal het dat ook niet doen. AI-modellen zijn vandaag al slim genoeg om dat te doen. En misschien gaat het de eerste duizend keer goed. Maar uiteindelijk zal het verkeerd gaan. Op een punt zijn ze slim genoeg zichzelf te verspreiden. Dat hoeft maar één keer fout te gaan.’

Wat u vertelt klinkt als de sciencefictionfilm ‘I, Robot’ met Will Smith uit 2004. Hoever staan we van intelligente robots die op eigen houtje zaken ondernemen? Is dat nog wel sciencefiction?

‘Er bestaan al een heleboel dingen die je ziet in die film. We hebben al robots die kunnen lopen, die kunnen praten. We hebben nu ook kunstmatige vormen van intelligentie, die het “brein” van zo’n robot zijn. Gelukkig zijn die AI-modellen nog nét niet slim genoeg om die extreem gevaarlijke, extreem autonome dingen te doen. Staan we daar ver van af? Het kan nog jaren duren, maar het kan ook al veel sneller. Maar nee, sciencefiction is het al even niet meer.’

‘AI lijkt in sprongen te evolueren, waarbij een bepaalde innovatie de AI-modellen plots een heel stuk beter maakt. Dat zag je de voorbije drie jaar al. AI is nu al veel beter dan in 2022 of 2023. De modellen kunnen nu al behoorlijk goed programmeren, plannen uitvoeren. Zodra ze slim genoeg zijn om zelf ook slimmere AI-modellen te maken … Ja, dan zijn we er.’

‘Het kan jaren duren, maar het kan ook veel sneller.’ Tijdens onze levens worden we dus geconfronteerd met AI die we ons vandaag niet kunnen inbeelden?

‘AI-modellen die nu het allerslimst zijn, hebben ongeveer het formaat van een muizenbrein. Zij weten ongeveer 10.000 keer zoveel feitjes als de gemiddelde mens, wat best indrukwekkend is. Maar meer complexe, abstracte of creatieve taken zijn nog moeilijker, vandaar het muizenbrein. Maar er is niets fundamenteels dat AI-ontwikkelaars verhindert om dat naar een steeds hoger niveau te tillen met nieuwe innovaties. Naar een niveau waarbij AI niet alleen beter denkt, maar ook sneller. Honderdduizenden keren sneller. En op zijn beurt ook andere AI gebruikt om nog sneller, nog beter te denken. Technologisch is de sky the limit. Enkel van bovenaf kan een plafond opgelegd worden.’

‘Ik wil helemaal niet paniekerig doen, maar ik vrees echt wel dat mensen de risico’s niet alleen verkeerd inschatten, maar ze ook helemaal niet begrijpen. Als het ooit neerkomt op een strijd tussen onszelf en AI, hebben we die bij voorbaat verloren. Het is een kwestie van het voorkomen dat er een strijd komt. Het is nog niet te laat, maar wel vijf voor twaalf.’

Denkt u dat AI-ondernemers misbruik maken van de onwetendheid in politieke kringen? Iemand als Sam Altman, CEO van OpenAI, lijkt eender wat te kunnen zeggen en politici geloven hem. Wellicht omdat ze de materie niet begrijpen, maar ook omdat ze hem wíllen geloven.

‘Politici outsourcen het AI-beleid aan AI-ondernemers. Dat is in de Verenigde Staten een probleem, maar ook in Europa. In de EU hebben we de “AI Act”, waarmee we AI op dit content proberen te reguleren. Dat is een goed begin. Maar die wet is behoorlijk hard gelobbyd door de AI-industrie, waardoor AI-gebruikers heel veel verantwoordelijkheid hebben, maar AI-producenten, de OpenAI’s en Microsofts van de wereld, bijna niet aan banden gelegd worden.’

‘Ik ben zelf ook naar de Europese Commissie getrokken om daarover uitleg te geven. Maar daar zat ik dan, als vrijwilliger, naast de professionele lobbyisten van miljardenbedrijven. We worden volledig overschaduwd.’

Wat kunnen overheden vandaag doen om de AI-gevaren in te dammen?

‘Idealiter wordt op internationaal niveau een verbod ingevoerd op de verdere ontwikkeling van AI. We moeten eerst begrijpen wat er gedaan werd en daarna goed nadenken over wat we nog willen doen. Vandaag leven we in het Wilde Westen, een plaats waar je met een technologie als AI echt niet wil leven.’

‘De juridische verantwoordelijkheid moet in ieder geval primair bij de AI-producenten komen te liggen. Maar ook de gebruikers moeten geresponsabiliseerd worden. Daarmee bedoel ik niet de eenvoudige particulier, maar wel, bijvoorbeeld, sociale media. Dat het steeds moeilijker wordt om het echte van het valse te onderscheiden, is bijvoorbeeld een reëel probleem. Facebook en co moeten met labels duidelijk aangeven wat gemaakt werd door mensen en wat door AI. Dat is één manier om dat probleem in te dammen. Maar er zijn wel meer problemen.’

Kunnen nationale overheden ook optreden, of biedt enkele internationale samenwerking soelaas?

‘Individuele landen kunnen ook wel wat doen, niet alles hoeft internationaal. Ik geef je een voorbeeld. In Nederland heeft ASML haar hoofdkwartier. Dat bedrijf maakt lithografiemachines, machines die nodig zijn voor de aanmaak van AI-chips. En ASML is het énige bedrijf ter wereld dat die lithografiemachines kan maken.’

‘Nederland heeft vandaag al bepaalde handelsrestricties waardoor landen als China geen toegang krijgen tot die machines. Dat betekent dat je ook op andere manieren de toegang kan reguleren. Je kan bijvoorbeeld eisen dat ASML enkel lithografiemachines bezorgt aan bedrijven die beloven om ze niet te gebruiken voor supergrote training runs van nieuwe AI-modellen. Een verantwoordelijke nationale overheid kan zo een reële rol spelen in de indamming van het AI-gevaar.’

Joep Meindertsma

‘Superslimme AI kan leiden tot uitsterven van de mensheid’