Surveillancekapitalisme

Artificiële intelligentie zal onze wereld veranderen, zoals de stoomtrein en het internet dat eerder al deden. Ik weet niet of we daardoor met zijn allen gelukkiger zullen worden, maar zonder dat internet had ik dit stukje niet geschreven en had het u, beste lezer, niet bereikt.

Zelf gebruik ik bijna dagelijks Grok en ChatGPT om gebrekkige informatie uit mijn krant aan te vullen. Ik lees in De Morgen (4/9) dat Grok door manipulatie van Elon Musk onbetrouwbare antwoorden geeft. Als je vraagt wat het gevaarlijkst is: links of rechts extremisme, dan antwoordt Grok dat het dat van links is. Ask a silly question, get a silly answer. Ik heb daar geen last van, want ik stel alleen informatieve, feitelijke vragen. Verder zijn er allerlei AI-toepassingen waar ik niets van merk, maar die zich op de achtergrond afspelen. Ook daar ben ik gerust in: als ik er niets van merk, kan het ook niet erg zijn. Ik slaap op mijn twee oren.

Mijn gedrag geautomatiseerd

Dat is zonder De Standaard gerekend, waar ik wel vaker gewaarschuwd wordt voor allerhande gevaren. Op de opiniepagina’s van 5 september stond een stuk van Tim Brys, doctor in de artificiële intelligentie, iemand die al eens eerder geprobeerd heeft om mijn gemoedsrust te verstoren. De titel is meteen raak. De totalitaire hel van Silicon Valley. En de eerste zin verduidelijkt: ‘Big tech bedreigt niet alleen onze privacy, maar ook onze vrijheid.’ Dan lees je het stuk en wat blijkt: grote bedrijven zetten AI in om ons hun producten en diensten aan te bieden middels gerichte advertenties.

Dat is waar, en ik heb het zelf ondervonden. Die bedrijven zijn op geheimzinnige wijze te weten gekomen dat ik iets met piano’s heb en sturen mij voortdurend reclame voor piano’s en pianolessen. Wel, als dat het ‘surveillancekapitalisme’ is: big deal! Of in het Latijn: parturiunt montes, nascetur ridiculus mus. (veel geblaat en weinig wol, red.)

U gelooft mij niet. Lees even mee.

‘Het surveillancekapitalisme is dus niet alleen een enorme inbreuk op onze privacy, maar ook een globaal systeem van gedragswijziging. We ruilen niet alleen onze privacy in voor gratis internetdiensten, maar ook onze vrijheid. Surveillancekapitalisten willen uiteindelijk ons gedrag zo veel mogelijk automatiseren. Hoe voorspelbaarder we zijn, hoe zekerder ze weten welke advertenties zullen werken en hoe meer geld ze aan ons verdienen. Zo wordt onze individuele vrijheid ondermijnd én de democratische systemen die erop gestoeld zijn.’

Maar die automatisering van mijn gedrag zal niet lukken, vrees ik. De keuzes zullen zichzelf niet maken. Ik zal zelf moeten blijven kiezen, en dat binnen mijn financiële mogelijkheden. Ik zal mijn geld niet uit onweerstaanbare dwang uitgeven om een betere piano te kopen dan degene die ik heb. Ik kon die in feite al niet betalen.

Ook zijn er verschillende pianobedrijven die mij hun instrument willen aansmeren, en mocht ik het geld hebben, dan moet ik nog altijd kiezen bij wie van hen ik mijn bestelling plaats. Zo voorspelbaar ben ik dus niet. De manipulatietechnieken van pianobedrijf A worden gecompenseerd door die van pianobedrijf B, waardoor mijn vrije keuze hersteld is. En ik krijg ook nog advertenties van allerlei andere bedrijven die mij iets helemaal anders willen verkopen, zodat ik alweer zelf moet nadenken hoe ik mijn budget over al dat lekkers zal verdelen – terwijl er nóg andere bedrijven zijn die mij aanraden om helemaal niets te kopen en mijn geld bij hen te beleggen. Ik krijg er keuzestress van.

Wat mij ongerust maakt

Wat mij eigenlijk ongerust maakt, is niet AI, maar stukken als dat van Tim Brys. ‘Alleen strenge regelgeving kan ons redden.’ We moeten de Amerikaanse technologie proberen te reguleren, zoals de EU dat doet met haar GDPR en met verordeningen zoals de Digital Service Act en de Digital Markets Act. Alles dus volgens het beginsel: Amerika innoveert, Europa reguleert.

Technische vooruitgang brengt risico’s met zich mee, zeker, en we moeten bepaalde voorzorgen nemen, dat klopt. Het verhaal dat we hoorden op de lagere school schijnt waar te zijn: in de 19de eeuw was men werkelijk ongerust dat het gedreun en het geluid van de stoomtrein, en zijn onnatuurlijke snelheid, de koeien zo aan het schrikken zouden brengen dat ze geen melk meer zouden produceren. Maar die ongerustheid bleek voorbarig. We zijn te vaak ongerust, over de verkeerde zaken. Maarten Boudry schrijft in Het verraad aan de verlichting:

‘De waarheid over onze technologische stagnatie: we hebben haar over onszelf afgeroepen. Alleen al door de heiligverklaring van het voorzorgsbeginsel en de navenante overregulering hebben we enorme kansen gemist.’

Maar sommige gevaren zijn reëel. Tim Brys wijst op één ervan als hij schrijft dat ideologen en propagandisten van AI gebruik kunnen maken om mensen efficiënter te manipuleren. Dat is waar: vooruitgang laat toe om slechte dingen beter uit te voeren. Maar het allergrootste gevaar schuilt in de mogelijkheid die de overheid krijgt om AI in te zetten op een manier waarmee ze haar burgers kan manipuleren, disciplineren en bespioneren.

In de gevangenis

Het zijn niet de ‘kapitalisten’ met hun ‘gerichte advertenties’ die onze vrijheid bedreigen. Zij kunnen ons alleen iets verkópen. Maar de staat kan ons in de gevangenis steken omdat we naar kinderporno kijken, omdat we vluchtmisdrijf plegen, omdat we radicaliseren, omdat we tijdens een epidemie geen mondmasker dragen of naar een feest gaan, omdat we een sigaret roken op een terras, omdat we alcohol drinken op een personeelsfeest, omdat we haatboodschappen of fake news verspreiden, omdat we opkomen voor Palestina of Israël, omdat we de maatschappij polariseren. Wat vandaag niet bij wet verboden is, kan het morgen wel zijn. En dan staat AI klaar om een en ander te implementeren.

De regulering door de EU is dus niet alleen een rem op de vooruitgang, ze opent ook mogelijkheden voor een dictatoriale staatsmacht – waar Brys heel even naar verwijst door ‘China en Rusland’ te vermelden. Bij ons in Europa moeten we maar denken aan de discussie rond Chat Control. Om de strijd tegen online kindermisbruik te voeren had de Europese Commissie aanvankelijk een voorstel geformuleerd waardoor de overheid onze privémails en chatberichten kan lezen.

Het ergste is dat zulke voorstellen niet alleen voortkomen uit perverse machtswellust, maar ook uit het lovenswaardige voornemen om de misdaad te bestrijden, de volksgezondheid te bevorderen of de maatschappelijke samenhang te bewaren. Die doelstellingen zijn veel hoogstaander dan die van op winst beluste pianoverkopers. Ze zijn ook veel gevaarlijker.