Surveillance-capitalism

De politiek heeft steeds minder greep op de ethische en technologische ontwikkelingen van bedrijven. Steeds meer vervalt het politiek bestel in een bedrijfsgegeven. Vooral in de tech- en big datasector is dit het geval. Regeringsleiders en burgers kijken machteloos toe hoe het politieke speelveld zijn legitimiteit verliest.

Het fenomeen

Technologie ontwikkelt zich razendsnel. Wetten moeten door een amalgaam van stappen vooraleer ze van kracht worden. Zo ontstaan er ‘legal gaps’, ruimtes zonder wetten, waarin de politiek geen poot heeft om op te staan. Hoe gaat men om met deze wetteloosheid. Buiten de wet kan immers alles?

Data verzamelen en gebruiken zonder medeweten van de datagever, beïnvloeding van kiezers via internet, robots en autonome wagens ontwikkelen die ethisch niet getoetst zijn, artificiële intelligentie die wie weet ooit zichzelf aanleert om alleenheerser te worden; dit zijn maar enkele voorbeelden van wat er gebeurt in absolute vrijheid.

Google sprong bijvoorbeeld in deze ruimte door massaal data te beginnen verzamelen, initieel via Google Street View. Dit creëerde een nieuw soort mechanisme dat een shift in politieke macht teweegbracht. Dit mechanisme is gesteund op ‘data-extractie en analyse’, ‘nieuwe contractvormen vanwege betere monitoring’, ‘personalisatie en maatwerk’ en ‘continue experimenten’.

In deze gaat het om een eenzijdige onttrekking van data via computer-gemedieerde economische transacties of via privé- en publieke bewakingscamera’s om deze vervolgens te analyseren. De eenzijdigheid houdt een afwezigheid van toestemming of dialoog in met de individuen die de data leveren. De analyse omvat ‘reality mining’ en analyse van levenspatronen. Zo voorziet men mensen van gepersonaliseerde zoekresultaten en advertenties. En het gaat zelfs verder. In plaats van Google vragen te stellen, moet Google weten wat je wil en het je vertellen voordat je de vraag zelfs stelt.

Een nieuwe, pervasieve macht

Tevens kunnen transacties nu via het netwerk zelf gecontroleerd worden. Zo kunnen we gedrag observeren dat voorheen niet waarneembaar was en op basis daarvan contracten schrijven. Via geolocatie, foto’s en tijdstempels kan een verzekeringsmaatschappij monitoren hoe veilig een chauffeur rijdt en zo zijn premie aanpassen of schade vaststellen. Zo vervalt de rol van de overheid tot een controlemechanisme dat vertrouwen zelf overbodig maakt.

Deze architectuur produceert dus een pervasieve vorm van macht die onbetwist blijft net omdat men verbonden is met elkaar via een communicatienetwerk. Deze nieuwe uitdrukking van macht ontstaat door een vorm van sociale controle door dit netwerk die mensen verhindert een bepaald gedrag te uiten. Door op deze manier meer voorspellend te handelen, produceert men een nieuwe markt die gedragsvoorspelling gebruikt om prijzen en producten op maat aan te bieden.

De bevolking wordt zo de rechtstreekse bron van de gegevens en het uiteindelijke doel van de hulpprogramma’s die dergelijke gegevens produceren. De onverschilligheid waarmee dit monster doordraaft is op zijn minst ongerust te noemen.

Deze machine, die ook wel ‘surveillance capitalism’ wordt genoemd door Shoshana Zuboff in haar artikel Big other: Surveillance Capitalism and the Prospects of an Information Civilization, bedreigt de autonomie van de burger en zo ook de democratie.

Bewustzijnswording

Klokkenluider Edward Snowden legde reeds bloot dat deze surveillance-machine onvoldoende begrensd is. Publieke en private begrenzing ontbreken. Publiek omdat er nauwelijks samenwerking is tussen veiligheidsautoriteiten en techbedrijven. Databegrenzing heeft immers een negatieve invloed op de winsten. Techbedrijven hebben geen baat bij een strenge politiek.

Privaat omdat burgers afhankelijk geworden zijn van techbedrijven om hun sociale contacten te onderhouden. Het sociale dier blijkt onverschillig voor deze digitale evolutie omdat hij er te veel de vruchten van plukt. Het gebruikscomfort en uitbesteding van vertrouwen zijn belangrijker dan privacy.

Die uitbesteding bestaat eruit dat een derde partij, bijvoorbeeld eBay, garant staat voor een bepaalde zekerheid. Iemand die iets online wil kopen of verkopen spaart zo de kost uit die gepaard gaat met het controleren van een derde partij waarmee men zaken doet. Schijnbaar zijn er meer mensen die hier baat bij hebben dan er het slachtoffer van zijn.

Dit gegeven doet het geloof in zichzelf en in de politiek geen goed. Men beseft immers dat men de teugels niet meer in handen heeft. Politici staan niet meer aan de knoppen. De technologische industrie lijkt de wetgever van morgen. De politiek lijkt enkel te kunnen toekijken. Uit recentelijk puik werk van onderzoeksjournalisten van De Tijd blijkt dat Amerikaanse techstart-ups in Silicon Valley onder meer gesponsord worden door Saoedi-Arabië. Een land dat holebi’s crimineel vervolgt en vrouwen discrimineert, bepaalt mee ons doen en laten van morgen.

Pleidooi voor zorgvuldigheid

Kunnen wij ons aan deze evolutie aanpassen? Moeten wij ons aanpassen? Kunnen we ook gewoon neen zeggen tegen dit alles? Is het niet logischer dat technologie zich aanpast aan ons, op een tempo dat wenselijk en haalbaar is voor mens en maatschappij?

Als we eerlijk nadenken, moeten we toegeven dat de politiek weinig voeling heeft met technologie. In de marge wordt er wel onderhandeld omtrent overheidstoezicht maar verder dan de GDPR-wetgeving en boetes is het nog niet gekomen. Bij de GDPR ging het om meer transparantie, juistheid en vertrouwelijkheid. Data mocht enkel nog gebruikt worden naargelang een welbepaald doel. Het draaide dus rond een minimale gegevensverwerking en een beperkte bewaartermijn.

Het transparantie-aspect is alvast een eerste stap naar meer bewustzijn van de burger omdat deze zo zicht krijgt op welke manier en in welke hoeveelheid data verzameld wordt. Hij kan zich inlichten wie zijn data gebruikt en hoe, en kiezen geen gebruik te maken van een dienst als hij het hier niet mee eens is. In de praktijk heeft men echter vaak geen andere keuze dan bepaalde software of cookies te gebruiken.

De controle van het naleven van deze wetgeving is tevens nog onder constructie en is deels uitbesteed. Overtreders worden bestraft met geldboetes die amper effect hebben op hun omzet. Het is dus grabbelen in de marge. Uiteraard is het ontwerpen van nieuwe regelgevende instituties een complexe zaak net omdat de politiek te weinig informatie bezit over het fenomeen en men nog niet over het juiste gereedschap beschikt om het aan te pakken. Dialoog lijkt dus wel op zijn plaats.

Rol van de overheid

De politiek dient duidelijke grenzen te stellen aan hoe ver technologie mag gaan. Het kan niet louter draaien om technologisch vooruit te gaan; we moeten als samenleving verder, en daarbij blijven bestaan als morele agenten. Zowel op ethische, economische als sociale gronden dient de politiek hier paal en perk te stellen.

Wat hiervoor bij iedere nieuwe ontwikkeling ontbrak, is een deftige ‘due diligence’, een term gebruikt door de investeringswereld. Men duidt hiermee op gepaste zorgvuldigheid, dit wil zeggen zorgvuldigheid naargelang de inzet, normerend naargelang het handelen en controlerend naargelang de uitkomsten.

Het draait dus om meer dan een kosten-batenanalyse. Er wordt ook met andere waardes rekening gehouden. Er wordt voldoende en adequate informatie verzameld om een risicoanalyse te maken van eventuele systeembedreigingen en te onderzoeken wat er effectief op het spel staat.

Een gebeuren naar de mogelijke morele implicaties van het middel richting het doel is hier op zijn plaats. Een degelijke due diligence waarbij moraalwetenschappers, filosofen, technologen en biologen de koppen samen steken en een verantwoording voorleggen van hun onderzoeken en bijhorende ontwikkelingen, zo kunnen we het heft weer in eigen handen nemen.

(R)evolutie

Op wat wacht de politiek om dit door de drukken? Het antwoord is op de stem van het volk. De samenleving dient zijn stem te verheffen om deze situatie om te draaien.

De politieke constellatie moet zichzelf heruitvinden door korter op de bal te spelen en een publieke ruimte te voorzien die deze problemen kan bespreken. De burger moet tevens beseffen dat hij met zijn data goud in handen heeft en dit niet zomaar te grabbel moet gooien. Denk dus twee keer na vooraleer je opnieuw een stravatocht deelt met je makkers of een zoekopdracht ingeeft.

Het parlement dient te transformeren tot een kenniscentrum dat permanent instaat voor de communicatie tussen bovenstaande actoren. Technologie brengt de mogelijkheid om een sneller en efficiënter democratisch beslissingsorgaan op poten te zetten. Dit kan echter enkel als men eerst ook beseft hoe potentieel bedreigend dit kan zijn voor individu en democratie. Pluraloog is de enige optie die op lange termijn ook maar enige kans maakt, en die ontstaat niet zonder ze op te eisen.

Enkel zo kunnen we garanderen dat het parlement inspraak krijgt in dit proces. Zo kunnen we ‘legal gaps’ vermijden en weer greep krijgen op de technologische ontwikkelingen. Enkel zo kan technologie een positieve impact hebben op mens, planeet en maatschappij.