ChatGPT lijkt plots overal. Dankzij deze gloednieuwe toepassing van artificiële intelligentie (AI) kunnen computers voortaan volledig autonoom eigen teksten maken en alle mogelijke vragen beantwoorden. Of we daar zo blij om moeten zijn als sommige techneuten of bedrijven nu laten uitschijnen, is nog maar de vraag. De Nederlandse filosoof en publicist Hans Schnitzler – die al jarenlang de impact van technologie op onze maatschappij bestudeert – toont zich ronduit ongerust. ‘Er staat bijzonder veel op het spel.’

‘Dit is het iPhone-moment voor AI’, klonk het deze week bij een enthousiaste techneut, toen het weekblad Trends hem de vraag voorlegde hoe belangrijk deze nieuwe AI-toepassing nu wel is. ChatGPT wordt intussen al omschreven als ‘de som van alle menselijke kennis’: het systeem zou al 350 miljard woorden ‘gelezen’ hebben, het equivalent van zeven miljoen boeken. Op basis daarvan genereert het ‘slimme’ antwoorden op zowat alle mogelijke vragen, maar het produceert net zo goed teksten, recensies of examens op maat. De impact en draagwijdte van zo’n systeem lijkt op termijn dus amper te overschatten, vindt ook de Nederlandse filosoof en publicist Hans Schnitzler. Hij buigt zich al flink wat jaren over de maatschappelijke gevolgen van de voortschrijdende digitalisering, en schreef er ook al enkele boeken over. Zijn nieuwste boek, ‘Wij nihilisten’, werd genomineerd voor de Socratesbeker, de prijs voor het prikkelendste Nederlandstalige filosofieboek.

Techneuten en vooruitgangsoptimisten hebben nu, zo lijkt het, vooral oog voor de hoge productiviteitswinsten die ChatGPT kan genereren. Dankzij de automatisering van heel wat cognitief werk. Het is even verontrustend als verbazend dat intelligente mensen blijkbaar enkel oog hebben voor het economische aspect, maar niet stilstaan bij de bredere maatschappelijke impact van nieuwe technologie?

Hans Schnitzler: ‘Ik stelde dat al vaker vast. Volgens mij heeft dat veel te maken met de magische uitstraling die technologie heeft. Technologische vooruitgang betovert ons en het maakt ons zelf ook een beetje leerling-tovenaars. Het laat ons toe onze fysieke en intellectuele capaciteiten te vergroten en te versnellen. Hierdoor laten we ons helaas ook wat verblinden, zeker als het over bredere maatschappelijke gevolgen gaat.’

Zonder aan complotdenken te willen doen: heeft u het gevoel dat een aantal grote technologiebedrijven doelbewust de donkere kantjes van sommige innovaties onder de mat vegen?

‘Ik denk zelfs niet dat je daarvoor in termen van samenzweringstheorieën moet praten. De feiten spreken voor zich. Alles begint bij het verdienmodel van die technologiebedrijven, en de investeerders die uiteraard return on investment verwachten. Terwijl heel wat nieuwe technologieën uiteraard ook roemloos floppen. Het is dan ook niet onlogisch dat de technologiebedrijven zelf er alles aan doen om de consument bij elke grote innovatie telkens opnieuw de hemel op aarde te beloven. En dus focussen ze uitsluitend op de oplossingen die ze aanreiken, maar zwijgen ze zedig over pakweg de gigantische hoeveelheden data die onontbeerlijk zijn voor veel van hun innovaties. Waar halen ze die data? En wat gebeurt er achteraf mee?’

Leven we niet steeds meer in een soort van ingenieursmaatschappij, met technologie als de nieuwe moloch?

‘We zijn, zeker in de westerse wereld, almaar meer autonome individuen geworden. God bestaat niet meer, of is volledig naar de achtergrond verdrongen. Zingeving, waarheid of identiteitsvorming: we moeten het anno 2023 vooral uit onszelf halen. Dat gebrek aan ankerpunten of oriëntatie vinden de meeste mensen toch knap lastig, zo blijkt nu. En dus gaan ze op zoek naar nieuwe goden, waarbij technologie stilaan de nieuwe huisgod is geworden. Onze persoonlijke speaker die we stilaan élke vraag kunnen stellen, nu zelfs letterlijk met de komst van ChatGPT. Technologie lijkt het perfecte antwoord te zijn op de droom van maakbaarheid die we heel erg blijven koesteren.’

Niemand lijkt zich de vraag te stellen hoe het dan precies zit met de intellectuele eigendom en de auteursrechten op de miljoenen teksten, boeken of webpagina’s waaruit ChatGPT put.  De AI ‘steelt’ immers informatie uit al die bronnen om daarmee vervolgens aan de slag te gaan, zelf nieuwe teksten te genereren en die vervolgens eventueel ook commercieel te gebruiken.

‘Deze toepassing haalt overal brokjes informatie om vervolgens zelf een tekst te produceren. Ik ben niet voldoende onderlegd in de wetgeving rond auteursrechten om me daarover uit te spreken. Wanneer ik een boek schrijf, baseer ik me uiteraard ook op informatie die ikzelf hier en daar bij elkaar sprokkel. Wellicht ook zonder daar altijd voor te betalen, al klopt het natuurlijk wel dat de auteurs van werken die auteursrechterlijk beschermd zijn doorgaans vergoed worden als die werken gebruikt worden. Maar ik kan me wel voorstellen dat dit op wat langere termijn inderdaad een heikel punt kan worden: wat als ChatGPT ook muziek, foto’s en bewegende beelden gaat gebruiken?’

Minstens even relevant in deze: hoe manipuleerbaar en waarheidsgetrouw zijn de teksten of antwoorden die een technologie als ChatGPT uitspuwt?  Alles hangt finaal toch af van wat je er al dan niet instopt? Newsguard, een organisatie die nepnieuws bestrijdt, viste deze week uit dat het systeem 80 procent van de tijd valse informatie geeft wanneer het bevooroordeelde vragen voorgelegd krijgt. Bijvoorbeeld over samenzweringstheorieën. ChatGPT dreigt dan ook een dankbaar propaganda-instrument te worden, dat door alles en iedereen misbruikt kan worden en tot nog meer maatschappelijke polarisatie kan leiden.

‘Dat is absoluut een groot gevaar. We hebben totaal geen zicht op de bronnen die gebruikt worden om een bepaalde tekst te produceren. Tegelijk kan deze technologie ook als een gigantische megafoon fungeren, waarbij we op termijn zelfs in een soort van gesimuleerde werkelijkheid dreigen te belanden. We zagen dit eerder al met de zogenaamde deepfakes: tot in de perfectie doorgedreven manipulatie van beelden. Ik vrees dat ChatGPT het wantrouwen alleen maar verder zal doen toenemen.’

‘Op termijn komen we dan in een situatie waarbij we ons als burger bij elk bericht of elk beeld moeten afvragen of het wel waar of echt is. Komt daar nog bij dat deze technologie het ons ook alweer een stuk gemakkelijker maakt. Zoek je informatie op via Google, dan krijg je pagina’s vol interessante links en mogelijke antwoorden voorgeschoteld, waarmee je dan zelf nog aan de slag moet of kan. ChatGPT schotelt je meteen een kant en klaar antwoord voor, je hoeft zelf geen moeite meer te doen. Op de koop toe lijkt het ook een zeer mensachtig antwoord, bijna alsof er ook echt een ziel achter schuilgaat. Dit maakt het risico dat heel wat mensen zomaar meegaan in de veronderstelde authenticiteit van het antwoord, nog een stuk groter.’

Waarom blijft het op het politieke front alweer behoorlijk stil hierover? Zeker na wat er de voorbije jaren allemaal gebeurd is, zou deze technologie toch minstens de nodige alarmbellen moeten doen afgaan? Gaat het enkel een gebrek aan technologisch inzicht of ziet u ook andere oorzaken?

‘Het gaat zelfs niet eens om technologisch inzicht: de vragen over de consequenties zijn vooral ethisch geïnspireerd. Je moet technisch geen kraan te zijn om min of meer te snappen wat deze AI precies vermag. In de wetenschap dat we big tech in het verleden toch net iets te veel zijn gang hebben laten gaan – met alle problemen van dien – zouden we nu dus best even op de rem staan. Bijvoorbeeld door een soort van moratorium in te stellen, zodat we ons kunnen bezinnen over waar deze technologie toe leiden kan.’

‘Bij de ontwikkeling van nieuwe medicijnen, vinden we het doodnormaal dat die eerst allemaal tot in den treure getest worden. Gaat het over technologie, dan laten we de markt vrolijk haar gang gaan. Enerzijds lijkt er me sprake van een zekere onderschatting. Anderzijds is het efficiëntiedenken zo diep in de geesten van onze politici geslopen dat we in een soort van technocratische maatschappij zijn beland. Met de nodige blinde vlekken, onder meer wanneer het op het gebruik van data aankomt. Slimme steden, slimme huizen, slimme voertuigen… allemaal fantastisch, maar staan we ooit wel eens stil bij de controledrift die daar inherent mee samengaat?’

De pandemie was op dat vlak een ware brandversneller. Drones om te controleren of we niet toevallig met vijf in onze tuin zaten, het passeerde zomaar…

‘Inderdaad, veiligheid en gezondheid zijn de nieuwe mantra’s, en alles wat daar kan toe bijdragen, is welkom. Technologie hoort daar absoluut bij, en kan zowel preventief als repressief worden ingezet. Maar de politiek zou zich absoluut moeten bezinnen over de vraag waar we als samenleving nu precies naartoe willen. Nu dreigt onze democratie  almaar meer ondermijnd te worden door de technocratie, en verder te verschralen.’

Achter ChatGPT zit onder meer Open AI, een organisatie waar ook Elon Musk ooit mee aan de knoppen zat, al is hij er intussen uitgestapt. Ook Microsoft pompt al een miljard in Open AI, en kondigde nu aan dat het daar nog eens 10 miljard bovenop wil doen. Wordt de concentratie van macht, kennis en centen in de schoot van een zeer beperkt kransje van techbedrijven en technologie-ondernemers niet stilaan héél griezelig?

‘Die concentratie is veel te groot geworden, dat klopt. We zijn daar ook veel te afhankelijk van geworden, vanuit het blinde geloof in hun narratief dat die jongens de wereld prettiger en mooier maken. We waren de voorbije jaren heel argwanend naar overheden toe, wat niet geheel onbegrijpelijk is omdat zij nu eenmaal een monopolie hebben op het gebruik van geweld.’

‘Maar mede daardoor hebben we ook niet goed opgelet, en hebben we niet in de gaten gehad dat we stilaan voor alle aspecten van ons leven afhangen van een handvol bedrijven en de data waarover ze beschikken. Van mobiliteit over gezondheid tot onderwijs. En nu eet ook de overheid volop uit hun hand. We zijn tegenwoordig allemaal een beetje in dienst van die bedrijven, en zij gebruiken vrolijk onze data om hun almaar slimmere AI-systemen te trainen.’

Misschien zijn we er in Europa op dat vlak toch nog een stuk beter aan toe dan in de VS of China? In de VS kopen grote technologiebedrijven politieke partijen via enorme giften om, in de hoop zo politieke standpunten en beslissingen te kunnen beïnvloeden. In China staan die bedrijven volledig ten dienste van de overheid, zodat die burgers tot in hun huis kan controleren. Vooral de EU lijkt de laatste jaren toch wat tegengas te geven tegen de almacht van sommige bedrijven en tegen het misbruik van data.

Inderdaad, dat klopt. Europa tracht een digitale infrastructuur uit te bouwen waarin mensenrechten, ethische en publieke waarden wel degelijk meespelen. Er dient zich voor Europa dus misschien wel een mooie kans aan om op dat vlak een soort van derde weg in te slaan. Er zitten ook belangrijke keuzes aan te komen: hoe gaan we om met data? Moet de burger niet zelf kunnen beschikken over zijn of haar data? En moeten we geen werk maken van digitale burgerrechten? De overheid zou ook de aanjager moeten zijn van alternatieven voor de grote techbedrijven, met minder perverse verdienmodellen. De overheid is helemaal terug vandaag, het momentum is er dus. Er we moeten beseffen dat er echt veel op het spel staat.’