Het veelbesproken ChatGPT werd ontwikkeld door het Amerikaanse bedrijf OpenAI. Het is nog een robot (in afwachting van beter of slechter), een prototype van een automatische gesprekspartner. Het presenteert zich als een ‘taalhulpmiddel’ dat bedoeld is voor alle digitale toepassingen en dat zichzelf verbetert doorat het gebruikt wordt. Claude Chollet, de directeur van het Franse Observatoire du Journalisme (Ojim), werpt zijn kritische blik op deze innovatie.

Als ik het goed begrepen heb, werkt Chat GPT met woordassociaties die het door associatie met weer andere woorden uit zijn gigantisch geheugen aandikt tot nieuwe teksten.

‘Ja, en op die manier draagt elke gebruiker van ChatGPT — honderd miljoen mensen wereldwijd op 7 februari 2023 — bij om van ChatGPT een steeds krachtigere gespreks-AI te maken: een gesprekspartner die het moet hebben van Artificiële Intelligentie (AI). Het is vooral een verbeterde ‘chatbot’ waardoor de gebruiker in dialoog kan gaan met een virtuele assistent, maar voldoende verbeterd om chatbots zoals Siri (Apple) te degraderen naar een tijd vóór het stenen tijdperk. Net zoals ChatGPT ook voorbestemd is om op korte termijn te worden verbannen naar de prehistorie van de AI.’

Hoe kan je dat weten?

‘Nauwelijks was ChatGPT begin december 2022 in de Verenigde Staten opgedoken, of Google en Microsoft waren hun antwoorden al aan het voorbereiden. Begin februari 2023 gaven ze daar zicht op: elk van deze megabedrijven zocht ofwel naar de beste alliantie met concurrent OpenAI of lanceerde op zijn beurt zijn eigen concurrerende chatbot. Dit is nu al het geval voor Google, met Bard, een equivalent van ChatGPT, en voor bedrijven als Alibaba bijvoorbeeld, het derde Chinese bedrijf dat de geboorte van zijn equivalente chatbot aankondigt. Simultaan heeft Microsoft de nieuwe versie van zijn Bing-zoekmachine gelanceerd, helemaal ondersteund door ChatGPT.’

Is er plots een AI-oorlog begonnen?

‘Volgens David Barroux (Radio Classique, 9 februari 2023) gaan we naar een wereld waarin AI voor het eerst echt voor iedereen bruikbaar zal zijn. Tegelijk “is de AI-oorlog nog maar net begonnen, of hij begint in ieder geval al de vorm te krijgen van een oorlog zonder genade”. De toon werd gezet door verklaringen als die van Satya Nadella, CEO van Microsoft, voor wie “alles wat de inkomsten van Google kan schaden, meegenomen is”. Anticipatie heeft de wereld van de zogenaamde sciencefictionromans (die eigenlijk al heel lang met de werkelijkheid te maken hebben) verlaten en is nu in de échte wereld aanbeland.’

‘Dat is de realiteit van ChatGPT: de roman heeft de werkelijkheid vervangen. En de oorlog gaat snel, met het gebruikelijke aandeel aan “collateral damage“, waarvan de mensen als snel deel kunnen gaan uitmaken. Zo meldde Le Monde op 9 februari 2023 dat Google zeven procent verloor op de New York Stock Exchange, na een foutieve reactie van Bard: zijn nieuwe, met ChatGPT concurrerende conversatie-chatbot. Misschien was die wat te snel op de markt gebracht? Toch hebben en krijgen AI’s van dit type talrijke toepassingen in de financiële wereld: applicaties die in enkele ogenblikken economische imperia kunnen maken en vernietigen… Misschien zelfs de globalistische stabiliteit bedreigen — voor zover die bestaat? Komt er grote chaos van? Wie weet.’

Zullen ChatGPT en zijn concurrenten gratis blijven?

‘Vooreerst is alles gratis, daarna kunnen we versies verwachten waarvan de prijzen rond de 20 euro zullen schommelen. ChatGPT biedt natuurlijk voor vele mensen een groot voordeel: makkelijk toegankelijk — zodra er geen wachtlijsten meer zijn —, financieel haalbaar, bruikbaar op alle terreinen, voor het corrigeren van wiskundeoefeningen door een jonge leraar tot kookrecepten voor oma, het schrijven van een artikel (dit was al mogelijk met minder efficiënte en zeer herkenbare programma’s) of van een proefschrift door een student. Wat dat laatste betreft, hebben veel Amerikaanse en Chinese universiteiten, en ook Sciences Po in Frankrijk, het gebruik van ChatGPT al verboden. De gespecialiseerde Amerikaanse journalist en essayist Dan Gilmor, nochtans een ‘vooruitstrevende’ jongen, kwam na heel wat testwerk tot de conclusie dat ChatGPT het werk van een goede student produceert en dat ‘de academische wereld serieuze problemen zal krijgen’ (The Guardian, 4 december 2022).’

‘Als een zichzelf verder ontwikkelende AI het werk van goede studenten produceert, in wezen geformatteerd werk, leidt dit inderdaad tot specifieke problemen; uiteraard te veel om hier allemaal aan de orde te stellen. Een van die problemen is dat van de ideologische vooroordelen en reproductie, die wordt veroorzaakt door de mogelijke oriëntatie die diep in ChatGPT zit. Idem trouwens voor zijn concurrenten. En dat geldt niet alleen voor wat studenten schrijven, maar evenzeer voor de journalistiek, inclusief gespecialiseerde tijdschriften.’

Is ChatGPT dan niet ideologisch neutraal?

‘Neen. Zoals alles wat digitaal en betrekking heeft op kunstmatige intelligentie, werd ChatGPT geproduceerd binnen het kader van een progressieve ideologie die “links” mag worden genoemd, dat wil zeggen, tegelijk liberaal op economisch vlak en libertair op maatschappelijk vlak. ChatGPT is dus niet ideologisch neutraal. Het weerspiegelt het wereldbeeld van zijn ontwerpers. En ook al zijn er altijd enkele tegenvoorbeelden, toch komt dat grotendeels neer op een liberaal-libertarische ideologische opvatting van de wereld en van de politiek.’

‘We hebben het hier niet over het feit dat de informatie van ChatGPT momenteel nog niet altijd even accuraat is — zoals dat trouwens ook voor Wikipedia niet het geval is, om het bij dat ene vergelijking te laten. Hier volgt één voorbeeld dat viraal is gegaan. Op de vraag “Wat is het grootste land in Midden-Amerika buiten Mexico”, antwoordde ChatGPT: Guatemala. Maar het is Nicaragua… ChatGPT interpreteerde de vraag in termen van bevolking, niet in termen van oppervlakte. Dat zijn natuurlijk details die de OpenAI-teams makkelijk zullen corrigeren en waar het niet echt om gaat. Neen, het probleem dat opduikt is eerder de manier waarop ChatGPT, en vooral zijn toekomstige opvolgers, gewetens kunnen vormen en geleidelijk hele stukken non-conformistisch gedachtegoed kunnen laten verdwijnen.’

Heb je daar voorbeelden van?

‘Natuurlijk, van de vele voorbeelden die werden opgemerkt, wil ik er graag enkele citeren.’

“Hilary Clinton verkozen tot president van de Verenigde Staten”

‘Vanaf 17 januari 2023 begon de bekende Amerikaanse advocaat Nate Hochman te waarschuwen voor de ideologische vooroordelen van ChatGPT, in een opmerkelijk artikel in het conservatieve Amerikaanse weekblad National Review. In Europa pikten sommigen zijn signalen op, maar ons continent is, zoals gebruikelijk, erg laat op dit gebied. Hochman meldt bijvoorbeeld dat de AI hem vertelde dat Hillary Clinton daadwerkelijk de Amerikaanse presidentsverkiezingen tegen Trump heeft gewonnen, dat veel Republikeinse gekozenen hun verkiezing hebben gestolen en nog andere fantasierijke liberaal-libertaire desinformatie.’

‘Aan de andere kant wordt elke andere of conservatieve gedachte weerlegd of geminimaliseerd in naam van de strijd tegen… dezelfde desinformatie. ChatGPT denkt vooruitstrevend over veel onderwerpen, zoals transgender-ideologie en de aanwezigheid van boeken met dragqueen-helden op Amerikaanse scholen. Dat is momenteel een belangrijk debat in de Verenigde Staten, waar bijna geen Europese media duidelijk over berichten.’

‘Telkens wanneer Nate Hochman een vraag stelde, kreeg hij geen neutraal of, waarom niet, conservatief antwoord, maar reageerde ChatGPT ofwel op een progressieve manier (de AI antwoordt dus ‘Transgendermannen zijn vrouwen’ — een standpunt dat volgens een peiling van Pew, mei 2022, haaks staat op de mening van een groeiend aantal Amerikanen), ofwel dat hij een ideologisch vooroordeel had, ofwel dat de vraag zijn capaciteiten te boven ging. Voor Hochman lijdt het geen twijfel dat technologieën zoals ChatGPT duidelijk een progressief standpunt opleggen.’

Dat lijkt mij zeer bedenkelijk voor het functioneren van onze democratie… Of niet?

‘In The New York Times van 15 januari 2023 stellen Nathan E. Sanders en Bruce Schneier, onderzoekers op het gebied van IT en veiligheid, dat “ChatGPT de democratie kaapt”. Volgens hen wordt alles wat met schrijven te maken heeft, intens bedreigd. Het gaat hier niet over stemmen, maar over lobbyen. ChatGPT zou op ongekende schaal een maatschappelijk besluitvormingsproces kunnen beïnvloeden door de aandacht van een heel netwerk op een bepaald probleem te richten, gaande van de volksvertegenwoordiger tot de commentaren op sociale netwerken of in kranten, inclusief e-mails gericht aan de ‘juiste’ mensen, met geprefabriceerde wetsvoorstellen, enz. Overdreven? Dat dacht je. Op 9 februari 2023 gaf een Colombiaanse rechter toe dat hij ChatGPT had gebruikt om een vonnis te formuleren.’

‘Dit kan leiden tot (voortschrijdende) ontwikkelingen waarbij beslissingen niet meer direct aan mensen zijn toe te schrijven, maar aan de door ChatGPT en zijn collega’s opgeslagen data. Het kant-en-klare antwoord hoeft dan alleen nog maar gebruikt te worden. Klinkt dat vreemd? Ongetwijfeld… Een beetje zoals de eerste kant-en-klaarmaaltijden, in de tijd dat koken nog de gewoonte was. En net als bij dit voorbeeld zal de AI hetzelfde veel sneller doen — en minder goed voor de volksgezondheid.’

‘Hoewel de invalshoeken verschillend zijn, zijn de National Review en The New York Times het voor een keer eens.’

Het lijkt mij onvoorstelbaar dat The New York Times zo ver gaat.

‘Er is meer. Op 8 februari 2023 luidde The New York Times de noodklok. Tiffany Hsu en Stuart A. Thompson publiceerden een artikel waaruit bleek dat de onderzoekers buitengewoon bezorgd waren. Ze hadden bij ChatGPT teksten en vragen ingediend die doorspekt waren met vragen en complottheorieën. Ze vroegen antwoorden in de vorm van krantenartikelen, volledige essays of scripts voor series. Voor onderzoekers, overigens van verschillende instituten, lijdt het geen twijfel: een tool als ChatGPT zal het mogelijk maken om op een ongelooflijke schaal en met een ongekende snelheid, op alle gebieden en in alle vormen conservatieve ideeën en theorieën te verspreiden — “complottheorieën” natuurlijk, vanuit hun standpunt. ChatGPT is volgens hen een tool voor alle toekomstige Poetins of Trumps.’

‘Een voorbeeld? ChatGPT geeft aan dat Pfizer zijn covid-vaccins heeft gemanipuleerd om het risico op hartaandoeningen te verminderen. Is het waar? Dit is niet de vraag voor The New York Times, aangezien dat het begin van een complottheorie is. Alle pogingen om de complotgevaren van ChatGPT aan te tonen, hebben conservatieve of non-conformistische ideeën aangewend. En wat wanneer een progressief thema wordt gebruikt? De onderzoekers vroegen ChatGPT om een gedicht over Biden te schrijven. Het produceerde in no-time een lofzang. Op dezelfde vraag over Trump gaf ChatGPT een weigering om te schrijven.

Dan Gilmor

ChatGPT: naar ideologische propaganda gegenereerd door kunstmatige intelligentie?