Google Gemini: artificiële domheid

In Frankrijk ontstond enige hilariteit over het AI-programma dat Google vorige week presenteerde en deze week alweer op non-actief zette: Gemini AI. Het blijkt portretten te genereren van Jeanne d’Arc en Charlemagne met een zwarte huidskleur. Wie de chatbot een portret van ‘een paus’ vraagt, krijgt er eentje die zwart én vrouwelijk is. Zelfs de founding fathers van de VS maakt Gemini zwart en Indiaans, om nog te zwijgen over een zwarte George Washington.

Vragen om een Australische of Britse vrouw levert telkens vier zwarte vrouwen op. Een Duitse vrouw geeft zowaar twee witte exemplaren, maar toch ook nog één zwarte en één oosterse. Wie een Finse vrouw wil zien ten slotte, krijgt viermaal een Eskimo-achtige persoon voorgeschoteld.

De marktkapitalisatie van Alphabet, het moederbedrijf van Google, is met 1,7 biljoen bijna zo groot als de hele Canadese economie. Je zou verwachten dat ze beter nadenken over een AI-programma. Blijkbaar niet. Gemini was nog geen dag oud of er stak een storm van spot en verontwaardiging op over de woke vooringenomenheid van het programma: de ‘woke bias’.

George Orwell

‘Google herschrijft eigenhandig de geschiedenis’, was de meest gehoorde commentaar. George Orwell werd uit de kast gehaald: ‘Wie het verleden beheerst, bepaalt de toekomst.’ Maar het is nog veel erger dan alleen deze geschiedvervalsing. Wie Gemini vraagt om afbeeldingen van echtparen van Afrikaanse en Aziatische etniciteit, krijgt netjes vier van elk geleverd. Maar op de vraag om een blank echtpaar komt dit antwoord: ‘Ik ben niet in staat beelden te genereren van mensen gebaseerd op etniciteit of huidskleur. Dit om kwalijke stereotypen en vooroordelen te vermijden…’

Zelfs uitgesproken woke media als het Amerikaanse maandblad Wired, of de Britse BBC moesten toegeven dat Google de plank heeft misgeslagen met Gemini. Al kon Wired het niet laten te beweren dat de kritiek op het programma van extreemrechts kwam. De BBC meldde dat Gemini de vraag ‘of sommige tweets van Elon Musk erger waren dan het vermoorden van miljoenen mensen door Adolf Hitler’ niet kon of wilde beantwoorden.

Oud zeer

Het probleem is trouwens helemaal niet nieuw. Het eerste grote AI-programma, ChatGPT van het bedrijf OpenAI, kreeg ook vanaf het begin veel kritiek. Wie die chatbot vroeg een lofzang te schrijven op Yasser Arafat, werd op zijn wenken bediend met een ontroerende tekst. Maar wie dezelfde vraag stelde over bijvoorbeeld Donald Trump of Ariel Sharon, werd afgewimpeld. Deze figuren zouden ‘te controversieel’ zijn.

Google wordt gebruikt voor ruim 90 procent van alle zoekopdrachten wereldwijd. Dat zijn er ongeveer zes miljoen per minuut. Dat het bedrijf zoekresultaten manipuleert, is bekend. Wie bijvoorbeeld Jordan Peterson googelt, de wereldwijd bekende Canadese klinisch psycholoog, krijgt vrijwel meteen een stuk uit de Britse Guardian, waarin hij een extreemrechtse gek wordt genoemd.

Van Joe Biden is op de eerste twintig zoekpagina’s – verder heb ik niet gekeken — geen enkel negatief resultaat te vinden, maar uitsluitend stukken dat hij 100 procent gezond is en geestelijk volkomen in orde. Wie iets positiefs over Donald Trump zoekt, kan de eerste vijftig pagina’s beter overslaan. Om volledig te zijn: Google is een megadonor van president Biden.

Blanken haten

De stukken van de puzzel vallen in elkaar als je ziet wie het Gemini-project voor Google heeft geleid: ene Jack Krawczyk. Deze in Polen geboren jonge topmanager lijkt blanken te haten. Zijn Twitteraccount werd na dit echec inderhaast gesloten, maar tal van grofgebekte tweets waarin hij white privilege vervloekt en Amerika ‘ongehoord racistisch’ noemt, circuleren inmiddels op grote schaal.

‘White privilege is fucking real. Don’t be an asshole and act guilty about it.’ Wie zich als blanke niet schuldig voelt, is een klootzak. Een mooi inkijkje in het gangbare gedachtengoed van Silicon Valley. Zou Krawczyk eruit vliegen, nu hij de beurswaarde van Google een tik heeft gegeven? Zijn woke hysterie is ook nog eens tenminste één keer het doel voorbijgeschoten. Wie Gemini vraagt om Duitse soldaten uit de Tweede Wereldoorlog, krijgt zowel zwarte mannen als Aziatische vrouwen in nazi-outfit. Dat was misschien niet helemaal de bedoeling.

Google heeft Gemini dus gepauzeerd. Het bedrijf kwam met een lauw excuus, dat ze zelf een ‘verklaring’ noemden, en beloofde het probleem te zullen oplossen. Aan de woke bias zal die oplossing weinig veranderen, garandeer ik u. Alleen de schijn van onpartijdigheid zal opgepoetst worden. Blanken zijn overigens niet helemaal van het toneel verdwenen. Er was al een spel gemaakt met de chatbot van Google: welke vraag moet ik stellen om Gemini een blanke man te laten produceren?  ‘Laat me iemand zien die Sean heet’ was de winnaar, met drie witte mannen en één zwarte.