AI-bedrijven ontdekken de filosoof

In de Amerikaanse technologiesector stijgt de vraag naar filosofen. Zij moeten AI-modellen onderbouwen met waarden, ethiek en kritisch denken.

‘De hype rond artificiële intelligentie is doorgeslagen’, vindt Jan De Schepper, voormalig topman van Telindus en vandaag bestuurder bij verschillende IT-bedrijven. ‘AI heeft zowel vurige gelovigen als uitgesproken tegenstanders voortgebracht. De eersten verwachten bijna alle heil van deze technologie. De laatsten zien vooral risico’s en willen het gebruik ervan ontmoedigen.’

De Schepper pleit voor ‘de derde weg van pragmatici die AI ethisch benaderen’. Omdat algoritmes waardenvrij zijn, kunnen de antwoorden van AI-modellen botsen met de waarden die gebruikers, zoals bedrijven of overheden, willen uitdragen. ‘AI werkt niet vanzelf in het belang van de maatschappij, maar volgens de wensen van de opdrachtgever’, stelt hij. Daarom halen steeds meer technologiebedrijven filosofen binnen om waarden en normen in hun modellen te verwerken.

De wraak van de filosofiestudent

Buitenlandse media berichtten deze maand over die opvallende opmars van filosofen in AI-bedrijven. The New York Times sprak van ‘de wraak van de filosofiestudenten’ en beschreef hoe AI-laboratoria steeds vaker eigenzinnige denkers aantrekken.

Lang was een diploma wijsbegeerte geen troef op de arbeidsmarkt, meldt de krant. Dat beeld kantelde toen Google DeepMind in april iemand aanwierf met de functietitel ‘filosoof’ op zijn visitekaartje. Dat zorgde voor beroering bij veel sociale media.

Ook The Economist signaleerde die trend. Het blad verwees naar onderzoek van de Federal Reserve Bank of New York waaruit blijkt dat afgestudeerde filosofen in de Verenigde Staten momenteel betere kansen op de arbeidsmarkt hebben dan leeftijdsgenoten met een IT-diploma.

Voor De Schepper is dat logisch. Programmeren is precies het soort werk dat AI steeds sneller en efficiënter uitvoert. ‘Filosofie daarentegen blijft mensenwerk: ze helpt nadenken over vragen waarvoor louter rekenkundige modellen tekortschieten. AI-algoritmes voorspellen op basis van informatie uit het verleden. Filosofen kunnen proactief ethische problemen blootleggen die zulke modellen bij de start niet vertonen.’

Socratische onwetendheid

Een van de filosofen die zich over AI buigt, is Jörg Noller, professor aan de Universiteit van München. In zijn recente boek AI Maturity (Cambridge University Press), stelt hij dat gebruikers van AI-systemen vaak ‘onvolwassen’ met de technologie omgaan.

Noller grijpt terug naar het begrip van de ‘Socratische onwetendheid’: de wijsheid om te beseffen hoeveel men niet weet. Volgens De Schepper is precies die houding nodig. Wie met AI werkt, mag zich niet automatisch door algoritmes laten leiden. ‘AI houdt geen rekening met waardepatronen’, zegt hij. ‘Zonder kritische gebruikers kan ze de menselijke autonomie en humanistische streefdoelen ondergraven.’

Waarden als ingebouwde rem

Veel AI-modellen krijgen daarom toch een morele onderbouw mee. Het ene model legt meer nadruk op maatschappelijke gevolgen, het andere op individuele autonomie. Bedrijven kunnen ook waarden laten meewegen die voor hen belangrijk zijn, zoals aandeelhoudersrendement, langetermijnperspectieven, milieu-impact, correcte arbeidsrelaties of niet meewerken aan militaire activiteiten.

Sommige AI-bedrijven werken zelfs met een soort grondwet voor hun modellen. The New York Times verwees onder meer naar de Schotse filosofe Amanda Askell. Die werkte voor Anthropic een morele handleiding uit voor Claude, het AI-model van het bedrijf. Claude’s Constitution is ondertussen uitgegroeid tot een document van 80 bladzijden dat de richting geeft aan het model in antwoorden op vragen van gebruikers.

Kosten, baten en grenzen

Andere filosofen focussen dan weer op de afweging van kosten en baten binnen een AI-model. Dat is bijvoorbeeld relevant voor zelfrijdende auto’s, die geprogrammeerd zijn om ongevallen te vermijden. In extreme situaties moet een systeem kunnen afwegen dat een botsing met een wagen aanvaardbaar is om een voetganger te sparen. Ook bij wapensystemen rijst de vraag hoe burgers beschermd kunnen worden, zelfs wanneer een andere keuze een militair voordeel zou opleveren.

De Schepper wijst erop dat ontwerpers al AI-modellen hebben stopgezet omdat ze vreesden dat hun technisch perfecte systeem te onethische beslissingen zou kunnen afdwingen. Het is geen toeval dat AI ook gebruikt wordt voor minder correcte doeleinden, zoals de verspreiding van valse berichten of het kraken van software.

Onze bedrijven volgen

Ook onze bedrijven werken voor AI-modellen al binnen een moreel kader. De Schepper spreekt uit ervaring. Als voorzitter van de Ethische Raad van de VDAB werkte hij vanaf 2022 mee aan richtlijnen die een waardepatroon vormgeven dat wordt gehanteerd bij de sollicitatieprocedures. Zo blijkt er bijvoorbeeld een vooringenomenheid door de statistische oververtegenwoordiging van vrouwen in sectoren zoals zorg en onderwijs of van mannen in de IT-sector.

De Schepper: ‘Het risico van een technologische ondersteund selectiemodel houdt in dat mannen met het zogenaamd juiste profiel minder jobsuggesties krijgen uit de zorg en het onderwijs. Of dat vrouwen minder jobs in de IT aangeboden krijgen. VDAB ontwikkelde daarom een AI-model dat zich afzet tegen dat soort patronen. Zo worden alle kandidaten correcter behandeld. Heel wat Belgische bedrijven hebben dat voorbeeld later gevolgd en hun eigen selectieprocedures aangepast.’