Guy De Pauw: ‘Op zoek naar online haatspraak in Europese opdracht

In deze aflevering van Doorbraak Radio ontvangen we Guy de Pauw, zaakvoerder van Textgain. Hij komt vertellen hoe zijn bedrijf artificiële intelligentie inzet om teksten te analyseren. Zijn algoritme achterhaalt de emoties van een tekst en de persoonlijkheid van de auteur ervan. De technologie is nog in volle groei, maar zal binnenkort gebruikt worden door de Europese Unie om onderzoek te voeren naar haatspraak en racisme op het internet.

Wat doet Textgain?

Textgain is een spin-off van de Universiteit van Antwerpen en is gespecialiseerd in artificiële intelligentie. Het bedrijf maakt gebruik van natural language processing. ‘Dat is een technologie om automatisch documenten te analyseren, en daaruit kennis te halen’, legt de Pauw uit. Textgain kan bijvoorbeeld achterhalen waar een document over gaat, maar ook wat de toon is van een document en welke emoties eraan verbonden zijn. Op basis van stijlkenmerken achterhaalt de computer ook persoonlijkheidskenmerken van de auteur van de tekst, zegt de Pauw.

Deze technologie is interessant om toe te passen op sociale media. Men kan interessante informatie verzamelen door massaal te ‘scrapen’ – dat is zo veel mogelijk data verzamelen – over opinies, feiten en de toon waarop gebruikers van sociale media die dingen vermelden.

‘We hebben uiteraard niet de toestemming om de identiteit van de mensen op het internet mee te scrapen’, benadrukt de Pauw, ‘maar met behulp van het algoritme kunnen we toch demografische subgroepen herkennen en die dan in kaart brengen’. Sinds februari 2020 is het aantal berichten met een depressieve toon gevoelig gestegen. Dat is van de interessante inzichten voor Textgain.

Interessante technologie voor bedrijven?

Textgain heeft een aantal klanten die gebruikmaken van het algoritme. ‘Textmetrics is een Nederlands bedrijf dat onze technologie gebruikt om suggesties te geven bij het schrijven van teksten’. Want volgens de Pauw werkt het algoritme ook in de omgekeerde richting. Wanneer men bijvoorbeeld een wervende tekst wil schrijven voor een specifieke doelgroep, dan kan het algoritme aanduiden welke woorden zullen weerklank vinden, of juist niet bij een bepaalde doelgroep.

Interessanter voor de overheid?

Vorig jaar heeft de Pauw meegewerkt aan een onderzoek van de Universiteit van Amsterdam. ‘De technologie die we ontwikkeld hebben kan in de verkeerde handen best kwalijke gevolgen hebben’. De onderzoekers hebben een sociaal netwerk opgezet als een soort van test-net en daar vrijwilligers op losgelaten. De mensen werden gevraagd om het netwerk te gebruiken zoals ze sociale media zouden gebruiken. ‘We hebben van het netwerk teksten geprofileerd en een persoonlijkheid uitgetrokken. Vervolgens hebben we met A/B-testen twee types advertenties op de gebruikers losgelaten: introvert- en extravert-gerichte advertenties.’

Volgens de Pauw blijkt dat introverte mensen vaker op de introvert-gerichte advertenties klikken, omdat deze advertenties beter bij hun persoonlijkheid past. Als je de technologie juist gebruikt, kan ze dus misbruikt worden voor politieke doeleinden. ‘Dan komen we eigenlijk een beetje in de buurt van wat er gebeurd is met Facebook en Cambridge Analytica. Zij gingen doelgericht mensen profileren en hen bepaalde politieke boodschappen aanleveren.’

Is deze technologie ethisch?

Textgain is zich altijd bewust geweest van het ethische aspect van hun werk. ‘We noemen dat onze “AI for good-sectie”,’ zegt de Pauw. Na de aanslagen op Zaventem en Brussel heeft het bedrijf haar eerste systeem ontwikkeld om automatisch jihadistische propaganda op sociale media op te sporen. Van daaruit heeft Textgain de technologie verder ontwikkeld naar verschillende soorten radicalisering, van links- tot rechts-extremisme.

Volgens de Pauw hoeft de bevolking geen schrik te hebben voor een big brother op het internet. ‘Wij verzamelen alleen maar data met respect voor de GDPR-verordening ter bescherming van de individuele privacy. Als wij haatspraak detecteren, kunnen wij dat niet terugbrengen tot het individu die dat heeft geplaatst.’

European Observatory of Online Hate

De Pauw zal met zijn bedrijf meewerken aan een Europees project om haatspraak en racisme op het internet te detecteren. ‘We werken bij het Observatory-project samen met verschillende experts’. Dat kunnen mensen uit de sociale mediasector zelf zijn. Zij willen weten wat er allemaal gebeurt op hun platform en hoe ze dit kunnen observeren. Het project is ook interessant voor beleidmakers die willen weten wat er allemaal leeft in de samenleving volgens de Pauw. ‘En dan is er nog de doelgroep van de veiligheidsdiensten’. Zij verlangen vooral een soort van monitoring-tool. ‘Zij willen voornamelijk weten of er ergens extremisme is en of er dingen gebeuren die ze in de gaten moeten houden.’

Het project wil trends en hotspots in kaart brengen die zich online afspelen en bekijken hoe die trends doorheen de tijd evolueren. ‘Als er pieken zijn rond bepaalde gebeurtenissen in de wereld, dan moeten we dat kunnen vinden’ zegt de Pauw. De technologie bestaat al voor een heleboel talen, maar met het Europees project wordt de technologie uitgerold in alle vierentwintig Europese talen.

De toekomst is online

Het groeiende bedrijf van Guy de Pauw maakt gebruik van artificiële intelligentie om online trends te analyseren. Steeds meer bijeenkomsten, criminaliteit en aanslagen worden online voorbereid. Uit de analyses kunnen demografische subgroepen gehaald worden en kan men bekijken hoe deze trends evolueren doorheen de tijd. Dat de Europese Unie gebruik wil maken van de technologie van de Pauw, wil alleen maar zeggen dat er toekomst zit in zijn bedrijf. Hij werkt binnenkort mee via het European Observatory of Online Hatespeech.

Je kan op de website van Textgain een analyse maken van je eigen Twitter-profiel via deze link.

Auteur artikel: Diego Maes