Het Europees Parlement keurde deze week nieuwe wetgeving goed die een stevige rem zet op het gebruik door overheids- en veiligheidsdiensten van slimme camera’s en AI-toepassingen die de privacy bedreigen. Of ook de commissie en de lidstaten daarin zo ver zullen meegaan, blijft nog een open vraag. Zo zette Frankrijk onlangs al het licht op groen voor massale videobewaking op basis van AI tijdens de Olympische Spelen in Parijs.

De zogenaamde AI-Act werd woensdag met een overweldigende meerderheid goedgekeurd in Straatsburg. Hiermee neemt de EU resoluut het voortouw in de uitbouw van een wetgevend kader dat het gebruik en de verdere ontwikkeling van deze bijzonder disruptieve technologie in goede banen moet leiden. ‘Dit is wereldwijd de allereerste wetgeving die het gebruik van AI wil reguleren’, maakte Europees parlementsvoorzitter Roberta Metsola zich sterk. ‘Europa wil absoluut een wereldleider op vlak van digitale innovatie worden, maar dat zal dan wel met respect voor onze waarden en fundamentele rechten moeten gebeuren.’

Nadat de EU lang het verwijt kreeg te lang te treuzelen, lijkt al minstens het Europees Parlement begrepen te hebben dat er – met de razendsnelle evolutie van deze technologie in het achterhoofd – geen tijd meer te verliezen valt. Ter illustratie daarvan: woensdagavond laat nog startten de onderhandelingen over de net goedgekeurde teksten met de Europese Raad van ministers en met de Europese Commissie.

Realtime gezichtsherkenning verboden

Bijzonder opvallend in de nieuwe wetgeving is het verbod op de inzet van biometrische identificatiesystemen – gezichtsherkenning zeg maar – op afstand in openbare ruimtes en in realtime. Dergelijke systemen zouden in Europa alleen nog achteraf mogen worden gebruikt, en dan nog uitsluitend voor de opsporing van ernstige misdrijven én met toestemming van een rechter. Ook in ons land mogen slimme camera’s vooralsnog niet gebruikt worden voor gezichtsherkenning.

Deze nieuwe Europese wetgeving – die voorrang heeft op de nationale – zou dit verbod in de toekomst dus definitief kunnen verankeren. Ook het gebruik van AI om mensen te categoriseren op basis van geslacht, ras of etniciteit wordt verboden, net zoals ‘voorspellende’ technologie gebaseerd op locatie, crimineel gedrag in het verleden of profilering. Parallel daarmee komt er ook een verbod op het classificeren van mensen op basis van hun sociale gedrag of persoonlijke kenmerken, de zogenaamde social scoring die in in China al goed ingeburgerd is. Overheden of ordediensten zullen ook geen gezichtsfoto’s van het internet of van camerabeelden mogen ‘schrapen’ om zo op basis van gezichtsherkenning allerlei databases te creëren.

Daarnaast toont het Europees Parlement zich ook beducht voor de mogelijk ontwrichtende maatschappelijke en politieke impact van bepaalde AI-toepassingen. AI-systemen die worden gebruikt om kiezers of de uitkomst van verkiezingen te beïnvloeden – bijvoorbeeld via aanbevelingssystemen op sociale mediaplatforms – vallen voortaan onder de de lijst met risicovolle toepassingen en zullen dus aan stevige beperkingen onderhevig zijn.

Grensbewaking

Klinkt dit in theorie allemaal heel veelbelovend, dan blijven er ook heel wat vragen. Wat bijvoorbeeld met de inzet van AI en gezichtsherkenning bij grensbewaking, onder meer aan de buitengrenzen van de EU? Een aantal niet-Europese landen zetten vandaag al in op AI-technologie die zelfs heel genuanceerde en bijna onmerkbare emotionele uitdrukkingen van reizigers kan beoordelen. Gezichtsherkenningstechnologie wordt volop uitgerold op luchthavens en in grensgebieden, in onder meer in China vormde het een onderdeel van het uiterst stringente covidbeleid.

Het risico dat dergelijke technologie ook ingezet zal worden bij de bewaking van de EU-buitengrenzen is niet onbestaande, zo moesten ook de Roemeense co-rapporteur Dragos Tudorache (Renew) woensdag erkennen. En dat bepaalde EU-grensstaten het vaak niet al te nauw nemen met de bestaande EU-wetgeving, mag ook blijken uit de goed gedocumenteerde pushbacks van migranten in Griekenland of Kroatië. Het blijft dan ook de vraag of het quasi totale verbod op gezichtsherkenning – ook voor politiediensten – overeind zal blijven na de finale onderhandelingen met de lidstaten en de commissie.

Olympische Spelen

Hoe groot het spanningsveld tussen enerzijds meer op veiligheid gefocuste repressieve nationale wetgevingen en anderzijds de grote Europese bezorgdheid voor de privacy wel dreigt te worden, wordt op dit moment al concreet geïllustreerd in Frankrijk. Daar keurde het nationale parlement in april van dit jaar een fel omstreden wet goed die video-surveillance op basis van AI tijdens de Olympische Spelen van 2024 in Parijs toestaat. Gezichtsherkenning blijft ook daarbij verboden, maar de realtime analyse op basis van AI van mensen – al dan niet in groep – kreeg wél groen licht. Tot grote ontzetting van heel wat Franse mensenrechtenorganisaties, die vrezen dat deze nieuwe wet de deur wagenwijd opent voor een veralgemeend gebruik van slimme algoritmes om mensen in de publieke sfeer in de gaten te houden.

Op een vraag daarover tijdens de persconferentie in Straatsburg volgde een laconiek antwoord. ‘Zolang de nieuwe Europese verordening niet van kracht is, kan Frankrijk doen wat het wil. Maar eens de Europese AI-wetgeving volledig goedgekeurd is, zal Frankrijk deze wet moeten terugtrekken.’

Dragos Tudorache

Europees Parlement pioniert met strenge wetgeving rond artificiële intelligentie