In de nieuwe rubriek Europa-Express krijgt u voortaan op vrijdag nieuws, analyses en reportages over en vanuit Europa. Want, of u dat nu leuk vindt of niet, ‘Europa’ heeft wel degelijk een grote impact op ons dagelijks leven.

Meer dan welke andere technologie ook heeft artificiële intelligentie (AI) het potentieel om onze samenleving de komende jaren bijzonder ingrijpend te veranderen. Dat besef is ook doorgedrongen bij het Europees Parlement, dat nu samen met de Europese Raad de schouders zet onder een volledige nieuwe wettelijke basis voor de inzet en het gebruik van AI in de EU.

Gezichtsherkenning

Hoe ver kunnen bedrijven en overheden gaan in de inzet en het gebruik van AI? De vraag is minder arbitrair dan ze lijkt. Enkele jaren geleden ontstond er wereldwijd al grote opschudding nadat de New York Times onthulde dat de Chinese autoriteiten een uitgebreid AI-gezichtsherkenningssysteem gebruikten.

Daarmee identificeerden en surveilleerden ze de Oeigoeren in bepaalde regio’s, onder meer in grote steden zoals Hangzhou en Wenzhou. Zo’n vaart loopt het hier nog niet, maar de automatische uitwisseling van onder meer politiedata tussen de EU-lidstaten zet de deur alvast ook op een kier voor gezichtsherkenning door de politie.

Grondrechten en waarden

Om de spelregels rond het gebruik van AI vast te leggen werken het Europees Parlement en de Europese Raad nu samen aan ambitieuze AI-wetgeving. Die moet uitgroeien tot een van de belangrijkste pijlers van de digitale marktstrategie van de EU. Ze moet de regels vastleggen voor de ontwikkeling, de wijziging en het gebruik van alle AI-gestuurde producten, diensten en systemen op het grondgebied van de EU.

Die zullen dan zowel voor overheden als voor het bedrijfsleven van toepassing zijn. Vorige week werd een eerste belangrijke horde genomen in dat wetgevend proces. Het EP debatteerde en stemde toen over het verslag van de tijdelijke commissie Artificial Intelligence in the Digital Age. In het nu voorliggende ontwerp benadrukken de co-rapporteurs dat in Europa ontwikkelde en gebruikte kunstmatige intelligentie op de mens gericht en betrouwbaar moet zijn, en dat die technologie ten allen tijde de in de verdragen verankerde grondrechten en waarden van de EU moet eerbiedigen. Tegelijkertijd mag de regelgeving de technologische innovatie door Europese bedrijven niet belemmeren, maar moet zij die net verder ondersteunen.

Cruciale wetgeving

‘Het hele debat rond AI moet voornamelijk gezien worden binnen het Europese voornemen om een breder rechtskader te scheppen dat de verdere digitalisering van onze maatschappij in goede banen kan leiden,’ geeft CD&V- Europarlementslid Tom Vandekendelaere aan. Hij volgt het thema al een hele tijd op. ‘De nieuwe AI-wetgeving waarover we nu discussiëren, is wat mij betreft een van de meest cruciale binnen deze legislatuur met het oog op dat nieuwe wetgevend kader. We moeten op dat vlak echt een inhaalbeweging maken om het innovatie- en concurrentievermogen van de Europese bedrijven te versterken,’ klinkt het. ‘Maar tegelijk moeten we daarbij dus ook waken over de veiligheid en de grondrechten van de burgers en de consumenten.’

Concreet wil het EP de risico’s bij de inzet van AI beoordelen op basis van een zogenaamde risico-analysemethode die door de Commissie werd voorgesteld. AI-systemen met een onaanvaardbaar hoog risico die een duidelijke bedreiging vormen voor de veiligheid, bestaansmiddelen en rechten van mensen, worden verboden. Denk bijvoorbeeld aan AI-toepassingen die menselijk gedrag manipuleren om de vrije wil van gebruikers te omzeilen, zoals speelgoed met spraakondersteuning dat minderjarigen aanspoort tot gevaarlijk gedrag.

Sociale kredietscores

Andere toepassingen worden in functie van hun risiconiveau ingeschaald in een bepaalde categorie. Onder meer op basis van de graad van transparantie, het menselijk toezicht en de datakwaliteit. Ook moeten de verantwoordelijkheden duidelijk gedefinieerd worden. Vandekendelaere sluit zich bij die aanpak aan en vindt het een goede zaak dat ook zogenaamde sociale kredietscores door overheden wordt uitgesloten. Die worden vandaag al volop gebruikt in China, en delen burgers op basis van de sociale wenselijkheid van hun gedrag in een bepaalde categorie.

Volgens Amnesty International telde China in 2020 al 600 miljoen (!) camera’s op straat. Zij zijn ook uitgerust met gezichtsherkenning, waarmee mensen ook uit de massa gepikt kunnen worden, gaande van verkeersovertreders of winkeldieven tot spijbelende studenten of burgers die verdacht worden van politiek ongewenste activiteiten. Ook online-activiteiten worden massaal opgevolgd, zodat de overheid finaal een gedetailleerd beeld krijgt van het gedrag van individuele burgers en hen vervolgens daarvoor beloont of straft.

Chatbots

Europa zou bijvoorbeeld de gezichtsherkenning op luchthavens of andere openbare plaatsen stevig willen beperken, op enkele welomschreven uitzonderingen na. ‘Onder hoog risico-toepassingen zouden bijvoorbeeld de automatische correctie van examens of robotchirurgie kunnen vallen,’ geeft Vandenkendelaere aan. ‘Eerder laag risico is dan weer de inzet van zogenaamde chatbots door de overheid in de dienstverlening naar de burger toe. Tegelijk willen we ons in het AI-beleid naar het bedrijfsleven toe dan weer vooral focussen op startups en KMO’s. Denk bijvoorbeeld aan de mogelijkheid om data te delen én te anonimiseren. Zo kunnen we een ecosysteem scheppen dat technologische innovatie in Europa ten goede zal komen. Daarnaast moet Europa ook geld uittrekken om echte innovatiehubs te voorzien, wat alweer meer kansen moet bieden aan startups en KMO’s die rond deze technologie werken.’

Het EP heeft nu nog een week de tijd om amendementen aan te brengen bij de voorliggende ontwerptekst. Daarna volgen de debatten, en in het najaar wordt het rapport dan ter stemming voorgelegd in de plenaire vergadering. In de loop van de procedure volgt er ook overleg met de Europese raad, die uiteraard ook zijn zegen moet geven voor de nieuwe aanpak.

risico-analyse

Europa reguleert en beteugelt inzet van artificiële intelligentie