Artificial intelligence is overal om ons heen: in zelflerende chatbots, in de gepersonaliseerde aanbevelingen in je supermarkt-app, in je slimme thermostaat. En ook in industriële robots, in irrigatiesystemen in de landbouw, en in fraudedetectiesystemen in de financiële dienstverlening. Op dit moment werkt de Europese Unie aan een AI-verordening om kunstmatige intelligentie te reguleren. En als jurist kun je daar maar beter op voorbereid zijn. Casper Jaspers, specialist op onder meer het gebied van kunstmatige intelligentie, vertelt waarom.

Wat houdt de AI-verordening in?
Casper: “De Europese Commissie kondigde in maart 2021 aan kunstmatige intelligentie te willen gaan reguleren, gebaseerd op diverse risicocategorieën. Onder de verboden categorieën valt onder andere real-time gezichtsherkenning in de publieke ruimte. In China worden bijvoorbeeld camera’s gebruikt om vast te stellen wie er door rood heeft gelopen, en bekeuringen worden vervolgens meteen digitaal verstrekt. Zoiets mag in de Europese Unie niet. Ook general purpose social scoring mag niet: het classificeren van mensen op basis van hun sociale gedrag, sociaal-economische status, en persoonlijke kenmerken, en op basis daarvan al dan niet toestemming geven om te reizen, of toegang te geven tot voorzieningen.

Daarnaast zijn er hoog risico categorieën. Dat gaat om producten die een impact hebben op de fundamentele rechten van burgers. Bijvoorbeeld credit scoring om je kredietwaardigheid vast te stellen met behulp van algoritmes. Of het inzetten van AI om te kijken wie er wordt toegelaten tot een universiteit of school. Bedrijven die producten in deze categorie produceren moeten aan specifieke eisen voldoen, waaronder voorafgaand testen van het AI-systeem en doorlopende monitoring, het bijhouden van een logboek en het vermijden van vooroordelen in datasets.

Ten slotte zijn er de laag risico producten, zoals chatbots. Die zijn toegestaan, maar wel met een transparantieverplichting: je moet gebruikers laten weten dat ze niet met een mens chatten maar met AI.”

Wanneer treedt de AI-verordening in werking?
“De doelstelling is dat men in november van dit jaar de finale teksten heeft. Dan kan de AI-verordening wellicht al op 1 januari 2024 in werking treden, of anders een half jaar later op 1 juli. Ondertussen wordt de roep om regulering steeds groter: door experts, filosofen en zelfs door AI-ondernemers. Er wordt zelfs gesproken over een vrijwillig kader genaamd het AI Pact, vooruitlopend op de verordening, omdat de urgentie wordt gevoeld.

Het is voor bedrijven daarom verstandig om nu al om na te denken over de impact van deze regelgeving op hun producten en softwaresystemen. Zeker als je producten maakt of toepast die in een hoog risico categorie zitten. Je zult dan veel technische aanpassingen moeten doen om je product te laten voldoen aan de nieuwe richtlijnen. Vergelijk het met de AVG: toen die werd ingevoerd, werden veel bedrijven daardoor overvallen – en nog steeds zie je bedrijven die niet aan de regelgeving voldoen. Daaruit moeten we lering trekken: je moet je op tijd gaan voorbereiden op de invoering van de AI-verordening.”

Beseffen juristen de impact van de AI-verordening?
“We moeten in ieder geval af van de gedachte dat dit alleen voor technologiebedrijven van toepassing is. Een brede groep bedrijven, cross-sectoraal, zal geraakt worden door deze regelgeving. In de financiële sector wordt bijvoorbeeld veel kunstmatige intelligentie gebruikt. En zelfs als je spullen koopt in de supermarkt, worden de aanbevelingen in je app gedaan door AI. Artificial intelligence wordt ook toegepast in allerlei productieprocessen, bij het gebruik van digital twins, bij predictive maintenance, enzovoorts. Als iemand mij zou vertellen dat in zijn bedrijf of organisatie totaal geen artificial intelligence wordt gebruikt, zou mij dat echt verbazen.

Je moet ook niet onderschatten hoe veel tijd en moeite het gaat kosten om in kaart te brengen welke algoritmes er allemaal worden gebruikt, te bepalen in welke risico categorie die vallen, en vervolgens maatregelen te nemen om aan de wetgeving te gaan voldoen. Dat vergt flink veel tijd én samenwerking tussen legal en IT. Er zal management buy-in nodig zijn, en het hele proces moet waarschijnlijk vormgegeven worden onder verantwoordelijkheid van een Chief Technology Officer of de CEO. Zorgvuldigheid is daarbij belangrijk, zeker voor corporates die wellicht eerder in het vizier komen van de media en de politiek. Maar ook voor de overheid – denk maar aan de kinderopvangtoeslagaffaire. Om het reputationele risico te beperken en claims te voorkomen, is het van groot belang om alles goed op orde te hebben – en daar dus op tijd mee te beginnen.”

Wat betekent de AI-verordening voor de rol van de jurist?
“De hele governance met betrekking tot de productie of het gebruik van AI zal anders ingericht moeten worden. De in-house jurist of de advocaat zou al in de vroege ontwikkelingsfase betrokken moeten worden om ervoor te zorgen dat het product aan de regels voldoet. Doe je die check pas achteraf, dan wordt het veel lastiger.

Verder zul je moeten gaan nadenken over de open normen die in de regels staan. Het algoritme moet bijvoorbeeld ‘eerlijk’ zijn. Wat betekent dat voor jullie product? Daarop bestaat geen goed of fout antwoord. Het is een ethisch en filosofisch vraagstuk. En je zal aan de toezichthouder moeten laten zien welke afwegingen je hebt gemaakt. Daarbij zul je ook vanuit ESG-perspectief moeten gaan kijken. Je moet bijvoorbeeld vaststellen wat de impact van de AI-toepassing is op de fundamentele rechten van klanten én je eigen werknemers. En wat is de klimaat-impact van alle datacenters die nodig zijn om de algoritmes uit te voeren? Dat zijn vraagstukken die verder gaan dan alleen ‘wat staat er in de wet?’

In de module AI-verordening van het Tech Meets Law programma AI meets Law maak ik heel concreet hoe je de AI-verordening als jurist in de praktijk toepast. We nemen onder meer een framework door dat je van begin tot eind helpt bij alle juridische aspecten: vanaf het design van het AI-product tot aan het op de markt brengen. Waar moet je aan denken, wie moet je betrekken, welke stappen moet je nemen, wat betekent dat voor jou als jurist? Door nu al bij die vragen stil te staan, bereid je je goed voor op de invoering van de AI-verordening.”