Casper Jaspers, expert op het gebied van AI en docent bij TML, vertelde in een eerder blog over de AI-Verordening en hoe dit de rol van juristen zal veranderen. In dit artikel geeft hij een aantal concrete praktijkvoorbeelden die aantonen dat de AI-regelgeving niet alleen van toepassing is op techbedrijven.

De AI-Verordening

Eerst nog even een korte samenvatting. De impact van de Europese AI Verordening (de AI–Verordening) op bedrijven en overheden kan aanzienlijk zijn, afhankelijk van de sector en het gebruik van AI. De verordening kan invloed hebben op zaken zoals databescherming, transparantie, verantwoordelijkheid en risicomanagement en -beoordeling.

De AI-Verordening hanteert een op risico gebaseerde benadering. De categorieën van AI-systemen zijn: systemen met een onaanvaardbaar risico; systemen met een hoog risico; en systemen met een beperkt of minimaal risico. AI-systemen die bijvoorbeeld de kredietwaardigheid van consumenten beoordelen of helpen bij het werven of managen van werknemers, worden beschouwd als systemen met een hoog risico, terwijl AI-gestuurd voorraadbeheer wordt beschouwd als systemen met een minimaal risico. Bedrijven zullen hun AI-systemen moeten evalueren en categoriseren op basis van deze risicoprofielen, en de wettelijke vereisten zullen variëren afhankelijk van het risiconiveau van het AI-systeem, waarbij strenge eisen zijn verbonden aan de hoog risicosystemen.

Bedrijven en overheden moeten ervoor zorgen dat ze voldoen aan de AI-regelgeving. Dit kan een complex proces zijn, vooral voor wereldwijd opererende bedrijven. De AI-verordening heeft bijvoorbeeld een extraterritoriale reikwijdte, wat betekent dat deze van toepassing is op elk AI-systeem dat output levert binnen de EU, ongeacht waar de leverancier of gebruiker is gevestigd.

Niet-naleving van de regelgeving kan leiden tot hoge boetes en kunnen op grond van de AI-verordening kunnen deze oplopen tot EUR 30 miljoen of 6% van de wereldwijde omzet, afhankelijk van de aard van de overtreding.

Hieronder zijn een aantal praktijkvoorbeelden gegeven:

Voorbeeld 1: Een Bedrijf in de Gezondheidszorg

Zorgondernemingen die AI gebruiken om diagnoses te stellen op basis van patiëntgegevens moeten, op grond van de AI-verordening, ervoor zorgen dat hun algoritme transparant is en eerlijke resultaten oplevert. Ze moeten ook risicobeoordelingen uitvoeren om eventuele negatieve gevolgen van de AI voor patiënten te identificeren. Dit betekent extra werk en mogelijk extra kosten voor het bedrijf, maar kan ook leiden tot verbeterde patiëntresultaten en vertrouwen in de technologie.

Voorbeeld 2: Een E-commerce Bedrijf

Een e-commerce bedrijf dat AI gebruikt om productaanbevelingen te personaliseren, zou moeten zorgen dat klanten begrijpen dat AI wordt gebruikt en hoe het hun winkelervaring beïnvloedt. Het bedrijf zou mogelijk ook toestemming moeten vragen aan klanten om hun gegevens te gebruiken. Dit kan de klanttevredenheid en het vertrouwen verhogen, maar kan ook leiden tot extra stappen in het koopproces, wat mogelijk sommige klanten kan afschrikken.

In beide gevallen zou de AI-verordening een meer transparante, verantwoordelijke en eerlijke omgang met AI bevorderen. Echter, het zou ook kunnen leiden tot extra kosten en inspanningen voor bedrijven om te voldoen aan de nieuwe eisen. Het effect op de bedrijfsresultaten zal variëren afhankelijk van hoe goed bedrijven zich aanpassen aan deze veranderingen.

Voorbeeld 3: Banken en Kredietrisico’s

Stel je een bank voor die AI gebruikt om kredietrisico’s te beoordelen en om te beslissen of ze leningen aan klanten zal verstrekken. Volgens de AI-verordening zou deze bank moeten zorgen dat haar algoritmen transparant zijn en eerlijke resultaten opleveren. De bank zal moeten kunnen aantonen hoe de AI tot een beslissing is gekomen, om te voldoen aan de eis van uitlegbaarheid van de AI-verordening.

Daarnaast zal de bank regelmatige risicobeoordelingen moeten uitvoeren om eventuele negatieve gevolgen van de AI voor klanten te identificeren. Als de AI bijvoorbeeld onbewust discriminerende beslissingen neemt op basis van factoren zoals leeftijd, geslacht of ras, zal dit moeten worden geïdentificeerd en gecorrigeerd.

Dit zou extra werk en potentieel extra kosten voor de bank kunnen betekenen, maar het zou ook kunnen leiden tot een eerlijker en transparanter kredietbeoordelingsproces. Dit kan op zijn beurt leiden tot een groter vertrouwen van klanten in het proces en mogelijk zelfs tot betere kredietbeslissingen, aangezien de AI mogelijk patronen kan identificeren die menselijke beoordelaars misschien over het hoofd zouden zien.