Per augustus 2024 regelt de Europese AI-wet welke toepassingen van kunstmatige intelligentie (AI) wel en niet zijn toegestaan, en aan welke voorwaarden AI-leveranciers en -gebruikers moeten voldoen bij het maken en toepassen van de AI. De AI-wet is geen eenvoudige wet die je simpelweg volgt en toepast. Het is eerder een veelomvattende verordening waarbij AI-leveranciers en -gebruikers zelf moeten bepalen welke onderdelen voor hen gelden en hoe ze daar invulling aan geven. De Gids voor het toepassen van de EU AI-wet van auteur Tieme Woldman helpt AI-leveranciers en -gebruikers om de AI-wet toe te passen. Het doet dat door inzicht te geven in wat de AI Act is en door de stappen te beschrijven die men moet uitvoeren om compliant te worden en te blijven. We vroegen Tieme wat die AI-wet precies inhoudt en wat makers en gebruikers van AI eruit kunnen leren. Van theorie naar praktijk: De AI-wet toepassen in jouw organisatie…

Wet of verordening?

Voor wie heb je dit boek geschreven?
Tieme Woldman: ‘Ik heb het boek geschreven voor alle AI-leveranciers en gebruikers van AI. Die AI-wet is namelijk voor beide ‘rollen’ van toepassing. Hoewel het een wet genoemd wordt, is het in praktische zin een soort verordening. Dat betekent dat je hem niet zomaar kunt invoeren en interpreteren en dan ben je klaar. Bij een doorsnee wet heb je een aantal regels die je interpreteert en toepast en dan voldoe je wel of niet aan de wet. Maar omdat AI zo veelzijdig is en zoveel verschillende toepassingen kent, lukt het niet om die zomaar in een in een eenvoudig stelsel van regels te vangen. De AI-wet is meer een verordening met allerlei bepalingen, waarbij de leveranciers en gebruikers zelf moeten vaststellen waar ze precies binnen die wet vallen en welke regels ze voor hun AI moeten toepassen.’

Wat is het doel van de AI-wet?
TW: ‘De wet moet ons beschermen tegen de keerzijde van AI en is er om veilige AI te stimuleren. AI heeft enorm veel potentieel, maar kwaadwillige mensen kunnen er ook heel foute dingen mee doen. De Europese Unie heeft dat vrij snel onderkend en daar actie op ondernomen door de AI-Act, de AI-wet in te voeren’

Waarom heb je dit boek geschreven?
TW: ‘De AI-wet is zo opgesteld dat je de AI die je levert of gebruikt indeelt in verschillende risicogroepen. Afhankelijk van de risicogroep waarin die AI valt, moet je bepaalde maatregelen in je organisatie doorvoeren om veilig met die AI om te gaan. Omdat er nogal wat acties worden verwacht van die leveranciers en gebruikers heb ik deze gids geschreven om ze daarbij te helpen.’

Technical writer

Wat maakte je geschikt als schrijver van dit boek?
TW: ‘Ik ben zowel softwareontwikkelaar als technical writer. De meeste programmeurs hebben een hekel aan het schrijven van documentatie voor gebruikers en ik was een van de weinige programmeurs die dat wel leuk vond. Van daaruit ben ik steeds meer gaan technische documentatie gaan schrijven. Ik schrijf artikelen voor Frankwatching, schrijf how-to’s enzovoort. Bij Frankwatching had ik een aantal artikelen geschreven over die EU AI-wet en zo is het idee ontstaan voor deze gids.’

Je schrijft ook fictie…
TW: ‘Ja, maar daar is gewoon helemaal geen boterham mee te verdienen. Ik vind het leuk om te schrijven en daarom ben ik ook creatief gaan schrijven. De meeste schrijvers van fictie moeten er nog dingen bij doen om een behoorlijk inkomen te vergaren. Die kunnen ook niet van hun boeken leven.’

Wie is verantwoordelijk: leverancier of gebruiker?

Tijdens het lezen van je boek vroeg ik me af of de bal niet voornamelijk ligt bij de makers en leveranciers van die AI. De gebruikers moeten toch uit kunnen gaan van een product dat voldoet aan die wet?
TW: ‘Dat ben ik helemaal met je eens. Het is ook nog afwachten hoe die wet straks toegepast gaat worden. Er zal ook nog jurisprudentie en dergelijke opgebouwd moeten worden. Het is aannemelijk dat het zwaartepunt bij de leveranciers komt te liggen. Toch zijn ook de gebruikers verantwoordelijk voor de manier waarop ze AI gebruiken.’ 

Ik las bijvoorbeeld dat je het erbij moet vermelden als je ChatGPT hebt gebruikt…
TW: ‘Zeker! Je zult moeten aangeven dat een tekst is gemaakt met ChatGPT of dat je een afbeelding met AI hebt gemaakt. En, afhankelijk van hoe je het toepast, kan het in verschillende risicogroepen vallen. Als je het gebruikt om een tekst te schrijven, valt het in de laagste risicogroep. Maar je kunt de chatbot ook gebruiken om sollicitatiebrieven te beoordelen en dan gelden er ineens heel andere regels en valt het ineens in een hoogrisicogroep. Op dat moment is de gebruiker van de AI verantwoordelijk en heeft de leveranciers er op dat moment geen invloed op.’

Je beschrijft in je boek een aantal verschillende cases, zowel vanuit het perspectief van de leverancier als van de gebruiker. Kun je daar wat meer over vertellen?
TW: ‘Ik heb geprobeerd dit boek geschikt te maken voor organisaties van allerlei soorten en groottes: van eenmanszaken en multinationals tot overheidsorganisaties. Al deze partijen krijgen ermee te maken, en daarop heb ik de cases gebaseerd. Cases zijn hier het meest geschikt, omdat het leerzame en concrete voorbeelden zijn. Aan de hand van een case kun je een vertaalslag maken naar je eigen situatie. Daarnaast heb ik een koppeling gemaakt met het ESG-mechanisme: Environmental, Social, en Governance. Dat is vooral relevant voor grote organisaties, terwijl eenmanszaken daar meestal minder mee bezig zijn. Door dat in de cases te verwerken, kunnen ook grote bedrijven zich hierin herkennen.’

Sollicitatiebrieven selecteren

Een van de cases gaat over sollicitatiebrieven, waar je het net over had. Je beschrijft bijvoorbeeld een bedrijf dat software heeft ontwikkeld om snel een eerste selectie van sollicitatiebrieven te maken, en een klant die die software wil gebruiken. Hoe moeten die leverancier en gebruiker dat volgens de wet aanpakken?
TW: ‘Als gebruiker moet je controleren of de leverancier voor die software een DoC heeft, een declaration of conformity en deze met de software meelevert. De leverancier heeft de verplichting om zo’n DoC op te stellen. Daarin geeft die leverancier aan in welke risicocategorie de software valt. De software waar we het hier over hebben, valt in de categorie hoog risico 1. De gebruiker heeft als belangrijkste verplichting dat er menselijk toezicht is bij het toepassen van deze AI-software. In de organisatie moet het bedrijf procedures opstellen en mensen aanwijzen die periodiek de resultaten controleren. Hoe heeft de AI een brief beoordeeld? Is er positief of negatief geoordeeld, en op grond waarvan? Het gaat erom dat mensen niet onterecht uitgesloten zijn van de sollicitatie. De software moet geen bias, geen vooringenomenheid hebben.’

De vooringenomenheid van de AI wordt veroorzaakt door de manier waarop de software is ontwikkeld. De verantwoordelijkheid ligt uiteindelijk bij de leverancier. Als je nu in de winkel een elektrisch apparaat koopt, heeft dat bijvoorbeeld een KEMA-keurmerk. Dat keurmerk geeft je de zekerheid dat je het apparaat veilig kunt gebruiken, zoals dat het niet in brand vliegt als je het in het stopcontact steekt.
TW: ‘De leverancier is verplicht om aan te geven hoe de AI getraind is en welke datasets daarvoor gebruikt zijn. Op basis van die informatie moet zichtbaar zijn of er sprake is van bias, oftewel vooringenomenheid. De leverancier moet kunnen aantonen dat de AI tijdens het doornemen van sollicitatiebrieven niet alleen witte mannen van 40 tot 50 jaar positief beoordeelt, maar ook andere groepen eerlijk behandelt. Tegelijkertijd heeft de gebruiker van de software ook een verantwoordelijkheid. De gebruiker moet met eigen tests controleren of de AI-software daadwerkelijk functioneert zoals beloofd. Zo wordt de verantwoordelijkheid gedeeld tussen de leverancier en de gebruiker.’

Net als de cookiewet?

Toen ik over de AI-wet las moest ik meteen denken aan de cookiewet, zoals ik die maar even noem. Die wet zorgt voor heel veel ergernis bij de gebruikers en heeft niet opgelost waarvoor die bedoeld was: privacybescherming. Iedereen klikt gewoon op ja, om er maar vanaf te zijn…
TW: ‘Dat is ook wel een beetje de vrees bij de AI-wet, want er is wel al commentaar op. De AI-wet moet zich nog in de praktijk gaan bewijzen. Een van de commentaren is dat de grote leveranciers hele batterijen aan advocaten hebben, die op papier het zo kunnen spinnen dat de AI voldoet aan de AI-wet. Dan is het op papier misschien dichtgetimmerd, maar voor de gebruiker is het heel onhandig.’

Nog een probleem van de wet: AI ontwikkelt zich zo razendsnel, je weet niet wat er allemaal gaat komen. De wet die loopt dan meteen achter.
TW: ‘De makers van de wet hebben geprobeerd het slim aan te pakken. Bij de wet gaan ze uit van risicocategorieën, waardoor je een raamwerk hebt, waarin je de huidige en hopelijk ook nieuwe en nog te ontwikkelen AI in kunt vangen. Welke AI je ook ontwikkeld, die zal altijd een zeker risico voor de gebruikers in zich hebben. Er zit een vangnet in de wet om ook nieuwe AI in die verschillende categorieën te vangen. Uiteindelijk zal in de praktijk moeten blijken of dat ook zo is.

Naast dit interview Van theorie naar praktijk: De AI-wet toepassen in jouw organisatie hebben we nog meer blogposts over het gebruik van AI. Hieronder zie je verschillende voorbeelden. Je kunt ze HIER allemaal vinden.

Hans Frederiks

Hans Frederiks is journalist en fotograaf en hoofdredacteur van blog.computercreatief.nl. Hij schrijft over ontwikkelingen op het gebied van computers, van vormgeving op het web en print, en fotografeert al zijn hele leven lang. Zijn specialisaties zijn panorama’s, landschappen en podiumfotografie. Zijn blog vind je HIER, zijn boeken vind je HIER.