Per augustus 2024 regelt de Europese AI-wet welke toepassingen van kunstmatige intelligentie (AI) wel en niet zijn toegestaan, en aan welke voorwaarden AI-leveranciers en -gebruikers moeten voldoen bij het toepassen van de toegestane AI om compliant te worden en te blijven. De AI-wet (AI Act) is een verordening met risicocategorieën voor AI, bepalingen per risicocategorie en verplichtingen die afhangen van de rol van degene die de AI toepast. Hierdoor is de AI-wet geen eenvoudige wet die je simpelweg volgt en toepast. Hieronder lees je deel 2 van hoofdstuk 3 van het boek: De risicocategorieën van de AI Act.

Deel 1 uit hoofdstuk 3 – Wat is de AI Act – lees je HIER op dit blog. Een interview met de schrijver van het boek lees je HIER op dit blog.

De risicocategorieën van de AI Act

De AI Act gaat uit van risicocategorieën die gebaseerd zijn op de mate van risico die een AI-toepassing voor burgers vormt. Aan de hand van risicocriteria valt een AI-toepassing in een categorie en de AI Act geeft per categorie de bepalingen en voorwaarden waaronder men de desbetreffende AI mag leveren en gebruiken.

Laten we kijken naar de criteria voor deze risicocategorieën, inclusief voorbeelden als hulp bij het toepassen later. Hierbij geldt dat het zwaartepunt van de AI Act op de categorieën onacceptabel risico en hoog risico ligt. Vandaar ook dat we voor deze categorieën tevens naar subcategorieën van toepassingsgebieden kijken om te bepalen welke AI volgens de AI Act verboden is, en welke AI we alleen onder strenge voorwaarden mogen leveren en gebruiken.

AI met een onacceptabel risico

Deze categorie van AI vormt een directe bedreiging voor burgers en is daarom volgens de AI Act verboden. De AI Act verdeelt de verboden AI in de volgende subcategorieën:

• Social scoring AI Hieronder vallen toepassingen die mensen beoordelen, indelen en discrimineren op basis van hun sociale gedrag. Zo is er social scoring AI die mensen indeelt op grond van hun politieke voorkeur, of op basis van het soort berichten dat ze op sociale media leuk vinden.
• Manipulerende AI Dit zijn toepassingen die mensen onbewust manipuleren om hun beslissingen te beïnvloeden en ze aan te zetten tot oproer, geweld of ander ongewenst gedrag. Een voorbeeld van deze categorie is AI die een interview met een bekende opiniemaker bewerkt zodat het lijkt alsof de opiniemaker oproept tot bijvoorbeeld een bankrun.
• AI die biometrisch identificeert Tot deze categorie behoort AI die mensen op basis van lichamelijke en uiterlijke kenmerken in groepen verdeelt en discrimineert. Denk daarbij aan kenmerken zoals geslacht en ras, maar ook lengte en gewicht. Een voorbeeld is AI die de biologische leeftijd van personen bepaalt en ze in levensverwachtingsgroepen verdeelt op basis van hun lengte, gewicht, bloeddruk en hartslag in rust.
• AI voor risicobepaling van personen Dit is AI die op basis van karaktereigenschappen het risico bepaalt dat personen zich ongewenst zullen gaan gedragen. Een voorbeeld van deze categorie is AI die de kans dat iemand een crimineel wordt, inschat op basis van persoonlijkheidsgegevens zoals mate van geduld en emotiebeheersing.
• AI voor gezichtsherkenningsdatabases Hiertoe behoort AI die personen via beeldherkenning op basis van beeldmateriaal identificeert en hun gezichten en namen in een database opslaat. Een voorbeeld is AI die gezichtsfoto’s en namen uit Facebook in een eigen database verzamelt.
• AI die emoties van personen bepaalt in werk- of leersituaties Dit is AI die via beeldherkenning de emotionele toestand van personen bepaalt op basis van hun gezichtsuitdrukkingen zoals wenkbrauwen optrekken of fronzen. Zo is er AI die de gezichten van studenten tijdens tentamens scant om te bepalen of ze spieken.

Al deze subcategorieën bedreigen mensen in hun persoonlijke vrijheid en zijn daarom volgens de AI Act verboden.

AI met een hoog risico

Deze categorie bestaat uit AI die de rechten, gezondheid of veiligheid van burgers kan schaden. De AI Act staat gebruik van deze AI alleen onder strenge voorwaarden toe. De belangrijkste voorwaarde is dat mensen erop toezien dat deze AI geen burgers schaadt.

Wat betreft de toepassing van de AI Act door AI-leveranciers en -gebruikers ligt het zwaartepunt van de AI Act op deze categorie. Want dit is de categorie waarvoor de strengste en zwaarste bepalingen gelden met daardoor de meeste impact op AI-leveranciers en -gebruikers.

Daarom heeft de AI Act twee bijlagen met subcategorieën van hoogrisico-AI die ons helpen om dit te herkennen. Bijlage III (Annex III) geeft opzichzelfstaande AI-toepassingen met hoog risico weer. Bijlage I (Annex I) geeft een opsomming van embedded hoogrisico-AI die onderdeel zijn van voertuigen, machines of apparaten.

We beginnen met de subcategorieën van opzichzelfstaande hoogrisico-AI-toepassingen (Bijlage III):

• AI voor personeelsbeheer (HR) Bijvoorbeeld AI die de achtergrond van sollicitanten screent.
• AI voor onderwijs en training Dit is een variant op de AI voor personeelsbeheer en bepaalt bijvoorbeeld op basis van testresultaten de kans dat iemand met succes een training afrondt.
• Biometrische AI waar men toestemming voor geeft Bijvoorbeeld AI die na toestemming personen adviseert over leefstijl.
• AI voor essentiële infrastructuur Een voorbeeld is beeldherkennings-AI die ongelukken of files registreert en daarop de adviessnelheid instelt.
• AI voor publieke en persoonlijke dienstverlening Bijvoorbeeld AI die na toestemming de kredietwaardigheid bepaalt van iemand die een lening aanvraagt.
• AI voor asielaanvragen en grenscontrole Een voorbeeld is AI die visa-aanvragen beoordeelt.
• AI voor wetshandhaving Bijvoorbeeld AI voor daderprofilering.
• AI voor rechtspraak en de democratie Bijvoorbeeld AI die een rechtelijke uitspraak voorbereidt. Maar ook AI die ons stemgedrag bij verkiezingen voorspelt.

De andere subcategorieën bestaan uit voertuigen, machines of apparaten met een embedded AI-component uit de categorie hoog risico (Bijlage I):

• Treinen en railsystemen
• Scheepvaart met naast schepen ook bijvoorbeeld de aansturing van bruggen
• Tractors en landbouwapparatuur
• Vliegveldapparatuur en -voertuigen
• Alle motorvoertuigen en aanhangers, ook als ze zelfsturend zijn
• Medische apparatuur
• Industriële machines
• Verwarmings- en koelingsapparatuur zoals warmtepompen
• Persoonlijk beschermingsmateriaal zoals bouwhelmen met sensoren
• Meetapparatuur
• Liften
• Speelgoed
• Radio’s

Later in deze gids zien we dat inventariseren en categoriseren van je huidige AI de eerste stap is in compliant worden. Deze subcategorieën helpen je daarbij. Daarnaast gaat de EU een database met hoogrisico-AI aanleggen die (potentiële) gebruikers kunnen raadplegen.

AI met een beperkt risico

Tot deze categorie behoort AI die burgers kan misleiden, bijvoorbeeld door zich als een persoon voor te doen. De AI Act staat deze categorie toe onder voorwaarde dat voor de gebruikers altijd duidelijk is dat ze met AI te maken hebben. Verder moet transparant zijn op welke gegevens deze categorie AI zich baseert. Chatbots zijn een voorbeeld van AI met een beperkt risico.

AI met minimaal risico

De rest van de AI vormt geen of een minimaal risico voor burgers en de AI Act staat deze categorie zonder beperkingen toe. Een spamfilter in een e-mailprogramma is een voorbeeld van AI met een minimaal risico.

Risicocategorieën maken de AI Act algemeen toepasbaar Deze risicocategorieën dekken alle AI-soorten en toepassingen af. Immers, afhankelijk van het doel en de uitwerking van een AI-toepassing valt deze altijd in een van de categorieën.

Hierdoor hangt de AI Act niet af van specifieke AI-soorten en is de AI Act algemeen toe te passen; ook op toekomstige AI. Want ook nieuwe AI zal in meer of mindere mate een risico voor burgers vormen en daardoor in een van de categorieën van de AI Act vallen.

Naast dit interview Van theorie naar praktijk: De AI-wet toepassen in jouw organisatie hebben we nog meer blogposts over het gebruik van AI. Hieronder zie je verschillende voorbeelden. Je kunt ze HIER allemaal vinden.

Hans Frederiks

Hans Frederiks is journalist en fotograaf en hoofdredacteur van blog.computercreatief.nl. Hij schrijft over ontwikkelingen op het gebied van computers, van vormgeving op het web en print, en fotografeert al zijn hele leven lang. Zijn specialisaties zijn panorama’s, landschappen en podiumfotografie. Zijn blog vind je HIER, zijn boeken vind je HIER.