AI voor iedereen is een baanbrekend boek dat de ethische en maatschappelijke uitdagingen van kunstmatige intelligentie blootlegt. Het maakt duidelijk hoe AI zonder zorgvuldige ontwerpprincipes kan leiden tot discriminatie en ongelijkheid. Aan de hand van historische en hedendaagse voorbeelden, nationale en internationale casussen, illustreert het de dringende noodzaak van inclusieve en eerlijke technologie. Het biedt niet alleen een diepgaande analyse, maar ook praktische richtlijnen voor de ontwikkeling van ethische AI-systemen. In het boek komen meer dan 60 deskundigen uit diverse disciplines aan het woord. Zij delen hun inzichten en ervaringen over de kansen en risico’s van AI en laten zien hoe we kunnen bouwen aan een toekomst waarin technologie wordt ingezet voor het oplossen van maatschappelijke problemen en het bevorderen van duurzame ontwikkeling. Hieronder lees je het eerste deel van hoofdstuk 2: Wat is responsible AI?

“AI was a cultural phenomenon long before it was a technological one.”
– Stephen Cave en Kanta Dihal, auteurs van Imagining AI

“Computer systems are produced, distributed, and used by people engaged in social practices and meaningful pursuits. This is as true of current computer systems as it will be of future computer systems. No matter how independently, automatic, and interactive computer systems of the future behave, they will be the products (direct or indirect) of human behavior, human social institutions, and human decision.”

Dit citaat komt uit het werk van Deborah Johnson, gepubliceerd in 2006. Het benadrukt het idee dat ongeacht de autonomie en groeiende complexiteit van toekomstige computersystemen, deze nogsteeds het resultaat zullen zijn van menselijke handelingen, beslissingen  en sociaal-culturele invloeden. Johnson gebruikt dit perspectief om aan te tonen dat technologie, hoe geavanceerd ook, fundamenteel verbonden blijft met de menselijke samenleving en door mensen gestuurde processen.

In het artikel Can Artificial Intelligence Embody Moral Values? Bespreken de auteurs hoe AI kan worden ontworpen om morele waarden zoals eerlijkheid, rechtvaardigheid en het voorkomen van negatieve (bij)effecten, te integreren in haar besluitvormingsprocessen. Dit werpt een nieuw licht op de traditionele opvatting dat technologie altijd neutraal is. De focus ligt specifiek op zogenoemde ‘artificiële agenten’, oftewel AI-systemen die zelfstandig doelen nastreven en beslissingen nemen. Door morele waarden expliciet te verwerken in de algoritmen die hun gedrag sturen, kunnen deze systemen consistent handelen volgens ethische principes.

De onderzoekers bespreken twee methoden om AI te voorzien van morele richtlijnen. De eerste methode, bekend als ‘artificieel geweten’ (artificial conscience), verfijnt taalmodellen met datasets die morele scenario’s bevatten, zodat het systeem acties kan evalueren op hun ethische impact. De tweede methode, ‘ethische prompting’ (ethical prompting), instrueert AI expliciet om bepaalde ethische waarden te volgen in haar werking. Uit simulaties blijkt dat AI-systemen die zijn ontworpen met deze methoden ethischere keuzes maken dan systemen zonder deze modellen. Dit toont niet alleen aan dat AI morele waarden kan belichamen, maar ook dat we dit intentioneel kunnen ontwerpen om ethisch verantwoorde beslissingen te garanderen.

De mogelijkheid om AI morele waarden mee te geven, zoals besproken in het eerste deel, benadrukt hoe belangrijk het is om bewuste keuzes te maken bij het ontwerpen en toepassen van AI-systemen.

Ethiek in AI: principes en praktijken

Naast de morele verantwoordelijkheid is het noodzakelijk om AI-systemen te reguleren en risico’s te beheersen. Hier komt een risico-gebaseerde aanpak in beeld, waarbij ethiek, transparantie en menselijke controle essentieel zijn om AI op een veilige en betrouwbare manier in te zetten.

Wanneer we het hebben over ethische AI, responsible AI, wiens ethiek bedoelen we dan? Welke moraal verweven we in de algoritmen? Als het gaat om ‘goede’ of ‘nuttige’ AI, voor wie precies is het dan goed? Wat voordelig is voor mij, kan schadelijk zijn voor jou en andersom. Hier moeten we met zijn allen constant bij stilstaan. Misschien kan UNESCO ons hierbij helpen.

UNESCO publiceerde in november 2021 de eerste mondiale standaard voor AI-ethiek: de Recommendation on the Ethics of Artificial Intelligence. Deze geldt voor alle 194 lidstaten van UNESCO en benadrukt de bescherming van mensenrechten, menselijke waardigheid, transparantie, eerlijkheid en menselijke controle over AI.

Principes:

• Evenredigheid en geen schade berokkenen.
• Veiligheid en beveiliging.
• Eerlijkheid en non-discriminatie.
• Duurzaamheid.
• Recht op privacy en gegevensbescherming.
• Menselijke controle en besluitvorming.
• Transparantie en uitlegbaarheid.
• Verantwoordelijkheid en aansprakelijkheid.
• Bewustzijn en geletterdheid.
• Multi-stakeholder en adaptieve governance en samenwerking.

Het lijkt zo eenvoudig! Als we allemaal trouw blijven aan deze waarden en principes, zou het toch goed moeten komen? Helaas blijkt de praktijk weerbarstig. Door allerlei (soms legitieme) redenen, maar vaak ook door winstbejag en gemakzucht, blijft de daadwerkelijke naleving vaak achter.

Waar de UNESCO-richtlijnen duidelijkheid bieden over morele principes, legt Aaron Mirck bloot hoe commerciële belangen deze idealen vaak in de praktijk uitdagen. “Microsoft heeft grote praatjes over ‘AI als de oplossing voor het klimaatprobleem’, terwijl ze ondertussen AItools verkopen aan olie- en gasbedrijven om meer olie te winnen. Het is een typisch voorbeeld van hoe AI wordt gebruikt, niet voor het algemeen welzijn, maar voor industriële winst. Je kunt het nog politieker maken door te kijken naar automatische bombardementen, social security in China of politieke campagnes die beïnvloed zijn door Cambridge Analytica. AI wordt op veel manieren gebruikt die niet overeenkomen met wat je zou verwachten van technologie voor het goede.”

Hoe kunnen deze waarden en principes worden vertaald naar concrete beleidsmaatregelen en technische implementaties? Dit bespreken we in het volgende deel.

AI-regulering en risico-gebaseerde aanpak

AI-regulering ontwikkelt zich steeds meer op basis van een risico-gebaseerde aanpak. Hierbij worden verplichtingen opgelegd afhankelijk van het risiconiveau van het systeem. Meestal wordt een indeling gemaakt in drie risicocategorieën: laag risico,middelmatig risico en hoog risico. Om de risico’s van AI te beoordelen en te beperken, zijn menselijke controle, AI-audits, transparantie en uitlegbaarheid essentieel.

Risiconiveaus en zorgen

Het gebruik van AI voor bijvoorbeeld schaakspellen valt in de categorie laag risico. AI-toepassingen bij personeelswerving brengen echter middelmatige risico’s met zich mee, zoals mogelijke discriminatie op basis van bijvoorbeeld geslacht of ras. Bij AI-gestuurde systemen voor medische chirurgie of zelfrijdende auto’s, waar real-time beslissingen cruciaal zijn, spreken we van hoge risico’s. Dergelijke risico’s zijn systematisch, langdurig of moeilijk terug te draaien.

Privacy vormt een andere grote uitdaging bij AI-gebruik. De datasets die worden gebruikt om foundationmodellen en machinelearningsystemen te trainen, bevatten vaak persoonlijke gegevens die zijn verkregen/ gebruikt zonder toestemming. Chatbots hebben in sommige gevallen persoonlijke informatie uit trainingsdata gereproduceerd als antwoord op vragen. Wetgeving rondom privacy en gegevensbescherming legt organisaties verplichtingen op, zoals het beveiligen van data, het minimaliseren van gegevensverzameling en het verkrijgen van toestemming voor gebruik. Het is dus zaak dat dit ook bij AI nageleefd wordt.

AI-tools worden ontwikkeld door middel van training met grote hoeveelheden data, waaronder boeken, tijdschriften, kranten, films en muziek. Deze aanpak heeft geleid tot toenemende zorgen onder makers, die aangeven dat hun werk zonder toestemming is gebruikt. In reactie daarop hebben sommige makers juridische stappen ondernomen tegen bedrijven die deze tools ontwikkelen. Om deze uitdagingen aan te pakken, ontstaan er initiatieven die gericht zijn op het bevorderen van eerlijke en transparante praktijken in het trainen van AI-modellen. Zo bestaan er programma’s die certificaten aanbieden aan AI-systemen die zijn getraind op data waarvan de makers eerlijk worden beloond: www.fairlytrained.org.

Florian van der Steen, MSc Artificial Intelligence, benadrukt hoe regulering privacy beschermt, maar ook technische oplossingen zoals differential privacy vereist om effectief te zijn.

“Tijdens mijn stage bij het ministerie van Financiën heb ik specifiek gekeken naar protocollen om algoritmes te testen op eerlijkheid, zonder de privacy te schenden. Een voorbeeld hiervan is het gebruik van differential privacy. Differential privacy is een techniek die wordt gebruikt om de privacy van individuen in datasets te beschermen. Hierbij wordt ‘ruis’ (willekeurige veranderingen) toegevoegd aan de gegevens. Dit zorgt ervoor dat individuele records niet direct te herleiden zijn, terwijl de dataset als geheel nog steeds bruikbaar blijft voor analyses. Zo kunnen onderzoekers of systemen trends en patronen ontdekken zonder de privacy van specifieke personen te schenden.

Hierdoor kun je nog steeds beoordelen of een algoritme discrimineert, zonder dat de privacy van individuen in gevaar komt.

Het realiseren van een AI-systeem dat zowel eerlijk is als de privacy waarborgt, blijkt echter zeer complex. De overheid moet zekerheid hebben dat haar systemen voldoen aan bepaalde eisen, zonder dat ze volledig inzicht krijgt in de data. Dit leidt tot moeilijke afwegingen tussen nauwkeurigheid en eerlijkheid, waarbij ruis en differential privacy wel kunnen helpen, maar geen absolute garanties bieden. Het is een politiek geladen probleem dat zich uit in technische uitdagingen.”

Meer lezen over AI?