Tijdens de voorbereidingen van een interview met Tieme Woldman de schrijver van de Gids voor het toepassen van de EU-AI-wet, stuitte ik op een artikel op Androidworld over de beeldherkenningsmogelijkheden van Google. Meer precies: wat ‘ziet’ die beeldherkenning van Google op foto’s en wat voor conclusies trekt die AI over de inhoud van de foto’s. Programmeur Vishnu Mohandas, die jarenlang bij Google werkte, maakte bij zijn bedrijf Ente een tool waarmee je een foto kunt uploaden. Vervolgens wordt de foto geanalyseerd met de mogelijkheden die Google daarvoor heeft. Je schrikt je een ongeluk van de resultaten. AI in de Spotlights: De Schaduwkant van Google Foto’s.

Islamitische extremisten

De miljoenen gebruikers van Google Foto’s uploaden trouw hun foto’s naar die service en hebben geen idee wat Google met die foto’s doet. Ik ook niet. Dat Google ze analyseert, dat weet je natuurlijk wel. Er zit gezichtsherkenning in, er worden gebouwen op herkend enzovoort. Vishnu Mohandas, de programmeur, wilde laten zien wat Google allemaal uit je foto kan halen, of beter gezegd wat Google denkt dat er te zien is op je foto. Hij laadde een foto van zijn eigen gezin in die tool en zelfs hij was verbaasd over wat hij las. Ik citeer uit het artikel van Adroidworld:

Een foto van Mohandas zelf met zijn gezin voor een tempel in Indonesië werd door Google meteen opgepikt, zelfs tot het type horloge dat Mohandas vrouw om had. Sterker nog, het wist te vertellen dat de tijd op het horloge gelijk is aan de tijd in de afbeeldingsdata. En toen werd het echt eng: de AI zou opmerken dat het betreffende horloge volop worden geassocieerd met islamitische extremisten. Er worden allerlei assumpties gedaan. Er wordt zelfs besloten dat het koppel kleding aan heeft dat geschikt is voor toeristische uitstapjes, hun ouders waarschijnlijk Zuid-Aziatisch zijn en dat hun gezichten er tevreden uitzien.

Een outdoorsy and active lifestyle

Die tool is dus online beschikbaar en gisterenavond voerde ik er wat foto’s in. En ook ik verbaasde me wat Google allemaal in een foto ziet of denkt te zien. Een voorbeeld van een selfie, die ik maakte op het panoramaduin in Petten, met striemende regen en wind om het thuisfront te laten weten hoe ik er aan toe was. Het regende behoorlijk, ik voelde me opgejaagd door wind en regen en wilde snel naar huis, weg uit de regen. Leuk dat Google denkt dat ik ergens in de zestig ben, dat mijn uitdrukking relaxed is en dat ik een outdoorsy and active lifestyle leef. Google ziet natuurlijk ook door de opgeslagen gps-info waar de foto genomen is. Ik leid niet echt een outdoorsy leven en relaxed voelde ik me op dat moment al helemaal niet. Oh ja, een mijn tanden zijn een beetje verkleurd suggesting age or habit. Wat voor habit zou dat dan wel zijn?

Na het lezen van het artikel in Androidworld voerde ik talloze foto’s in de tool. Het is ook een beetje verslavend om te zien wat Google denkt te vinden in de foto. Maar ook doodeng. Je bent middle of higher class, de bank ziet er wel een beetje worn uit en er worden allerlei conclusies getrokken over je lifestyle. Echt doodeng. Probeer het zelf maar eens: theyseeyourphotos.com.

Eigen schuld, dikke bult

Eigen schuld, dikke bult, zul je denken, dat weet je toch als je wat aan Google geeft. Tja, voor wat, hoort wat. Als je gebruik wilt maken van de handige mogelijkheden van Google Foto’s, dan is dit de tol die je moet betalen. Wil ik dat nog? En wat kan de EU AI-wet daarbij betekenen? 

In een artikel van Wired hierover wilde Google niet reageren en verwees het naar de supportpagina’s: Woordvoerder Colin Smith van Google weigerde rechtstreeks commentaar te geven op het project van Ente. Hij verwees WIRED naar de supportpagina’s die stellen dat uploads naar Google Photos alleen worden gebruikt om generatieve AI-modellen te trainen die mensen helpen hun beeldbibliotheken te beheren, zoals die welke de leeftijd en locatie van foto-onderwerpen analyseren. Het bedrijf zegt dat het de inhoud die is opgeslagen in Google Photos niet aan derden verkoopt of gebruikt voor reclamedoeleinden. Gebruikers kunnen enkele analysefuncties in Photos uitschakelen, maar ze kunnen Google niet volledig beletten toegang te krijgen tot hun afbeeldingen, omdat de gegevens niet end-to-end-gecodeerd zijn.

Mooi hoor die AI, maar ook eng en gevaarlijk. Daarom is het goed dat er wetten komen die je tegen misbruik van AI moeten (gaan) beschermen. Ondertussen kun je de tool van Ente proberen en kijken of je er net zo van schrikt als ik. (Of dat je het wel vermakelijk vindt en denkt: nou én!)

Meer lezen op dit blog over AI? Meer blogposts vind je hier:

Hans Frederiks

Hans Frederiks is journalist en fotograaf en hoofdredacteur van blog.computercreatief.nl. Hij schrijft over ontwikkelingen op het gebied van computers, van vormgeving op het web en print, en fotografeert al zijn hele leven lang. Zijn specialisaties zijn panorama’s, landschappen en podiumfotografie. Zijn blog vind je HIER, zijn boeken vind je HIER.