Tijdens de voorbereidingen van een interview met Tieme Woldman de schrijver van de Gids voor het toepassen van de EU-AI-wet, stuitte ik op een artikel op Androidworld over de beeldherkenningsmogelijkheden van Google. Meer precies: wat ‘ziet’ die beeldherkenning van Google op foto’s en wat voor conclusies trekt die AI over de inhoud van de foto’s. Programmeur Vishnu Mohandas, die jarenlang bij Google werkte, maakte bij zijn bedrijf Ente een tool waarmee je een foto kunt uploaden. Vervolgens wordt de foto geanalyseerd met de mogelijkheden die Google daarvoor heeft. Je schrikt je een ongeluk van de resultaten. AI in de Spotlights: De Schaduwkant van Google Foto’s.
Islamitische extremisten
De miljoenen gebruikers van Google Foto’s uploaden trouw hun foto’s naar die service en hebben geen idee wat Google met die foto’s doet. Ik ook niet. Dat Google ze analyseert, dat weet je natuurlijk wel. Er zit gezichtsherkenning in, er worden gebouwen op herkend enzovoort. Vishnu Mohandas, de programmeur, wilde laten zien wat Google allemaal uit je foto kan halen, of beter gezegd wat Google denkt dat er te zien is op je foto. Hij laadde een foto van zijn eigen gezin in die tool en zelfs hij was verbaasd over wat hij las. Ik citeer uit het artikel van Adroidworld:
Een foto van Mohandas zelf met zijn gezin voor een tempel in Indonesië werd door Google meteen opgepikt, zelfs tot het type horloge dat Mohandas vrouw om had. Sterker nog, het wist te vertellen dat de tijd op het horloge gelijk is aan de tijd in de afbeeldingsdata. En toen werd het echt eng: de AI zou opmerken dat het betreffende horloge volop worden geassocieerd met islamitische extremisten. Er worden allerlei assumpties gedaan. Er wordt zelfs besloten dat het koppel kleding aan heeft dat geschikt is voor toeristische uitstapjes, hun ouders waarschijnlijk Zuid-Aziatisch zijn en dat hun gezichten er tevreden uitzien.
Lees verder AI in de Spotlights: De Schaduwkant van Google Foto’s


















