De Agencia Española de Protección de Datos start een onderzoek naar de populaire Spaanse supermarktketen Mercadona. De reden is dat de keten in een veertigtal van haar supermarkten gebruik maakt van camera’s met gezichtsherkenning. Critici vinden het systeem disproportioneel.
De technologie wordt geleverd door het Israëlische bedrijf AnyVision en zou in 0,3 seconden gezichten kunnen herkennen. Volgens Mercadona is het niet de bedoeling om de gezichtsscans van alle klanten te bewaren, maar wordt er alleen uitgekeken naar personen die door een rechtbank de toegang tot de supermarkt zijn ontzegd.Volgens de supermarktketen worden de gegevens in de databank gewist als er geen match gevonden wordt.
De Agencia Española de Protección de Datos vraagt zich vooral af waar de supermarktketen de informatie van de personen met een straatverbod vandaan haalt. De gezichtsherkenning is weliswaar bedoeld om diefstal in winkels tegen te gaan. Maar de software die in de testfase wordt gebruikt, is niet bedoeld om gewone winkeldieven in de winkel te zoeken, maar om de gezichten van wie een veroordeling heeft op te zoeken. De referentiefoto’s zouden dan ook afkomstig zijn uit rechtszaken.
Critici wijzen vooral op het disproportionele van de maatregel. Terwijl het slechts om een beperkt aantal mensen gaat die een veroordeling opgelopen hebben, worden de gezichten van alle winkelende klanten gescand. Zij vrezen dan ook dat de supermarktketen in een volgende fase, wanneer het systeem eenmaal geïnstalleerd is, andere bedoelingen heeft met de gezichtsherkenning.
In de afgelopen jaren hebben supermarktketens in verschillende Europese landen reeds proefprojecten met automatische gezichtsherkenning opgestart. In Duitsland bijvoorbeeld werd de technologie in 2017 in veertig winkels van de Real-keten getest. Na protesten besloot het bedrijf echter de test niet voort te zetten.In Nederland kwam vorig jaar een Jumbo-supermarkt in het nieuws omdat er al een tijdje camera’s met gezichtsherkenning hingen. Beelden van wie werd betrapt op winkeldiefstal werden bewaard in een database.
In strijd met de GDPR
Begin dit jaar noemde EU-commissaris Margrethe Vestager, verantwoordelijk voor concurrentie en digitale zaken, automatische gezichtsherkenning nog in strijd met de GDPR, omdat de technologie niet voldoet aan de voorwaarde van expliciete toestemming. Onder de GDPR wordt informatie over de gelaatstrekken van een individu als biometrische data gezien, en dat is volgens de wetgeving “gevoelige persoonlijke data”.
Recent nog wees de Nederlandse Autoriteit Persoonsgegevens de supermarkten op de regels rond de inzet van gezichtsherkenningscamera’s. Blijkbaar waren er de afgelopen tijd signalen dat verschillende supermarkten deze techniek willen inzetten.
“Gezichtsherkenning is een zwaar middel. Daarmee zijn mensen op grote schaal te volgen. Dat begint misschien bij een supermarkt, die met één druk op de knop kan opzoeken hoe vaak jij de winkel binnenkomt en wat jij dan koopt. Dat eindigt bij een situatie dat we continu gevolgd worden, met gezichtsherkenning in alle winkels en op straat. Zo’n surveillancesamenleving moeten we voorkomen. Bovendien gaat het om biometrische gegevens, net zoals vingerafdrukken. Het gebruik van dit soort gevoelige gegevens is in beginsel verboden.”
De Autoriteit Persoonsgegevens wijst er ook op dat de GDPR strikte eisen stelt aan de verwerking van biometrische gegevens, zoals bij vingerafdruk- of irisscans en stem- of gezichtsherkenning. Volgens de privacywet is het gebruiken van biometrische gegevens om iemand te identificeren in beginsel verboden. Dit geldt dus ook voor gezichtsherkenning. De enige uitzonderingen daarop zijn wanneer wie gefilmd wordt daar ook uitdrukkelijk toestemming voor heeft gegeven of wanneer gezichtsherkenning wordt ingezet voor beveiligings- of authenticatiedoeleinden, om een ‘zwaarwegend algemeen belang’ te dienen. De Autoriteit Persoonsgegevens merkt voor dat laatste fijntjes op dat de beveiliging van een supermarkt niet zó belangrijk dat daarvoor biometrische gegevens mogen worden verwerkt.
Gezichtsherkenning ligt onder vuur
Er zijn bovendien genoeg goede redenen om kritisch te blijven over het gebruik van automatische gezichtsherkenning. Het gaat immers om het registreren en analyseren van de lichaamskenmerken – en dus persoonsgegevens – zonder dat daar een gegronde reden voor is. Weliswaar is de kwaliteit van de gezichtsherkenning in de loop der jaren aanzienlijk verbeterd en is het foutenpercentages minder dramatisch dan een aantal jaren geleden. Tegelijk heeft die verbetering van de biometrische technologieën ook een enorm potentieel voor misbruik gecreëerd. Zo worden nu de onderscheidende kenmerken van bevolkingsgroepen beter herkend, wat dan weer aanleiding kan zijn voor geautomatiseerde discriminatie. Critici van gezichtsherkenning noemen het in dat verband onomwonden etnische profilering.
Bovendien bleek uit onderzoek van het Amerikaanse NIST dat de meeste algoritmes tien tot honderd keer meer false positives gaven bij Aziatische en Afrikaans-Amerikaanse gezichten wanneer foto’s met elkaar gematcht werden. Wordt er oor een gezicht een match gezocht in een database, dan worden de meeste fouten gemaakt bij zwarte Amerikaanse vrouwen.
Het is duidelijk dat dit niet de technologie is die we willen en al helemaal niet in de supermarkt.