Dit weekend treedt Europese regelgeving over artificiële intelligentie in werking. In theorie legt ze AI en gezichtsherkenning aan banden, in de praktijk wordt er net méér mogelijk. Bruno Struys vraagt zich in De Morgen af wat dit voor België betekent.
(…) Hoewel de AI-verordening is bedacht om realtimegezichtsherkenning in de openbare ruimte te verbieden, wordt er nu net veel mogelijk. Vanaf 2 februari kunnen lidstaten biometrische gegevens gebruiken voor de opsporing van ontvoerde personen, acute terreurdreigingen en identificatie van zware criminelen. “De lijst met uitzonderingen is zo groot dat de uitzondering eigenlijk de regel wordt”, zegt strafrechtonderzoeker Sofie Royer van de KU Leuven.
Dat de Belgische politie én politici vragende partij zijn voor het gebruik van gezichtsherkenning, bleek in het verleden al toen een paar uitschuivers aan het licht kwamen. Speurders van de federale gerechtelijke politie die (illegaal) experimenteerden met ClearView AI. De federale politie die een proefproject met automatische gezichtsherkenning op de luchthaven van Zaventem moest stopzetten, wegens ook al niet legaal. Vooruit-voorzitter Conner Rousseau die aankondigde dat hij camera’s met gezichtsherkenning wil inzetten tegen sluikstorters. Steden als Gent en Antwerpen die experimenteren met slimme camera’s tegen sluikstorten. Het is duidelijk dat politie en politici staan te trappelen om die meer dan 15.000 camera’s ook in te zetten voor gezichtsherkenning. Een deel daarvan is daar overigens technisch al klaar voor.
Het is dus aan de Belgische wetgever om nu aan de slag te gaan met die Europese verordening. Het staat ons land vrij om strenger te zijn en gezichtsherkenning voor politiediensten te verbieden, maar dat lijkt niet de voorkeur van de Arizona-coalitie die in de maak is. De onderhandelingsnota rond het thema veiligheid vermeldt dat er bij de veiligheids- en inlichtingendiensten experimenten moeten komen voor de opsporing van veroordeelden en verdachten. De onderhandelaars willen ook de camerawetgeving verruimen.
Onder meer de Liga voor Mensenrechten heeft ernstige bezwaren tegen de vele uitzonderingen die de AI-verordening toelaat. Zij wil een totaalverbod. Haar belangrijkste bezorgdheid is dat de gedefinieerde categorieën van misdrijven te ruim zijn en na verloop van tijd enkel ruimer zullen worden. De Liga vreest ook dat bepaalde “gemarginaliseerde bevolkingsgroepen” hierdoor meer geviseerd zullen worden en dat politiedatabanken vatbaar zijn voor misbruik.
Nu al heeft de Controlecommissie voor Politiegegevens in rapporten vastgesteld dat agenten de bestaande databanken al te vaak onrechtmatig raadplegen. Onlangs is een agent schuldig bevonden aan 108.000 opzoekingen, waaronder privégegevens van zijn collega’s.
In de Verenigde Staten gebruiken politiediensten gezichtsherkenning al langer en blijken agenten die inderdaad ruimer te gebruiken dan wat strikt genomen is voorzien, zo blijkt uit onderzoek van The Washington Post. Zeker acht Amerikanen zijn al verkeerdelijk gearresteerd na het gebruik van gezichtsherkenningssoftware.
Hellend vlak
Zowel de Liga als onderzoeker Sofie Royer vragen al langer om een parlementair debat over het gebruik van AI door de politie. “Eens zo’n technologie wordt ingevoerd, weten we dat ze nog moeilijk teruggedraaid wordt”, zegt Royer.
Er ligt overigens al een wetsvoorstel in het parlement klaar dat de uitzonderingen uit de Europese verordening overneemt, maar volgens Royer is het haastwerk. Zo zouden er onvoldoende waarborgen zijn ingebouwd tegen misbruik en willekeur. Het wetsvoorstel voorziet dat de politie dergelijke software enkel mag gebruiken mits toestemming en controle door een procureur des konings, maar dus niet door een onafhankelijke onderzoeksrechter.
Bovendien kan er een hellend vlak ontstaan, waarbij binnenkort ook kleinere misdrijven opgespoord worden. Een typisch voorbeeld zijn de vele camera’s in het straatbeeld. Royer: “Toen ze werden ingevoerd, zouden ze dienen om zware criminaliteit en terrorisme op te sporen, intussen worden ze gebruikt voor foutparkeerders en sluikstorters.”
Europa laat gezichtsherkenning toe, maar experts waarschuwen voor misbruik en willekeur