De verordening van de Europese Unie over de regulering van artificiële intelligentie (kortweg AI Act) beloofde ‘mensgericht’ te zijn. Biometrische real-time monitoring met AI wordt bijvoorbeeld verboden, net als ‘social scoring’ op basis van het (negatieve) Chinese model of nog emotieherkenning op de werkplek en op scholen. Het is wereldwijd de eerste regelgeving in zijn soort en op het eerste gezicht lijkt het alsof de wetgevers de potentiële gevaren van AI-ondersteunde fulltime surveillance hebben begrepen en onderkend. Maar helaas alleen op het eerste gezicht.
Sinds 2 februari 2025 zijn de eerste maatregelen van de verordening van kracht, andere belangrijke maatregelen volgen in augustus en over andere moet nog worden onderhandeld. De tekenen zijn echter niet in het voordeel van de gegevensbescherming: sommige Europese lidstaten kondigden al aan dat ze de lat voor onaanvaardbare praktijken lager willen leggen. Hieronder vallen beperkingen op AI-ondersteunde analyse van openbare camerabeelden en emotieherkenning in grensgebieden.
Tegen deze achtergrond krijgt ‘mensgericht’ een heel andere betekenis. Tussen de oorspronkelijke bedoelingen en de feitelijke tekst van de wet ligt een wereld van verschil. Hoe is dat zo gekomen? Welke spelers waren betrokken bij deze koerswijziging? En welke belangen streefden ze na? Investigate Europe, een collectief van onderzoeksjournalisten, kon de hand leggen op interne documenten waaruit blijkt hoe sommige Europese lidstaten aandrongen op meer en meer surveillance. Daarvoor maakten ze gebuik van het bekende toverwoord: veiligheid. Onder meer Frankrijk zette stevige druk om strengere regelgeving af te zwakken, waardoor bijvoorbeeld politie en grensbewakers meer vrijheid krijgen om burgers in het geheim te surveilleren.
Investigate Europe vatte het zo samen:
“(…) krijgen regeringen in de hele Europese Unie de macht om AI-gestuurde technologieën in te zetten die burgers volgen in de openbare ruimte, realtime surveillance uitvoeren op vluchtelingen in grensgebieden en gezichtsherkenningstools gebruiken tegen mensen op basis van hun vermoedelijke politieke voorkeur of religieuze overtuiging.”
De oorspronkelijke bedoeling van de AI ACT was de bezorgdheid over vooringenomenheid en privacy bij het gebruik van AI-technologieën en -algoritmes weg te nemen. Maar door het wegvallen in de definitieve tekst van beperkingen op het gebruik van surveillance in de openbare ruimte als een staat die noodzakelijk acht in het kader van de nationale veiligheid, dreigt de verordening een blanco cheque te worden voor volledige surveillance door politie en grensautoriteiten.
Het onderzoek van Investigate Europe: