Het was niet de bedoeling van het jaar in te zetten met een doemscenario. Toch willen we u deze voorspelling van Bruce Schneier niet onthouden. Klinkt het allemaal wat te negatief in de oren, lees het dan zoals wij dat deden. Als een waarschuwing en een oproep om dringend werk te maken van een strikte regelgeving.
Bruce Schneier: AI en het tijdperk van massaspionage
“Spionage is altijd beperkt geweest
door de nood aan menselijke arbeid.
A.I. gaat daar verandering in brengen.”
Spioneren en surveillance zijn verschillende maar verwante dingen. Als ik een privédetective zou inhuren om jou te bespioneren, zou die detective een afluisterapparaat in je huis of auto kunnen verstoppen, je telefoon aftappen en luisteren naar wat je zegt. Aan het eind zou ik een rapport krijgen van alle gesprekken die je had en de inhoud van die gesprekken. Als ik diezelfde privédetective zou inhuren voor een surveillance opdracht, zou ik een ander rapport krijgen: waar je heen ging, met wie je sprak, wat je kocht, wat je deed.
In de tijden voor het internet was het duur en tijdrovend om iemand in de gaten te houden. Je moest iemand handmatig volgen, noteren waar hij heen ging, met wie hij sprak, wat hij kocht, wat hij deed en wat hij las. Die wereld is voorgoed voorbij. Onze telefoons houden onze locaties bij. Creditcards houden onze aankopen bij. Apps houden bij met wie we praten en e-readers weten wat we lezen. Computers verzamelen gegevens over wat we op ze doen en omdat zowel opslag als verwerking goedkoper zijn geworden, worden die gegevens steeds vaker opgeslagen en gebruikt. Wat handmatig en individueel was, is bulk en massa geworden. Surveillance is het bedrijfsmodel van het internet geworden en er is geen makkelijke manier om er geen deel van uit te maken.
Spioneren is een andere zaak. Het is al heel lang mogelijk om iemands telefoon af te luisteren of een microfoon in zijn huis of auto te plaatsen, maar er is nog steeds iemand nodig die naar de gesprekken luistert en het kaf van het koren scheidt. Spywarebedrijven zoals NSO Group helpen de overheid wel om in te breken in een telefoon, maar er moet nog steeds iemand door alle gesprekken heen gaan. En overheden zoals China konden berichten op sociale media censureren op basis van bepaalde woorden of zinnen, maar dat was grof en makkelijk te omzeilen. Spionage wordt beperkt door de behoefte aan menselijke arbeid.
Artificiële Intelligentie staat op het punt dat te veranderen. Samenvatten is iets wat een modern generatief AI-systeem goed kan. Geef het een vergadering van een uur en het zal een samenvatting van één pagina teruggeven van wat er gezegd is. Vraag het om miljoenen gesprekken te doorzoeken en ze te ordenen op onderwerp en het zal dat doen. Wil je weten wie waarover praat? AI zal het je vertellen.
De technologieën zijn niet perfect; sommige zijn behoorlijk primitief. Ze missen dingen die belangrijk zijn. Ze zien andere dingen verkeerd. Maar dat doen mensen ook. En, in tegenstelling tot mensen, kunnen AI-tools met miljoenen tegelijk worden gekopieerd en worden ze met een verbazingwekkende snelheid verbeterd. Volgend jaar worden ze beter en het jaar daarna nog beter. We staan op het punt het tijdperk van massaspionage in te gaan.
Massasurveillance heeft de aard van surveillance fundamenteel veranderd. Omdat alle gegevens worden opgeslagen, stelt massasurveillance mensen in staat om terug in de tijd te surveilleren, zelfs zonder te weten op wie je je specifiek wil richten. Vertel me waar deze persoon vorig jaar was. Maak een lijst van alle rode auto’s van een specifiek merk die de afgelopen maand over deze weg reden. Maak een lijst van alle mensen die het afgelopen jaar alle ingrediënten voor een snelkookpanbom hebben gekocht. Zoek alle telefoons die naar elkaar toe bewogen, zichzelf uitschakelden en een uur later weer inschakelden terwijl ze van elkaar weg bewogen (wat een teken van een geheime ontmoeting zou zijn).
Op dezelfde manier zal massaspionage de aard van spionage veranderen. Alle gegevens worden opgeslagen. Het zal allemaal doorzoekbaar en begrijpelijk zijn, in bulk. Vertel me wie er de afgelopen maand over een bepaald onderwerp heeft gesproken en hoe discussies over dat onderwerp zijn geëvolueerd. Persoon A heeft iets gedaan; controleer of iemand hem heeft gezegd dat te doen. Vind iedereen die een misdaad beraamt of een gerucht verspreidt of van plan is een politiek protest bij te wonen.
Er is nog zoveel meer. Om een organisatiestructuur bloot te leggen, zoek je naar iemand die gelijkaardige instructies geeft aan een groep mensen en vervolgens naar alle mensen aan wie hij die instructies heeft doorgegeven. Om de vertrouwelingen van mensen te vinden, kijk je aan wie ze geheimen vertellen. Je kunt vriendschappen en allianties tot in het kleinste detail volgen. Kortom, je kunt alles weten over waar iedereen het over heeft.
Dit spioneren is niet beperkt tot gesprekken op onze telefoons of computers. Net zoals overal camera’s massasurveillance gevoed hebben, zullen overal microfoons massaspionage voeden. Siri en Alexa en “Hey Google” luisteren al de hele tijd; de gesprekken worden alleen nog niet opgeslagen.
Weten dat ze constant in de gaten worden gehouden, verandert hoe mensen zich gedragen. Ze conformeren zich. Ze censureren zichzelf, met alle afschrikwekkende gevolgen van dien. Surveillance vergemakkelijkt sociale controle en spionage zal dit alleen maar erger maken. Regeringen over de hele wereld maken al gebruik van massasurveillance; ze zullen zich ook gaan bezighouden met massaspionage.
We could limit this capability. We could prohibit mass spying. We could pass strong data-privacy rules. But we haven’t done anything to limit mass surveillance. Why would spying be any different?
Bedrijven zullen mensen bespioneren. Massasurveillance luidde het tijdperk van gepersonaliseerde advertenties in; massaspionage zal die industrie een superboost geven. Informatie over waar mensen over praten, hun stemmingen, hun geheimen – het is allemaal koren op de molen van marketeers die op zoek zijn naar een voorsprong. De tech monopolies die ons momenteel allemaal constant in de gaten houden, zullen het niet kunnen laten om al die gegevens te verzamelen en te gebruiken.
In de begindagen van Gmail had Google het erover om de inhoud van Gmail van mensen te gebruiken om hen gepersonaliseerde advertenties aan te bieden. Het bedrijf is daarmee gestopt, vrijwel zeker omdat de gegevens van de zoektermen die verzameld werden zo slecht waren – en daarom niet bruikbaar voor marketingdoeleinden. Dat zal binnenkort veranderen. Misschien zal Google niet de eerste zijn die de gesprekken van zijn gebruikers bespioneert, maar als anderen er eenmaal mee beginnen, zullen ze het niet kunnen laten. Hun echte klanten – hun adverteerders – zullen erom vragen.
We kunnen deze mogelijkheid beperken. We kunnen massaspionage verbieden. We zouden strenge regels voor de privacy van onze data kunnen opleggen. Maar we hebben nog niets gedaan om massasurveillance te beperken. Waarom zou het anders zijn als het over massaspionage gaat?
AI and Mass Spying