AI vergroot onze veiligheid ten koste van onze privacy

Deel 4 van de serie ‘Perspectieven op Kunstmatige Intelligentie’.

Jij ziet de camera misschien niet, maar de camera ziet jou wel

De smartphone en sociale media hebben ons veel goeds gebracht. We hebben op elk moment en overal toegang tot alle mogelijke informatie, kunnen gemakkelijk contact onderhouden met familie en vrienden en online diensten hebben het leven op veel terreinen verrijkt.

Ook op het gebied van veiligheid hebben we nieuwe en relatief goedkope mogelijkheden gekregen. Een paar camera’s die bewegingen rond het huis opnemen en in de cloud opslaan, helpen om je spullen te beveiligen. Met een camera op het dashboard van je auto (dashcam) film je de weg en de auto’s voor je, zodat je bij een botsing nog eens kunt terugkijken wat er precies gebeurde. En in het hele land informeren burgers elkaar over verdachte situaties in de buurt via WhatsApp.

Overheden en bedrijven doen op dit gebied hun voordeel met de vergaande mogelijkheden van kunstmatige intelligentie. Camera’s op satellieten kunnen vanuit de ruimte gezichten herkennen en vermommingen zijn nog nauwelijks een obstakel. Wie ziet wat er allemaal al kan, realiseert zich dat altijd bereikbaar zijn niet hetzelfde is als altijd vindbaar zijn.

Van ‘predictive policing’ tot totalitaire staat

Democratisch gecontroleerde overheden die gebruik maken van big data analyses en kunstmatige intelligentie voor de veiligheid van burgers roepen weinig weerstand op.

Zo is er weinig aan te merken op het Criminaliteits Anticipatie Systeem (CAS), dat de Nationale Politie na een succesvolle pilot momenteel verder uitrolt. CAS is een systeem voor ‘predictive policing’ en voorspelt waar en wanneer misdrijven zoals straatroof en inbraak plaatsvinden. Het systeem laat op een rasterkaart van Nederland in vakken van 125 bij 125 meter zien op welke plaatsen (Hot Spots) en op welke momenten (Hot Times) de kans het grootst is dat misdrijven plaatsvinden.

In het Eindhovense uitgaansgebied Stratumseind hangen camera’s met microfoons. Beeld en geluid worden door middel van software geanalyseerd. Als er signalen zijn, zoals geschreeuw en rennende mensen, die erop duiden dat de situatie uit de hand kan lopen, wordt automatisch een melding gemaakt naar de politie. Die kan dan ter plaatse gaan en escalatie voorkomen. Ook gegevens van sociale media worden meegenomen in de analyse. Dit is een project van Atos, Dutch Institute of Safety & Security (DITSS) en Intel.

In Eindhoven worden gezichten onherkenbaar gemaakt om de privacy van de mensen op straat te beschermen. In andere landen wordt privacy minder belangrijk gevonden. Het Risk Assessment and Horizon Scanning (RAHS) programma in Singapore gaat bijvoorbeeld veel verder. Online en offline gedrag worden gemonitord om vast te stellen hoe het sentiment onder de bevolking zich ontwikkelt. De overheid anticipeert hierop met als doel om het risico op sociale onrust te minimaliseren.

In China wordt op de luchthaven van Shenzhen Bao’an gepatrouilleerd door politierobot AnBot. Deze robot gebruikt gezichtsherkenning om criminelen te identificeren. De robot kan verdachte personen volgen tot de agenten arriveren of tijdelijk uitschakelen met behulp van een stroomstootwapen (taser) die vanuit de controlekamer wordt bediend.

Ook in Dubai zet de politie robots in, onder andere voor het opnemen van aangiftes en het innen van bekeuringen. Het doel is dat de politie in 2030 voor 25% uit robots bestaat.

Surveillance en beïnvloeding door bedrijven

Surveillance behoort tot het domein van de overheid, maar ook bedrijven weten veel van je. Online moeten consumenten een afweging maken tussen gemak en privacy. Het is handig en efficiënt dat je sociale media accounts, je zoekmachine en je email allemaal aan elkaar gekoppeld zijn. De keerzijde is dat alles wat je online doet, gegevens oplevert waarmee AI systemen een gedetailleerd klantprofiel van je opbouwen. Dit maakt het mogelijk om je persoonlijke advertenties te laten zien. Dit is belangrijk omdat het business model van sociale media en zoekmachines is gebaseerd op advertentie-inkomsten. Shoshana Zuboff (Harvard Business School) noemt dit “surveillance capitalism”.

Je kunt uiteraard redeneren dat hier niets nieuws onder de zon is. Bedrijven hebben altijd al marktonderzoek gedaan en gegevens van klanten verzameld om hen zo goed mogelijk van dienst te zijn. Waar de grens ligt tussen het inspelen op de behoefte van klanten en het manipuleren of misleiden van klanten is een ethische vraag, waar niet altijd een eenduidig antwoord op is.

Neem het fenomeen van de filter-bubble. Als twee mensen dezelfde zoekopdracht geven, krijgen zij verschillende resultaten te zien op basis van eerder vertoond surfgedrag. Een algoritme bepaalt welke informatie voor een ieder het meest relevant is. Dat is in de meeste gevallen heel handig, maar kan ook tot ongewenste neveneffecten leiden. In de Verenigde Staten is er bijvoorbeeld discussie over de vraag of de algoritmes van Facebook de uitslag van de presidentsverkiezingen hebben beïnvloed.

Democratisering dankzij AI

Camera’s en AI zijn ook krachtige instrumenten voor burgers die zich tegen onrechtmatige handelingen van de overheid willen verzetten. Zo zien we met enige regelmaat camerabeelden van buitensporig politieoptreden waarmee de politie publiekelijk ter verantwoording wordt geroepen. De transparantie neemt toe en de verspreiding van informatie via internet is moeilijk tegen te gaan.

In het Verenigd Koninkrijk heeft Joshua Browder de chatbot DoNotPay gelanceerd. Hiermee kun je snel en gratis bezwaar maken tegen parkeerboetes, brieven sturen naar je huisbaas over het ontbreken van veiligheidsmaatregelen en schadeclaims indienen bij luchtvaartmaatschappijen voor verloren bagage. De chatbot is inmiddels al enkele honderdduizenden keren met succes gebruikt. Veel van dergelijke claims worden nooit ingediend omdat mensen niet weten hoe dat moet en omdat advocaten hiervoor te duur zijn.

From: https://youtu.be/-rabJDCBUbY

Zorgen over privacy zijn terecht

Het is onmiskenbaar dat AI en andere technologieën de privacy beperken. Iedereen die een mobiele telefoon bij zich heeft, is traceerbaar. Zoekmachines weten wie je bent en hebben een oneindig geheugen. Democratische controle op AI is een logische ambitie, maar niet eenvoudig realiseerbaar, want de technologische ontwikkelingen gaan sneller dan de instituties kunnen reageren.

Voor de meeste mensen wegen de voordelen van AI op tegen de inperking van de privacy. De vraag is of dit zo blijft. Bedrijven doen er goed aan zich voor te bereiden op een intensivering van het maatschappelijk debat over de grenzen van AI en privacy. Niet alleen omdat de overheid eisen stelt, maar vooral om de relatie met de consument te bewaken.

Door: Willem Peter de Ridder

Dr. Willem Peter de Ridder is directeur van Futures Studies. Als futuroloog is hij een veelgevraagd spreker, auteur, strategie consultant en transformatiemanager. Futures Studies ondersteunt organisaties bij het verkennen van de toekomst, het formuleren van een toekomstbestendige strategie en het managen van disruptie. Voor meer informatie: www.futuresstudies.nl.

Eerder verschenen in deze serie:

• Deel 1: De mens of de machine: wie beslist?
• Deel 2: Persoonlijk klantcontact via intelligente chatbots: hoe doe je dat?
• Deel 3: De HR functionaris of slimme software: wie selecteert de beste mensen?