• Nieuwsbrieven
  • MI Academy
  • Docentexemplaar
  • Boeken
  • Webshop
  • Contact
  • Over ons

Management Impact

Inspireert, verbindt en brengt verder

  • Home
  • Innovatie
  • Kwaliteit
  • Leiderschap
  • Organisatie
  • Strategie
  • Verandermanagement
  • Zorgmanagement

Artikel10 nov 2017

AI vergroot onze veiligheid ten koste van onze privacy

Innovatie

Van alle technologische ontwikkelingen van dit moment is kunstmatige intelligentie het meest ingrijpend en het minst begrepen. We zien indrukwekkende nieuwe toepassingen, maar kunnen de impact op mensen, organisaties en maatschappij nog nauwelijks overzien. In deze serie blogs, Perspectieven op Kunstmatige Intelligentie, onderzoeken we niet alleen de mogelijkheden, maar ook de bedoelde en onbedoelde consequenties.

Veiligheid ten koste van privacy
Veiligheid ten koste van privacy

Deel 4 van de serie ‘Perspectieven op Kunstmatige Intelligentie’.

Jij ziet de camera misschien niet, maar de camera ziet jou wel

De smartphone en sociale media hebben ons veel goeds gebracht. We hebben op elk moment en overal toegang tot alle mogelijke informatie, kunnen gemakkelijk contact onderhouden met familie en vrienden en online diensten hebben het leven op veel terreinen verrijkt.

Ook op het gebied van veiligheid hebben we nieuwe en relatief goedkope mogelijkheden gekregen. Een paar camera’s die bewegingen rond het huis opnemen en in de cloud opslaan, helpen om je spullen te beveiligen. Met een camera op het dashboard van je auto (dashcam) film je de weg en de auto’s voor je, zodat je bij een botsing nog eens kunt terugkijken wat er precies gebeurde. En in het hele land informeren burgers elkaar over verdachte situaties in de buurt via WhatsApp.

Overheden en bedrijven doen op dit gebied hun voordeel met de vergaande mogelijkheden van kunstmatige intelligentie. Camera’s op satellieten kunnen vanuit de ruimte gezichten herkennen en vermommingen zijn nog nauwelijks een obstakel. Wie ziet wat er allemaal al kan, realiseert zich dat altijd bereikbaar zijn niet hetzelfde is als altijd vindbaar zijn.

Van ‘predictive policing’ tot totalitaire staat

Democratisch gecontroleerde overheden die gebruik maken van big data analyses en kunstmatige intelligentie voor de veiligheid van burgers roepen weinig weerstand op.

Zo is er weinig aan te merken op het Criminaliteits Anticipatie Systeem (CAS), dat de Nationale Politie na een succesvolle pilot momenteel verder uitrolt. CAS is een systeem voor ‘predictive policing’ en voorspelt waar en wanneer misdrijven zoals straatroof en inbraak plaatsvinden. Het systeem laat op een rasterkaart van Nederland in vakken van 125 bij 125 meter zien op welke plaatsen (Hot Spots) en op welke momenten (Hot Times) de kans het grootst is dat misdrijven plaatsvinden.

In het Eindhovense uitgaansgebied Stratumseind hangen camera’s met microfoons. Beeld en geluid worden door middel van software geanalyseerd. Als er signalen zijn, zoals geschreeuw en rennende mensen, die erop duiden dat de situatie uit de hand kan lopen, wordt automatisch een melding gemaakt naar de politie. Die kan dan ter plaatse gaan en escalatie voorkomen. Ook gegevens van sociale media worden meegenomen in de analyse. Dit is een project van Atos, Dutch Institute of Safety & Security (DITSS) en Intel.

In Eindhoven worden gezichten onherkenbaar gemaakt om de privacy van de mensen op straat te beschermen. In andere landen wordt privacy minder belangrijk gevonden. Het Risk Assessment and Horizon Scanning (RAHS) programma in Singapore gaat bijvoorbeeld veel verder. Online en offline gedrag worden gemonitord om vast te stellen hoe het sentiment onder de bevolking zich ontwikkelt. De overheid anticipeert hierop met als doel om het risico op sociale onrust te minimaliseren.

In China wordt op de luchthaven van Shenzhen Bao’an gepatrouilleerd door politierobot AnBot. Deze robot gebruikt gezichtsherkenning om criminelen te identificeren. De robot kan verdachte personen volgen tot de agenten arriveren of tijdelijk uitschakelen met behulp van een stroomstootwapen (taser) die vanuit de controlekamer wordt bediend.

Ook in Dubai zet de politie robots in, onder andere voor het opnemen van aangiftes en het innen van bekeuringen. Het doel is dat de politie in 2030 voor 25% uit robots bestaat.

Surveillance en beïnvloeding door bedrijven

Surveillance behoort tot het domein van de overheid, maar ook bedrijven weten veel van je. Online moeten consumenten een afweging maken tussen gemak en privacy. Het is handig en efficiënt dat je sociale media accounts, je zoekmachine en je email allemaal aan elkaar gekoppeld zijn. De keerzijde is dat alles wat je online doet, gegevens oplevert waarmee AI systemen een gedetailleerd klantprofiel van je opbouwen. Dit maakt het mogelijk om je persoonlijke advertenties te laten zien. Dit is belangrijk omdat het business model van sociale media en zoekmachines is gebaseerd op advertentie-inkomsten. Shoshana Zuboff (Harvard Business School) noemt dit “surveillance capitalism”.

Je kunt uiteraard redeneren dat hier niets nieuws onder de zon is. Bedrijven hebben altijd al marktonderzoek gedaan en gegevens van klanten verzameld om hen zo goed mogelijk van dienst te zijn. Waar de grens ligt tussen het inspelen op de behoefte van klanten en het manipuleren of misleiden van klanten is een ethische vraag, waar niet altijd een eenduidig antwoord op is.

Neem het fenomeen van de filter-bubble. Als twee mensen dezelfde zoekopdracht geven, krijgen zij verschillende resultaten te zien op basis van eerder vertoond surfgedrag. Een algoritme bepaalt welke informatie voor een ieder het meest relevant is. Dat is in de meeste gevallen heel handig, maar kan ook tot ongewenste neveneffecten leiden. In de Verenigde Staten is er bijvoorbeeld discussie over de vraag of de algoritmes van Facebook de uitslag van de presidentsverkiezingen hebben beïnvloed.

Democratisering dankzij AI

Camera’s en AI zijn ook krachtige instrumenten voor burgers die zich tegen onrechtmatige handelingen van de overheid willen verzetten. Zo zien we met enige regelmaat camerabeelden van buitensporig politieoptreden waarmee de politie publiekelijk ter verantwoording wordt geroepen. De transparantie neemt toe en de verspreiding van informatie via internet is moeilijk tegen te gaan.

In het Verenigd Koninkrijk heeft Joshua Browder de chatbot DoNotPay gelanceerd. Hiermee kun je snel en gratis bezwaar maken tegen parkeerboetes, brieven sturen naar je huisbaas over het ontbreken van veiligheidsmaatregelen en schadeclaims indienen bij luchtvaartmaatschappijen voor verloren bagage. De chatbot is inmiddels al enkele honderdduizenden keren met succes gebruikt. Veel van dergelijke claims worden nooit ingediend omdat mensen niet weten hoe dat moet en omdat advocaten hiervoor te duur zijn.

From: https://youtu.be/-rabJDCBUbY

Zorgen over privacy zijn terecht

Het is onmiskenbaar dat AI en andere technologieën de privacy beperken. Iedereen die een mobiele telefoon bij zich heeft, is traceerbaar. Zoekmachines weten wie je bent en hebben een oneindig geheugen. Democratische controle op AI is een logische ambitie, maar niet eenvoudig realiseerbaar, want de technologische ontwikkelingen gaan sneller dan de instituties kunnen reageren.

Voor de meeste mensen wegen de voordelen van AI op tegen de inperking van de privacy. De vraag is of dit zo blijft. Bedrijven doen er goed aan zich voor te bereiden op een intensivering van het maatschappelijk debat over de grenzen van AI en privacy. Niet alleen omdat de overheid eisen stelt, maar vooral om de relatie met de consument te bewaken.

Willem Peter de Ridder

Willem Peter de Ridder

Door: Willem Peter de Ridder

Dr. Willem Peter de Ridder is directeur van Futures Studies. Als futuroloog is hij een veelgevraagd spreker, auteur, strategie consultant en transformatiemanager. Futures Studies ondersteunt organisaties bij het verkennen van de toekomst, het formuleren van een toekomstbestendige strategie en het managen van disruptie. Voor meer informatie: www.futuresstudies.nl.

Eerder verschenen in deze serie:

  • Deel 1: De mens of de machine: wie beslist?
  • Deel 2: Persoonlijk klantcontact via intelligente chatbots: hoe doe je dat?
  • Deel 3: De HR functionaris of slimme software: wie selecteert de beste mensen?

 

 


 

 

Laatste update: 10 dec 2019

Reageren op dit artikel

Gerelateerde tags

Blog Column disruptie disruptieve innovatie Innovatie Kunstmatige intelligentie Willem Peter de Ridder

Verder lezen

15 jun 2022Innovatie
Slimme modellen: Wat is de Discover Weekly van jouw branche?
30 mei 2022Innovatie
Wie worden de Amazon en Thuisbezorgd van de blockchain-wereld?
17 mei 2022Innovatie
Epics, features, user stories
6 mei 2022Innovatie
Loslaten om meer grip te krijgen: een mindset
25 apr 2022Innovatie
Waarom het vertrek van DPG Media de genadesteek is voor Blendle
22 apr 2022Innovatie
Supportprofessional digitaal vaardiger dan manager

Geef een antwoord

Je moet inloggen om een reactie te kunnen plaatsen.

  • Collegereeks Vrouwelijk Leiderschap
  • Blogs innovatie

    Innoveren? Reken af met deze hardnekkige mythes20 apr 2021
    Hoe ICT-bedrijven de markt voor elektrische auto’s willen overnemen met een superieure platformstrategie6 jan 2021
    Datamonopolies ondermijnen de democratie4 nov 2020
    Lazy phishing voorkomen? Word zelf niet lui!21 jul 2020
    Agile Innovation Accounting: hoe teams écht impact leren maken17 jul 2020
  • Boeken innovatie

    SnappStorySnappStory
    Start-up: van idee tot exit
    Bouw een succesvolle online marktplaats
    Winnen met kunstmatige intelligentie
    Algoritmisering, wen er maar aan!
    Design Denken & Doen
  • Nieuwsbrief

    Niets meer missen van Management Impact? Meld je dan aan voor onze gratis nieuwsbrief.
    • *
    • Hidden
    • Dit veld is bedoeld voor validatiedoeleinden en moet niet worden gewijzigd.

  • Recente reacties

    • Ina Vogel op DISC en MBTI zijn bagger, op één ding na
    • Martin Buil op Jouw medewerkers ontspannen op vakantie? Mooi niet!
    • Ed op Hoe geef je emoties een plek op het koude scherm?
    • ronald op Service design thinking: de ideale situatie als vertrekpunt
    • lee op Wat je als manager kunt leren van een psychopaat
  • Management Impact

    • Over ons
    • Contact
    • Nieuwsbrieven
    • Linkedin
    • Webshop
    • Events
    • Algemene voorwaarden
    • Privacy en Cookie

    Thema’s

    • Verandermanagement
    • Leiderschap
    • Innovatie
    • Project & Proces
    • Kwaliteit
    • Zorgmanagement
    • Strategie
    • Persoonlijke groei

    Categorie

    • Video’s
    • Blogs
    • Podcasts
    • Whitepapers
    • Congressen
    • Boeken

    Verder

    • Leren Veranderen
    • Veranderen als samenspel
    • Coachlink
    • Boekensites
    • M&O
    • Sigma
    • Boom
    vakmedianet

    Copyright: Boom uitgevers Amsterdam BV
    Op gebruik van deze site zijn onze Algemene voorwaarden Privacy policy en Cookie reglement van toepassing