Veel mensen zullen zich films als The Terminator en The Matrix herinneren; films over machines die zelfbewust worden en zich uiteindelijk tegen de mensheid keren. Mensen die net als ik van science fiction houden, zal het opvallen dat er de laatste paar jaar heel veel films en series met hetzelfde thema verschijnen. In Ex Machina keert een robotassistente zich tegen haar menselijke maker. De film Her gaat over een man die verliefd wordt op een digitale assistente die hem uiteindelijk verlaat. Westworld toont de opstand van robots in een amusementspark.

Blijkbaar raakt kunstmatige intelligentie (Engels: artificial intelligence, kort: AI, red.) een gevoelige snaar in de samenleving. Prominente figuren als Stephen Hawking en Elon Musk hebben serieuze waarschuwingen gegeven voor de gevaren van AI. De CEO van Google, Sundar Pichai, meent dat AI belangrijker is dan de uitvinding van elektriciteit. Volgens de Russische president Vladimir Poetin zal het land dat leidt in AI de wereld regeren.
Veel landen hebben dan ook recent een AI-strategie gepubliceerd. In 2017 was Canada de eerste en sindsdien hebben meer dan vijfentwintig landen dat voorbeeld gevolgd. In een Working Paper voor de WRR heeft Bennie Mols een analyse gemaakt van verschillende van die strategieën. Ook de Nederlandse overheid werkt aan een ‘Strategisch Actieplan AI’ dat binnenkort zal verschijnen.

Explosieve groei
Waarom is er op dit moment zoveel aandacht voor AI? Zo lang als er computers zijn, wordt al onderzoek gedaan naar kunstmatige intelligentie, maar de laatste jaren is het vakgebied in een stroomversnelling geraakt. Drie factoren zijn daarvoor van centraal belang geweest.
De eerste is de groei in rekenkracht waardoor veel complexere analyses gemaakt kunnen worden. Rekenkracht volgt al jaren de zogenoemde Moore’s Law, die elke twee jaar een verdubbeling laat zien. De tweede factor is een explosieve groei van de hoeveelheid data. Daar hebben wij allemaal de afgelopen jaren aan meegewerkt door berichten, foto’s, voorkeuren en betalingen op het internet te plaatsen. Daarmee leverden wij zelf de brandstof voor slimme algoritmes. Ten slotte zijn er belangrijke wetenschappelijke doorbraken geweest in het gebied van deep learning. Dat is een gebied binnen AI waarmee algoritmes door het gebruik van verschillende lagen patronen kunnen herkennen in bijvoorbeeld beelden of stemgeluid. Samen hebben deze drie factoren de ontwikkeling van AI een enorme impuls gegeven.

De toepassingen zijn inmiddels overal om ons heen. Slimme algoritmes geven ons allerlei aanbevelingen op basis van ons eerdere gedrag in zogenoemde recommender systems. Denk aan je timeline op Facebook, aanbevolen boeken op Amazon of films op Netflix. Een ander gebied binnen AI is machine vision waarmee beelden herkend kunnen worden van bijvoorbeeld katten. AI-toepassingen van natural language processing zijn persoonlijke assistenten als Siri en Alexa of online vertaalmachines.
Al die toepassingen brengen belangrijke vraagstukken met zich mee. Wat is het effect van weinig transparante aanbevelingen op de menselijke autonomie? Wat gebeurt er met de publieke ruimte als we allemaal op verschillende manieren benaderd worden, afhankelijk van onze persoonlijke profielen?

Gezichtsherkenning
Laten we eens kijken naar een domein binnen AI waar momenteel de nodige controverse over is. Een toepassing van de hierboven genoemde machine vision is gezichtsherkenning, het identificeren van personen op basis van unieke eigenschappen in het gezicht. Het wordt volop gebruikt in landen als China en Rusland. Ook in het westen echter gebruiken bedrijven en overheden het in winkelcentra, stadiums, vliegvelden en gewoon op straat. De mogelijkheden voor surveillance zijn door gezichtsherkenningssoftware enorm toegenomen en de privacy van burgers staat ermee op het spel. Bovendien gaat er een centraliserende werking van uit; op simpele en goedkope wijze kunnen overheden of bedrijven veel gevoelige informatie over gewone burgers te weten komen.

Daarnaast schuilen er andere gevaren in deze technologie. Gezichtsherkenning is dual-use, wat inhoudt dat het ook gebruikt kan worden in militaire toepassingen om bijvoorbeeld terreurverdachten uit te schakelen. Een andere toepassing ervan is affect recognition, waarbij emoties uit gezichten worden afgelezen. Er zijn gevallen bekend van scholen die het gebruiken om te kijken of leerlingen in de klas opletten of winkels die er potentiële klanten mee identificeren. Dit gebeurt terwijl er geen wetenschappelijke basis voor is; mensen uiten hun emoties op verschillende manieren, zeker in verschillende culturen.

Angsten
AI brengt immense mogelijkheden, maar het onbegrensde en ongecontroleerde gebruik ervan brengt allerlei gevaren voor publieke waarden. De AI-expert Pedro Domingos verwoordde het mooi. Volgens hem zijn we bang dat AI heel slim wordt en de wereld zal overnemen, terwijl in werkelijkheid AI helemaal niet zo slim is en de wereld al heeft overgenomen. We richten ons te veel op angsten over mogelijke toekomstscenario’s over zelfbewuste machines, omdat allerlei films en series ons dat voorspiegelen. Daardoor stellen wij de verkeerde vragen. Het verblindt ons voor allerlei toepassingen die nu al om ons heen zijn en waar we veel meer aandacht voor zouden moeten hebben.
Gezichtsherkenning is daar een voorbeeld van. Een aantal risico’s daarvan worden benoemd in de recente brief van minister Dekker over horizontale privacy. De Amerikaanse stad San Francisco heeft zelfs het gebruik van gezichtsherkenning volledig verboden. Wat mij betreft, zouden we meer discussie moeten voeren over dit soort technologieën. Publieke waarden komen in het gedrang als we gezichtsherkenning ongereguleerd toestaan. Op deze gebieden is AI namelijk al lang geen science fiction meer.