Kunstmatige intelligentie (artificial intelligence, AI) is niet alleen in Nederland een steeds belangrijker vraagstuk. Ook buiten ons land is het thema een hot issue. Dennis Broeders, universitair hoofddocent Veiligheid en Technologie aan Universiteit Leiden, en Rogier Creemers, postdoc bij de juridische faculteit en Chinastudies aan Universiteit Leiden, kijken samen met ons naar de positie van andere landen op het gebied van AI.
Niet iedereen weet waar AI voor staat. Hoe ziet u dit begrip?
Dennis Broeders: “Vaak beschouwen we kunstmatige intelligentie als een eindstaat waarin menselijke intelligentie (general AI) wordt bereikt. Daar zijn we echter nog heel ver van verwijderd. Op dit moment wordt AI vooral gebruikt in eenvoudige toepassingen, zoals Google’s Alpha Go (een bordspel) of zelfrijdende auto’s, een relatief eenvoudige taak in een complexe omgeving. Tegelijkertijd worden er wel hele belangrijke stappen gezet op het gebied van machine learning en zelferende algoritmen.”
Waar moet de overheid op letten bij de inzet van AI?
Broeders: “We moeten af van het idee dat AI accurate uitkomsten levert. Dat is per definitie niet het geval. Zelflerende algoritmen werken door te leren en dat betekent dat er fouten gemaakt zullen worden. We hebben dus altijd te maken met waarschijnlijkheden. De overheid moet er dan ook voor zorgen dat mensen die met dergelijke informatieproducten werken hier op de juiste manier mee omgaan. Anders krijg je de situatie van ‘computer says no’. Een ander vraagstuk gaat over verantwoordelijkheidsstructuren. Iedereen is voorstander van het delen van data. Dat gebeurt ‘horizontaal’ tussen verschillende instanties. Het probleem is echter dat de overheid ‘verticaal’ is georganiseerd als het gaat om verantwoordelijk heden. Een voorbeeld is een project om financiële fraude op te sporen. Daarvoor worden data gebruikt van de ministeries van Financiën, Sociale Zaken en Werkgelegenheid en van de Belastingdienst. Maar wie is er dan eindverantwoordelijk voor de wijze waarop die data worden gebruikt en voor de nieuwe informatie die wordt samengesteld uit de verschillende databronnen? De verticale kokers van overheidsverantwoordelijkheid passen slecht op de trend van horizontale datadeling.”
Amerikaanse bedrijven kijken anders aan tegen privacy dan wij hier in Europa
Silicon Valley domineert het internet en heeft een voorsprong op het gebied van AI. Wat betekent dat voor ons?
Broeders: “Amerikaanse bedrijven kijken anders aan tegen privacy dan wij hier in Europa. Ook hun verdienmodel is anders. In Amerika staat het consumentenrecht centraal, terwijl wetgeving voor privacy en databescherming in Europa gegrond is op fundamentele vrijheden en grondrechten. Daar zit een spanningsveld. We zien dan ook dat het Europese Hof van Justitie en de Europese Commissie deze bedrijven aanpakken. Techbedrijven spelen daarbij een soort ‘verstoppertje’: om onder de Europese wetgeving uit te komen zegt Facebook dat het geen mediabedrijf is en zegt Uber dat het geen taxibedrijf is.”
We kijken vaak naar Silicon Valley, maar hoe ver is China?
Rogier Creemers: “Er is niet één China wat betreft AI. Bedrijven in China zien kunstmatige intelligentie als een kerntechnologie voor hun toekomstige concurrentievermogen. De overheid ziet het als een middel om diensten te automatiseren. Die twee werelden lopen wel meer en meer hand in hand. Chinese bedrijven gebruiken AI ook nog eens verschillend. E-commercebedrijf Alibaba gebruikt het voor targeted advertising (gerichte reclame algoritmen). Baidu en Tencent richten zich meer op natural language processing (systemen die menselijke taal begrijpen en produceren). Een spannende ontwikkeling is bovendien dat zowel Tencent als Baidu AI-labs hebben opgezet in de VS om toegang te krijgen tot schaars talent.”
Zowel in Amerika als China creëren technologiebedrijven grote in elkaar hakende ecosystemen
We horen de laatste tijd veel over China’s sociale kredietsysteem. Hoe zit dat precies?
Creemers: “Dit systeem wordt vaak afgeschilderd als een Orwelliaanse robotmachine, maar de rol van AI is beperkt. Het systeem plaatst mensen die zich misdragen op een zwarte lijst, waardoor ze minder mogen. In steden met verkeersproblemen wordt bijvoorbeeld gezichtsherkenningssoftware gebruikt om overtreders te identifceren. Het Hoge Volksgerechtshof gebruikt het systeem ook tegen wanbetalers. Die worden dan uitgesloten van treinen, vliegtuigen en dure hotels. Er is overigens ook een apart systeem voor de trein en het vliegtuig. Mensen die zich misdragen – bijvoorbeeld als ze met valse tickets reizen of nooduitgangen hebben opengezet – komen op een zwarte lijst. Dat heeft echter niets met kunstmatige intelligentie te maken. De conducteur voert het wangedrag handmatig in.”
Waarom loopt Europa achter op Amerika en China?
Broeders: “Een belangrijke oorzaak is de financieringsstructuur. In Amerika is financiering beschikbaar in de vorm van venture capital. Fondsen met diepe zakken kunnen gerust vijf jaar investeren zonder dat er winst wordt gemaakt. Kijk maar naar Uber. In China vindt financiering plaats door het staatskapitalisme. De langetermijnambities van de overheid zorgen daar voor kapitaal. In Europa is het regelen van financiering voor een lange periode veel lastiger. Een andere factor is dat zowel Amerika als China beschikken over topuniversiteiten die fundamenteel onderzoek doen naar nieuwe technologieën. Verder moet je kunnen beschikken over goede trainingsdata. China is daarbij in het voordeel, omdat hier zeer veel data geproduceerd worden en de overheid deze gemakkelijk ter beschikking kan stellen.”
Creemers: “Zowel Amerika als China beschikken over gunstige binnenlandse voorwaarden. Ten eerste is er een enorme eentalige markt, die niet versplinterd is zoals de Europese. Ten tweede hebben beide landen een vriendelijk zakenklimaat. En verder hebben ze allebei een coulant dataregime, waardoor bedrijven gemakkelijker nieuwe toepassingen kunnen ontwikkelen. In beide landen creëren technologie bedrijven grote in elkaar hakende ecosystemen. China is hier misschien zelfs verder in dan Amerika.”
In Amerika ziet de overheid het gebruik van Chinese telecominfrastructuur van ZTE en Huawei als een veiligheidsrisico. Aan wat voor risico moeten we dan denken?
Creemers: “In de eerste plaats gaat het om de vraag of er een kill switch in zit, een kill switch in zit, waardoor in tijden van conflict China het netwerk plat kan leggen. Een tweede vraag is of er een backdoor in die infrastructuur zit, waarlangs Chinese veiligheidsdiensten informatie kunnen inwinnen.”
In het verkeer en in de openbare ruimte maken we in Nederland steeds meer gebruik van slimme camera’s. In Groot-Brittannië zijn zorgen geuit over het gebruik van de slimme camera’s van het Chinese Hikvision. Zou de Nederlandse overheid een risico lopen met dergelijke apparatuur?
Creemers: “Als dat Chinese apparaten zijn moet gekeken worden naar de aard van het product. Gaat het slechts om aankoop van de hardware of blijft het bedrijf betrokken bij de software waar het systeem op draait? Zo kunnen we risico’s identificeren.”
AI vormt een bedreiging voor de democratie
Een angst bij AI is dat gebruikers, zoals overheidsdiensten, niet begrijpen hoe het werkt, en dus afhankelijk zijn van die toeleverende bedrijven. Maar gold dat bijvoorbeeld niet ook voor automatisering? Is het nu zoveel anders dan vroeger?
Broeders: “Er is een wezenlijk verschil. Ict werd vroeger bijvoorbeeld gebruikt om betere systemen voor dataopslag te ontwikkelen. Voor de overheid hoorde deze vorm van digitalisering bij de tools of de middelen, net zoals pennen en potloden. Maar inmiddels is het meer dan dat. Het gaat nu niet meer alleen om manieren van dataopslag, maar ook om het wegen van die data. Er zit een denkend deel in dat beslissingen voedt. De weging van data gebeurt op basis van waarden en we moeten ons goed bewust zijn van de waarden die we in algoritmen leggen.”
Creemers: “In tegenstelling tot vroeger gaat het nu over technologie die autonoom beslissingen neemt. Dit kan effect hebben op de menselijke vrijheid en de rol van de staat. Als ik bijvoorbeeld vandaag iets mag, maar de computer morgen ‘nee’ zegt, hebben we een probleem van rechtszekerheid. Bovendien hebben we ook te maken met het risico van complexe systemen die we niet meer begrijpen.
Ook vormt AI een bedreiging voor de democratie. In ons politiek bestel geven we toestemming aan een persoon om ons te besturen. Wat nu als een algoritme ons bestuurt? Die kunnen we niet uit de Tweede Kamer wegstemmen.”
Dennis Broeders
Dennis Broeders is universitair hoofddocent Veiligheid en Technologie aan Universiteit Leiden. Ook leidt hij het The Hague program for Cyber Norms. Hiervoor was hij werkzaam bij de Wetenschappelijk Raad voor Regeringsbeleid (WRR) waar hij zich bezighield met vraagstukken op het snijvlak van technologie, burgers en bestuur.
Rogier Creemers
Rogier Creemers is als postdoc verbonden aan de juridische faculteit en Chinastudies van Universiteit Leiden. Vanaf januari 2019 is hij universitair docent bij Chinastudies. Zijn onderzoek richt zich op de interactie tussen het chinese recht, overheids- handelen en informatietechnologie.
Eerder verschenen in Lichtkogel nr 2, 2018, p. 20-23. Lichtkogel is een uitgave van Rijkswaterstaat.