Een artikel met WRR-voorzitter Corien Prins over de noodzaak van debat over digitalisering als gevolg van de coronacrisis
Artikel: Coronacrisis vraagt om debat over digitalisering
De coronacrisis gaat eerst en vooral over onze gezondheid. Inmiddels wordt het steeds duidelijker dat we ook voor een immens economisch en maatschappelijk vraagstuk staan. Toch is er nog een ander aspect waarom we ons deze crisis straks zullen herinneren: de enorme potentie van digitalisering en de vlucht die talloze online applicaties hebben genomen om het dagelijks leven aan de gang te houden. Veel meer nog dan voorheen valt op hoe diep wij met die technologie verweven zijn geraakt en wat voor mogelijkheden zij ons biedt in tijden van crisis. Alsof we een kijkje krijgen in wat zonder de coronacrisis vooral nog de toekomst zou zijn. Laten we dit fascinerende fenomeen eens nader bekijken. Wat valt er dan op? In ieder geval, zo betogen we hieronder, dat de recente vlucht in digitalisering kan leiden tot een te groot techno-optimisme. Dat de schaduwkanten van digitalisering veel verder reiken dan welbekende kwesties als privacy en security, hoe belangrijk die ook zijn. Zonder enige twijfel heeft digitalisering ons in deze crisis veel geboden en nog te bieden. Tegelijkertijd zien we op veel terreinen ook een verschraling van contacten, relaties en maatschappelijke processen en verhoudingen. Laten we daarom vooral ook dit moment benutten voor een breed maatschappelijk debat over het verantwoorde gebruik van digitale technologie. Want eenmaal langdurig geïmplementeerd, is het gebruik ervan nog heel moeilijk terug te draaien.
De crisis als kijkje in onze digitale toekomst
In onze huidige tijd lijken we digitalisering ten volle te omarmen. Maar natuurlijk is niet alles anders of nieuw. Talloze applicaties en technologieën die nu uitkomst bieden, werden in feite al gebruikt. Het is meer de intensiteit die nu anders is. Streamingplatformen zoals bijvoorbeeld Netflix, NPOStartPlus en andere zorgen ervoor dat er altijd iets te kijken is en online videogames hebben veel ouders wat rust gegeven, toen ze plotseling de hele dag met hun kinderen thuis zaten. En hoewel online een pakket of maaltijd bestellen al langer gangbaar was, lijkt nu vrijwel iedereen z’n toevlucht te zoeken tot deze ‘veilige’ manier van boodschappen doen.
Daarnaast zien we dat allerlei toepassingen van digitale technologie die nauwelijks op gang leken te komen plotseling het momentum kregen. Binnen een paar weken leerden wij hoe wij moesten vergaderen via video, hebben scholen hun lespakketten in een e-learning-omgeving omgezet en vonden medische consulten online plaats. Ook stimuleert deze crisis een variëteit aan nieuwe of minder bekende toepassingen. Drones worden ingezet om mensen te waarschuwen als ze te dicht bij elkaar komen, videoverhoor van gedetineerden is in de plaats gekomen van fysieke aanwezigheid in de rechtszaal en er zijn tal van technologie-initiatieven om social distancing in goede banen te leiden.
Maar digitalisering wordt niet alleen ingezet om de samenleving en economie draaiende te houden. Er zijn ook allerlei projecten om digitale technologie te benutten in de strijd tegen de oorsprong van de crisis zelf: corona. Vooral in Azië zijn er veel interessante voorbeelden. Het Chinese platform Alibaba kondigde een algoritme aan dat met een hoge mate van zekerheid een diagnose in twintig seconden kan stellen. Voedsel en medicijnen werden in Wuhan door autonome voertuigen naar mensen in quarantaine gebracht. In Singapore wijzen ze de inwoners erop om afstand van elkaar te houden op straat. Maar ook in de Verenigde Staten wordt geëxperimenteerd met het op afstand monitoren van ouderen. Op de onlinedatabase Kaggle worden grote datasets over corona verzameld in de hoop dat AI daarin patronen kan herkennen.
In ons land werken onderzoekers van de TU Delft aan een programma dat op basis van expertkennis artsen kan ondersteunen bij het nemen van morele beslissingen. Artsen in ziekenhuizen benutten een diagnostisch algoritme om een inschatting te maken van het risico op COVID-191 en medische centra werken aan de ontwikkeling van machine learning, een variant van AI, voor de keuze van behandelingen en onderzoek van het ziekteverloop.
Reflectie op evenwicht tussen online en offline
Stel je eens voor hoe anders de situatie zou zijn geweest als de coronacrisis tien jaar geleden had plaatsgevonden. De abrupte en rigoureuze wending naar de digitale wereld was toen niet mogelijk geweest. De internetinfrastructuur had al dat zware videoverkeer niet aangekund. De hele logistiek van massale online bezorgdiensten was er nog niet en drones waren destijds nog hele dure apparaten, die vooral door het leger gebruikt werden. We zouden kunnen zeggen dat deze crisis dus ook onze omgang met technologie markeert. Een aantal dingen valt daarbij op.
Allereerst hoe enorm afhankelijk wij zijn geworden van de internetinfrastructuur en de diensten die daarop gebouwd zijn. Buiten al het vermaak van muziek, video’s en sociale netwerken is digitale technologie inmiddels verweven met alle kernfuncties van de samenleving, waarvan de meerderheid niet meer kan functioneren zonder digitale ondersteuning.
Ten tweede zal de geschetste versnelling naar de toekomst niet zonder meer blijvend zijn. Een aantal digitale activiteiten zal ongetwijfeld weer afgebouwd worden. Mensen zullen op termijn hun collega’s weer op kantoor willen zien en de scholen zijn nu alweer deels fysieke ontmoetingsplaatsen. Hoe creatief het ook was, de virtuele diners en Moederdagen zullen waarschijnlijk niet gangbaar worden. Belangrijker nog: sommige digitale toepassingen zijn slechts een noodverband, omdat we om principiële redenen de voorkeur geven aan de situatie zonder de inzet van digitalisering.
Toch zal er van een volledige terugkeer naar de oude situatie geen sprake zijn. De korte cursus ‘digitaal leven’ die we momenteel in feite allemaal volgen, geeft ons immers een perspectief om met andere ogen naar ons fysieke leven te gaan kijken. Hoe vaak moeten we daadwerkelijk fysiek op kantoor aanwezig zijn en moeten we er echt tijdens de spits heen? En welk deel van de lesstof kan digitaal blijven?
Nu we voorzichtig stappen zetten in de richting van een versoepeling van de maatregelen is het dus een goed moment om met elkaar te reflecteren op de gewenste intensiteit in het gebruik van digitale diensten. In de eerste fase moest alles gehaast gebeuren; anders zouden allerlei zaken stil komen te liggen. De komende tijd is er meer tijd voor reflectie, en ligt de vraag voor: welk evenwicht tussen fysiek en digitaal – tussen offline en online – willen we gaan vinden? Digitalisering heeft ons veel te bieden, maar kan tegelijkertijd zaken zodanig (fundamenteel) veranderen of verschralen dat we ons moeten afvragen of deze veranderingen wel wenselijk zijn. Het debat hierover is noodzakelijk. Zeker nu ook duidelijk wordt dat sommige veranderingen niet blijvend omarmd moeten worden en zelfs de nodige risico’s met zich meebrengen.
De schaduwkanten van vergaande digitalisering
Laten we een aantal voorbeelden bekijken van de schaduwkanten van onze recente, haastige omarming van digitalisering. Neem het vergaderen via video. Het relatief onbekende bedrijf Zoom expandeert rap en ‘Zoomen’ is een werkwoord geworden, het kenmerk van een succesvol technologiebedrijf. Tegelijkertijd werd al snel duidelijk dat het platform de privacy van zijn gebruikers onvoldoende kon garanderen. Werknemers van de overheid zijn daarom geïnstrueerd het platform niet te gebruiken. Maar hoe zit het met de rest van de bevolking? Veel mensen zullen inmiddels bekend zijn met platformen als Skype, Google Hangout en Webex. De ontwikkeling van een veilige, betrouwbare en functionele applicatie voor webconferenties is belangrijk om digitaal werken in de toekomst op een verantwoorde manier vorm te geven. Hetzelfde geldt voor clouddiensten waarvan vrijwel alle organisaties en bedrijven nog afhankelijker zijn geworden.
Neem vervolgens de bezorgdiensten. Het was heel fijn om gebruik te maken van bedrijven als Bol en Amazon of de thuisbezorg-apps van Uber en Albert Heijn, toen restaurants volledig gesloten waren en wij de drukte van winkels moesten vermijden. Ongetwijfeld zullen veel mensen hieraan nu meer gewend zijn geraakt. Maar wat zijn daar de lange-termijn-gevolgen van? Een blik in de toekomst is er ook een van een verlaten straatbeeld. Het zijn vooral grote (vaak internationale) bedrijven die van deze digitalisering profiteren. De kleine lokale winkels zijn er de dupe van. Als noodoplossing werkte dit even goed, maar hoe en bij wie willen wij in de toekomst onze boodschappen doen?
Vergelijkbare vragen spelen ook bij de talloze digitale leeromgevingen die in het (hoger) onderwijs worden gebruikt. Met de coronacrisis is dat nog afhankelijker geworden van enkele, zeer grote (Amerikaanse) techbedrijven. Via het aanbieden van hun diensten verzamelen deze commerciële bedrijven gebruikersdata van leerlingen, studenten en onderzoekers, waarmee vervolgens gepersonaliseerde advertenties en diensten kunnen worden aangeboden. In essentie betekent digitalisering in het (hoger) onderwijs ook in toenemende mate privatisering van klassieke publieke taken. Wat betekent voortzetting van digitaal onderwijs voor de garantie van de publieke waarden waarmee het onderwijs is gediend?
Tot de schaduwkanten behoren zeker ook de sociale en psychologische uitdagingen en problemen die bij digitalisering aan de oppervlakte komen. Kansenongelijkheid speelt ook in relatie tot digitalisering een rol. Niet in ieder gezin zijn goede laptops en internetverbindingen beschikbaar. Bovendien blijken er tussen scholen onderling flinke verschillen te bestaan als het op de kwaliteit van het digitale onderwijs en lesstof aankomt. Belangrijk is ook dat we voor ogen houden dat niet iedereen even goed kan meekomen in de plotselinge digitale transformatie van allerlei maatschappelijke processen. Illustratief voor de sociale en psychologische schaduwkanten is ook de ophef die onder studenten ontstond, toen universiteiten met behulp van digitale technieken mogelijke fraude wilden opsporen tijdens online tentamens.2 en 3 Studenten werden verplicht hun leefsituatie te filmen en deze met de universiteit te delen via de technische faciliteit. Behalve dat studenten een beroep op hun privacy deden, gaven ze als argument aan dat een constant toeziend ‘digitaal oog’ tijdens tentamens tot veel meer stress leidt dan rondlopende surveillanten in de zaal.
Tenslotte maakt het nogal wat uit voor welke toepassing en in welke domeinen we een digitale variant introduceren. Zo stellen we aan online vergaderen en boodschappen volstrekt andere eisen dan aan een videoverhoor van een verdachte door een feitenrechter als onderdeel van het strafrechtelijk onderzoek. En maakt het ook nogal wat uit of het om een commercieel bedrijf dan wel de politie gaat, wanneer voor het databeheer een buitenlandse cloud-aanbieder in de arm wordt genomen. Welke toepassingen moeten we vooral nu gaan kapitaliseren en welke juist niet? Welke randvoorwaarden willen we stellen? We bepleiten voor productvoorraden op medisch vlak een minder sterke afhankelijkheid van buitenlandse partijen. Maar voor digitalisering geldt in feite precies hetzelfde. Kortom, hoe zit het bij publieke taken en voorzieningen met de Nederlandse digitale soevereiniteit in het licht van de groeiende afhankelijkheid van buitenlandse commerciële aanbieders?4
Deze en talloze andere vragen komen op ons af naarmate grotere delen van de samenleving met digitale technologie verweven raken. Die vragen bestonden al langer, maar de huidige ontwikkelingen vereisen een breder debat over de rol van en sturing op digitale technologie. Door het kijkje in de toekomst dat deze crisis ons geeft, fungeert zij ook als een spiegel: welke technologische ontwikkelingen willen we stimuleren, voor welke moeten we oppassen en welke hebben uitsluitend een meerwaarde tijdens de crisis, maar zijn geen onderdeel van ‘het nieuwe normaal’? En ook nu we minder gehaast zijn: wat zijn de voorwaarden waaronder digitale technologie verantwoord gebruikt kan worden?
Crisisoplossingen durven terugdraaien
Maar voordat we op deze laatste vraag ingaan, is het belangrijk te beseffen dat sommige toepassingen slechts een noodverband kunnen zijn. Zelfs een bepaalde tevredenheid over de nieuwe manier van werken (efficiënter, goedkoper, etc.) mag niet (sluipend) in een realiteit resulteren, waarin bepaalde groepen in onze samenleving (nog eens extra) op een sociaaleconomische achterstand komen te staan. Of in praktijken resulteren die op gespannen voet staan met de beginselen van onze rechtsstaat en fundamentele rechten. In dit licht moeten bijvoorbeeld de zorgen over privacybescherming in relatie tot de digitale monitoring van het gedrag van burgers worden geplaatst (corona-apps; benutten van data over horeca-reserveringen voor corona-monitoring, etc.). Illustratief is ook de hiervoor al genoemde inzet van videobellen binnen de strafrechtelijke feitenrechtspraak. Deze noodoplossing voor verhoor werd snel verplicht gesteld omdat de fysieke aanwezigheid van gedetineerden, advocaten en andere betrokkenen niet mogelijk was.5 Maar direct was wel al duidelijk dat het op gespannen voet staat met de fundamentele rechten van verdachten. Zo is het tijdslot voor verhoor maximaal 45 minuten en is het de inrichting waar de gedetineerde verblijft (een uitvoeringsinstantie) en niet de rechter die feitelijk beslist of het tijdslot voorbij is.6 Gelet op de druk en achterstanden waarmee de strafrechtketen – los van de pandemie – al werd geconfronteerd, oogt de efficiëntie van dit ‘telehoren’ als een welkome aanvulling op de bestaande mogelijkheden. Toch moeten we omwille van fundamentele waarden van onze rechtsstaat deze en sommige andere digitale noodverbanden ook weer durven los te laten.
Tijd nemen voor debat
Zoals hierboven duidelijk werd, is digitale technologie een cruciaal instrument om de coronacrisis te lijf te gaan en talloze maatschappelijke processen door te laten gaan. Waar we echter voor moeten waken, is dat dit leidt tot een vorm van techno-optimisme of wat ook wel ‘solutionisme’ of ‘techno-chauvinisme’ wordt genoemd: het idee dat we elk maatschappelijk vraagstuk met technologie kunnen aanpakken. Het risico is dan dat we onze complexe maatschappelijke realiteit versimpelen en door zaken efficiënter of op een andere manier in te richten, belangrijke waarden uit het oog verliezen. Een volwassen omgang met digitale technologie betekent dat wij per situatie bekijken wat er op het spel staat en ons afvragen welke digitale instrumenten daar wel en niet toepasbaar zijn. Daarbij laat de crisis zien dat we de blik op meer moeten richten dan uitsluitend de direct waarneembare impact van digitalisering. Ook de sociaal-maatschappelijke gevolgen, nieuwe afhankelijkheden en veranderende verhoudingen dienen we scherp in het vizier te krijgen.
In de eerste fase gaf deze crisis ons een blik in de toekomst. In de huidige transitiefase is ons wat rust gegeven om te reflecteren op wat wij van die toekomst vinden. Laten we die rust vooral nemen en niet gehaast vasthouden aan corona-apps, online vergaderen, teleconsulten of digitaal horen. Belangrijke vragen dienen zich aan over de macht van buitenlandse aanbieders op het gebied van clouddiensten en communicatieplatformen, op het werk en op school. En daarmee een noodzakelijke reflectie op zowel afhankelijkheden als ‘digitale soevereiniteit’. Over wat het effect is op publieke waarden als technologie de balans verschuift richting private belangen en efficiëntie. Ook hebben wij vragen benoemd die verband houden met de sociale inbedding van technologie, zoals vergaande surveillance, kansenongelijkheid en de ondermijning van het verdienvermogen van kleine partijen; allemaal subtiele effecten van onze recente omarming van digitale technologieën.
Bij zowel die reflectie als het vervolgens vormgeven van de rol van digitalisering is er een wezenlijke taak weggelegd voor de overheid. Deze heeft een systeemverantwoordelijkheid7 vanuit maatstaven als betrouwbaarheid, rechtvaardigheid en legitimiteit, maar ook leefbaarheid in een gedigitaliseerde samenleving. Met andere woorden: burgers en bedrijven mogen van de overheid verwachten dat ze zaken naar zich toetrekt en kaders stelt, zeker als (fundamentele) waarden in het geding komen. En de overheid kan als launching customer het goede voorbeeld geven. Het is juist ook de overheid die ontwikkelingen vanuit een integraler perspectief kan beoordelen en daarop – als het nodig is – kan sturen. Het recente parlementaire advies8 om een permanente commissie Digitale Zaken op te richten, is een belangrijke stap in die richting.
Mogelijk herinneren wij ons deze crisis straks niet alleen om de ‘helpende hand’ die digitalisering ons bood, maar vooral ook als het moment dat wij een breed maatschappelijk debat zijn aangegaan over het verantwoorde gebruik van digitale technologie en de bijbehorende relevante waarden.
Auteurs
Dit artikel is geschreven door:
- Haroon Sheikh, onderzoeker bij de Wetenschappelijke Raad voor het Regeringsbeleid (WRR)
- Corien Prins, voorzitter van de Wetenschappelijke Raad voor het Regeringsbeleid (WRR)