Technologie

Een essay over hoe de wandeling in het coronajaar een herontdekking is van de niet door techniek gemedieerde ervaring.

Het boek is te bestellen bij o.a. Bol  

Nu hebben we nog de macht om zelf over onze toekomst te beschikken. Straks is het te laat, waarschuwt Harvard-professor en sociaal psycholoog Shoshana Zuboff. Dan ontwikkelt het surveillancekapitalisme zich door de verdere uitbuiting en beheersing van ons gedrag tot een ongekende macht. Op het Brainwash Weekend: Tomorrow’s Economy sprak filosoof Haroon Sheikh met Shoshana Zuboff over dit nieuwe tijdperk van het surveillancekapitalisme. Dit artikel licht een deel van dat gesprek uit.

U schreef de internationale bestseller The Age of Surveillance Capitalism. Wat is surveillancekapitalisme? Wat voor soort technologie is het dat wordt voorgebracht door de techbedrijven?

 

‘Het kapitalisme heeft zich door de eeuwen heen ontwikkeld door dingen van buiten de markteconomie er binnen te brengen. Zo heeft het industriële kapitalisme de natuur tot onderdeel van de markt gemaakt, door van natuur eerst grond en daarna vastgoed te maken. Dingen die kunnen worden gekocht en verkocht.’

‘In de 21e eeuw dachten economen dat het kapitalisme zich niet verder uit zou kunnen breiden, omdat alles wat tot koopwaar kon worden gemaakt inmiddels al was ingelijfd. Tot de komst van Silicon Valley en de internetbedrijven. Met de internetzeepbel in 2000 was het gevoel van nood en crisis hoog, en waren briljante mensen met start-ups wanhopig op zoek naar manieren om met hun kleine bedrijfjes in de kapitalistische markt mee te komen. Ze hadden koopwaar nodig om winst te kunnen maken. Google ontdekte dat persoonlijke informatie de nieuwe koopwaar kon worden. Onze persoonlijke informatie werd van onze privélevens naar een nieuwe markt gesleept, waar het geproduceerd, verkocht en gekocht kon worden.’

‘Zo ontstond surveillancekapitalisme. Het bevat elementen van traditioneel kapitalisme: privé-eigendom, en de nood aan economische groei, winst en markthandel. De twist is dat deze elementen niet kunnen werken zonder de sociale relaties en technologieën van surveillance. Verborgen methodes van dataverzameling besluipen onze privé-ervaringen, die een bron van ruw materiaal vormen om te vertalen in gedragsdata. Wat er buitengewoon is aan deze snelle en geheime operatie, is dat de gedragsdata die aan onze privélevens wordt onttrokken, onmiddellijk als privé-eigendom en bedrijfsbezitting wordt geclaimd. Het is ontstellend, omdat het zo goed voor ons verborgen wordt gehouden.’

Welk probleem stelt u aan de kaak?

‘De kern van mijn werk is het betwisten van de eigendomsclaims die deze bedrijven maken. Persoonlijke informatie is de gestolen schat, surveillance is de vluchtauto, en het volledige economische bouwwerk dat over de hele sector wordt verspreid, berust op een wezenlijk illegitiem fundament.’

Is dat inherent aan het digitale systeem?

‘Nee. Te vaak richten we onze aandacht op de poppetjes, terwijl we naar de poppenspeler moeten kijken. Surveillancekapitalisme is geen technologie. Data is niet onze vijand, het is onze vriend, maar het moet ons dienen en niet andersom. Het probleem is een economische logica die fundamenteel anti-democratisch is, en het digitale en de data die het produceert gehackt heeft om zijn eigen doelen te bereiken. Surveillancekapitalisme is de afgelopen twee decennia opgebloeid, en misleid ons met het mantra dat dit nu eenmaal is hoe data, zoekmachines en sociale media werken. Get over it, wordt ons gezegd, en zo worden we geïntimideerd en het zwijgen opgelegd.’

‘We verwachtten dat dit de gouden eeuw van de democratisering van kennis zou worden, maar door het economische gebod van data-extractie creëren techbedrijven sociale ongelijkheid. Er is sprake van een grote concentratie van kennis over mensen in het domein van surveillancekapitalisme. Er is een groeiende kloof tussen wat ik kan weten, en wat er over mij te weten kan worden gekomen. Hoe meer kennis er over mij is, hoe meer er met mij kan worden gedaan door middel van die kennis. We hebben te maken met een shift naar een informatie-samenleving, waarin de sociale orde gedomineerd wordt door de concentratie van kennis en macht van een handjevol bedrijven, en de immense rijkdom die zij hebben weten te vergaren.’

Wat is daarvan het gevaar? Wat voor soort toekomst gaan we tegemoet als we dit niet bestrijden?

‘Kapitalisme in de digitale eeuw had zich op vele manieren kunnen ontwikkelen. Het had de zaak van de democratie verder kunnen brengen, maar in plaats daarvan zien we juist het tegenovergestelde. Waarom is dat het geval? De democratie heeft nog niet ingegrepen om ons en onze samenlevingen te dienen, door dit te bestrijden en onwettig te maken, en door een visie van een democratische digitale eeuw te ontwikkelen. We moeten ons afvragen of we willen toestaan dat de dominantie over kennis nog langer voortduurt en mag blijven groeien. De instrumentele macht verkrijgt kennis door deze data over ons, en leert hoe het ons gedrag verder kan beïnvloeden. Het verruilt democratisch debat voor zekerheid en het doel is altijd om zekerheid zo veel mogelijk te benaderen.’

“De sociale orde wordt gedomineerd door de concentratie van kennis en macht van een handjevol bedrijven, en de immense rijkdom die zij hebben weten te vergaren.'”

 

‘Je hoort vaak: ‘If you’re not paying for it, you’re the product.’ Maar in feite is het nog erger: You’re the abandoned carcass. Wij zijn het kaalgeroofde karkas, het vlees en bloed dat achterblijft – onze echte levens – nadat de slagtanden buit zijn gemaakt om als schat te kunnen verkopen. De sporen die wij onbewust achterlaten, oftewel de gedragssignalen die wij buiten ons bewustzijn om afgeven, worden tot data gemaakt. Van daaruit worden gedragsvoorspellingen gedaan over wat wij in de toekomst zullen doen. Deze bedrijven zijn niet geïnteresseerd in onze levens en onze problemen, maar alleen in het voorspellen van ons gedrag, zodat zij dat aan hun klanten kunnen verkopen. Dat is de reden dat alle data die ze verzamelen niet gebruikt worden om onze levens te verbeteren, om onze problemen op te lossen, maar om voorspellingsproducten te maken. Dat betekent dat ze zekerheid verkopen. De economische prikkel is om menselijk gedrag zekerder en beter voorspelbaar te maken. Het is dus commercieel lucratief om menselijk gedrag te manipuleren en aan te passen, en de technologie is een gereedschap van macht en controle.’

Welke maatschappelijke gevolgen heeft dit?

‘We begrijpen steeds beter hoe deze machine ingezet wordt om complete bevolkingsgroepen te manipuleren. Bij targeting hebben we te maken met de werking van de machine van de instrumentele macht, en worden subliminale boodschappen, psychologisch micro-targeting en gamification ingezet. Deze targeting op persoonlijk niveau transformeerde later tot politieke manipulatie.’

‘Het Cambridge Analytica schandaal onthulde dit. Daarin werd duidelijk dat de Trump-campagne in 2016 Facebook gebruikte om grote hoeveelheden persoonlijke informatie te verzamelen van 200 miljoen kiesgerechtigde Amerikanen. Ze waren in staat een groep te identificeren die het minst waarschijnlijk voor Trump zou stemmen, met name zwarte Amerikanen. Zij kregen negatieve beelden en disinformatie over Clinton te zien, en de suggestie dat niet stemmen de manier was om protest aan te tekenen. Onderzoek van PEW liet zien dat de zwarte kiezersopkomst het laagst was in twintig jaar, met een afname van zeven procentpunt.’

‘Hier zien we dat Amerikaanse burgers overtuigd werden om afstand te doen van hun meest heilige democratische recht. Dat deden ze zonder dat er iemand met dreigementen aan de deur kwam, maar door digitale instrumenten. Dat is de macht van de instrumentalisme: zo krijgen ze ons zover om dingen te doen, zonder dat we ooit weten dat deze macht op ons inwerkt. Dat heeft fundamentele consequenties voor het soort samenleving dat we willen.’

Hoe moeten we dit probleem aanpakken?

‘Alle wegen leiden naar de wet. Praatjes van techbedrijven over zogenaamde ‘ethische’ kunstmatige intelligente of meer respect voor de samenleving zijn niets meer dan retoriek, die het leven van dit zelfregulerende paradigma voortzetten. De tijd van zelfregulering is voorbij.’

‘Wij staan nu aan het begin van de informatiesamenleving. Vergelijk het met het begin van de industriële samenleving, toen werknemers en consumenten nog geen rechten hadden, en er geen wetten waren die mensen beschermden tegen de grote concentratie van de macht in monopolies, kartels en trusts. Aan het begin van de industriële samenleving viel alles in handen van werkgevers door de sterke positie van eigendomsrechten. Zij beslisten wanneer en onder welke voorwaarden en hoeveel uur mensen moesten werken, en of giftige materialen gebruikt werden voor de productie van voedsel en geneesmiddelen. In de VS werden rechten van werknemers en consumenten pas in de jaren 40 vastgelegd in de wet. We zetten wettelijke kaders op, en instituties die daar toezicht op hielden. Op die manier werden industrieel kapitalisme en democratie compatibel gemaakt voor de rest van de 20e eeuw. Dat lukte alleen dankzij de wet.’

‘Dat is precies wat we nu nodig hebben. We hebben het nu over epistemische rechten – dat wil zeggen alles wat met kennis te maken heeft – die geclaimd worden als bedrijfseigendom. We moeten ze terugveroveren voor ons en onze samenlevingen. Wij moeten degenen zijn die bepalen welke data gedeeld wordt en met welk doel, en wat privé moet blijven. Privacy is een gevolg, geen oorzaak. Het kan alleen bestaan als we het recht om te weten in de wet vastleggen, en daarna het wettelijke kader scheppen dat daar toezicht op houdt. In het huis van de democratie moeten rechten en wetten wonen.’

De kabinetsformatie stond de afgelopen tijd in het teken van personen. De persoon van de premier in de eerste plaats en vervolgens die van de leiders van mogelijke coalitiepartners. En natuurlijk de persoon wiens naam nooit op een A4’tje had mogen staan.

We dreigen een belangrijke vraag uit het oog te verliezen, een vraag waar het in de formatie over zou moeten gaan. Het was voor alle partijen een van de belangrijkste onderwerpen in de verkiezingsstrijd: de rol van de overheid.

Iedereen was het erover eens dat het anders moet. Veel gehoord aan linkerzijde was het idee dat de overheidsrol groter moet worden. Is dat immers niet de les van de coronacrisis? Dat de overheid zorg kan en moet dragen voor onze gezondheid? Maar denk ook aan de woningmarkt, het klimaatbeleid en de arbeidsmarkt: na decennia neoliberale terugtrekking is het tijd dat de overheid terugkeert met een grotere rol.

Ook rechtse partijen zoeken heil bij de overheid, maar op een andere manier. De mantra van de premier tijdens de verkiezingscampagne was dat de overheid niet groter maar „sterker” moest worden.

Toch raken deze twee suggesties niet echt aan ons ongemak met de overheid. De overheid is ten eerste namelijk helemaal niet zo klein als weleens wordt voorgesteld. Decennia neoliberale ideologie (‘meer markt’) ten spijt heeft de overheid nog steeds een immense impact op de economie en het dagelijks leven van burgers. Hoe kan de overheid terugkomen als die eigenlijk nooit weg is geweest?

Is de overheid dan te zwak? Daar lijkt het soms op, maar de les van de Toeslagenaffaire was juist dat de overheid te sterk was en als een machine zonder tegenspraak werkte. De missie van fraudebestrijding werd met grote daadkracht ten uitvoer gebracht.

Zo komen we dichter bij het echte probleem. Dat is niet de omvang of de kracht, maar de aard van de overheid. Het ongemak dat mensen ervaren ligt in de verstoorde relatie die de overheid heeft met de burger. Dat heeft meerdere oorzaken.

Het neoliberale denken is er daar een van. Overal wordt gekwantificeerd, geoptimaliseerd en gecontroleerd. Het maakt niet uit of dat door de markt gebeurt of door de overheid. Overal geldt hetzelfde regime: de burger wordt als kwantiteit behandeld.

Denk ook aan de impact van de aanslagen van ‘11 september’. Die richtten de aandacht op veiligheid, op het moment dat een geweldig nieuw instrument voorhanden kwam: data. Uit die combinatie ontstond wat Shoshana Zuboff het ‘surveillancekapitalisme’ heeft genoemd. Daarin geldt de burger als risico.

Vervolgens kwam in die tijd ook een politiek van achterdocht en xenofobie op. Populistische politici riepen op tot een harde aanpak van criminelen en mensen die misbruik maken van onze voorzieningen. De burger als fraudeur.

In het coronabeleid, en dan met name in de corona-apps en de vaccinatiepaspoorten, komen deze elementen samen. De centrale motieven zijn registratie en controle, surveillance van gezondheidsrisico’s en achterdocht tegenover het niet naleven van de regels.

De kwalijke gevolgen van deze ontwikkelingen komen de laatste jaren aan het licht. SyRI, het systeem waarmee de overheid fraudeurs wilde opsporen, werd door de rechter stopgezet, omdat het de rechten van burgers schond. En vervolgens kregen we natuurlijk de Toeslagenaffaire. Zouden dit de symptomen kunnen zijn van een grote trend: een overheid die de burger ziet als kwantiteit, als risico, als potentiële fraudeur? In dat geval gaat het niet om incidenten die met een verontschuldiging of berisping opgelost kunnen worden. Dan zijn grotere veranderingen nodig, dan moet de burger benaderd worden met vertrouwen in plaats van achterdocht.

Dat klinkt misschien naïef, maar het huidige functioneren van de overheid is gevormd door allerlei politieke ontwikkelingen en ideeën van de afgelopen decennia – nieuwe ontwikkelingen en nieuwe ideeën kunnen de overheid dus ook anders laten functioneren.

Er zijn veel goede ideeën over hoe de aard van de overheid te veranderen. Sturen op brede welvaart bijvoorbeeld, in plaats van op bruto nationaal product. Sterkere checks and balances. Pieter Omtzigt heeft het in zijn boek over een ‘nieuw sociaal contract’.

We moeten voorzichtig zijn met wat we wensen. Een grotere of sterkere overheid die op dezelfde manier blijft functioneren als voorheen, kan voor de burger heel slecht uitpakken. Laten we hopen dat er bij de formatie ook ergens een notitie rondgaat waarop staat: „de overheid: functie anders”.

Haroon Sheikh, politicoloog en filosoof:

Big Tech: het tij keert

 

In 2021 beginnen we eindelijk grip te krijgen op Big Tech. Onvrede met de macht van deze bedrijven is er al jaren, maar lang veranderde er bar weinig. In 2020 werd door de coronacrisis die macht aanvankelijk alleen maar groter, want digitalisering was de oplossing: ons werk migreerde naar de cloud, scholen gingen digitaal en Big Tech bouwde onze corona-apps.

Tegen het einde van het jaar vond echter een plotselinge kentering plaats. Politici en toezichthouders in de VS en de EU publiceerden kritische rapporten en zetten rechtszaken in gang om de immense macht van deze bedrijven over de samenleving aan te pakken. Beleidsmakers overwegen nu serieus extreme oplossingen, zoals het opbreken van deze grote spelers.

Het rampjaar maakte onze afhankelijkheid van Big Tech pijnlijk zichtbaar. Dat geeft hoop voor 2021: we gaan dan, eindelijk, beginnen met het tij te keren.

EenVandaag behandelde online proctoring, de surveillance software die veel universiteiten gebruiken voor het afnemen van examens. In dit kort item stelt Haroon Sheikh kritische vragen over de technologie en of deze algoritmes kunnen doen wat zij beloven

 

in De Balie werd de Internet Marathon gehouden: 12 uur lang gesprekken over opkomst, dynamiek en toekomst van het internet. Een gesprek met Evelyn Austin (Bits for Freedom), Yoeri Albrechts (Balie) en panelleden van Adyen en IBM. Over de macht van Big Tech en de rol en mogelijkheden van overheden om invloed uit te oefenen. Vanaf minuut 39

The Internet Marathon – Block 4

Rusland en China kondigden deze week aan meer te gaan samenwerken tegen de ‘informatieoorlog’ die sinds de coronacrisis verder oplaait. Ongetwijfeld zijn er digitale campagnes gericht tegen deze twee landen, maar de ironie is dat zij nu juist de meest actieve spelers zijn in deze mondiale strijd. Naast het biologische virus is er een even gevaarlijk digitaal virus, dat niet ons lichaam, maar onze geest aantast.

Vorig jaar publiceerde het Brookings instituut een interessant rapport, ‘Exporting digital authoritarianism’. Het laat zien hoe de twee genoemde landen al heel vroeg het internet hebben benaderd vanuit het oogpunt van veiligheid en controle, en dat zij nu beide hun methoden exporteren. China exporteert het high-end ‘product’: een totaal gefilterde internetinfrastructuur en eigen technologieplatformen. Armere landen wenden zich tot het goedkopere ‘product’ van Rusland: een combinatie van afluisterapparatuur en druk op leveranciers van internetdiensten.

Wij zijn inmiddels ook onderdeel van de mondiale informatieoorlog. Wat gebeurt hier precies? Sociale media zijn het slagveld van geopolitiek conflict geworden. In het fascinerende boek LikeWar: The Weaponization of Social Media kun je lezen over fenomenen als astroturfing (het in scène zetten van burgerinitiatieven), Poe’s Law (het is schier onmogelijk om extremisme te parodiëren) en het provoceren door trollen. Schrikbarend is het onderzoek dat de auteurs citeren dat laat zien hoe die informatieoorlog teert op onze breinen. Ik noem een paar voorbeelden.

Volgens een MIT-onderzoek verspreiden onware berichten zich zes keer sneller dan ware berichten. Zes keer! Ander onderzoek laat zien dat of we iets geloven minder afhangt van hoe betrouwbaar de bron is, dan van of we het bericht ergens eerder hebben gezien. Herhaling loont dus. Of neem dit: van de berichten die op sociale media gedeeld worden, is 59 procent zelf niet aangeklikt door degene die ze deelt. Ten slotte is ook onderzoek gedaan naar het tempo waarmee verschillende emoties over het internet bewegen. De snelste? Haat. Zo dragen wij zelf bij aan de verspreiding van het virus van de informatieoorlog.

Wat is nu het doel van deze oorlog? Rusland en China worden vaak vergeleken met dictaturen van de twintigste eeuw. Maar de 21ste-eeuwse informatieoorlog is anders. Het gaat niet om de verspreiding van een bepaalde ideologie, maar juist om elke overtuiging te ondermijnen. Daarom stimuleren buitenlandse mogendheden extreme meningen aan alle kanten van het spectrum. Ondermijning van maatschappelijke consensus is het doel. Cynisme creëren. Alles omgeven met ambivalentie. Ook de oude cultus van geheimhouding doet er minder toe. De waarheid wordt niet verhuld, maar bedolven onder onwaarheid. Denk aan de Russische berichtgeving over MH17.

Het verspreiden van allerlei wilde samenzweringstheorieën hoort bij deze tactiek. Ook dat is ironisch: mensen die geloven in samenzweringen trappen zelf in de grootste samenzwering. Het nieuws dat ze volgen wordt namelijk doelbewust gefabriceerd om verdeeldheid te zaaien.

Wat kunnen we tegen de informatieoorlog doen? Er ligt een opgave voor Nederland en de EU om meer grip te krijgen op dit nieuwe strijdtoneel. En misschien kunnen we leren van de aanpak van dat andere virus. Denk aan waarschuwingen over verspreiding vanuit bepaalde landen. Als samenleving zouden we aan ‘digital distancing’ kunnen doen, vooral ten aanzien van de superverspreiders van dit digitale virus.

En wanneer we zelf twijfels hebben bij de waarachtigheid van een bericht dat we zien, een digitaal mondkapje opzetten, om medeburgers niet te besmetten. Als we hier niet op reageren, brengt het virus van de informatieoorlog de gezondheid van onze democratie in gevaar.

Oxford researchers published the report ‘Citizenship in a Networked Age’ for the Templeton Foundation. After publication, an online discussion took place on the report. In the section on philosophical foundations, Haroon Sheikh comments on how digitalization is transforming what it means to be a citizen (from minute 27:30)