De Tech Coup - deel 3 | Marguerithe de Man

Big Tech-regulering en wat je zelf kunt doen

In deel 1 van dit drieluik schetste ik een speelveld van een beperkt aantal hele grote technologiebedrijven, hun macht en de verwevenheid met overheden. In deel 2 verkende ik de soms onzichtbare invloed van Big Tech op de democratie en zagen we een aantal zorgelijke situaties opdoemen die vragen om meer toezicht en regulering. Dit derde deel gaat daar dieper op in. Deze reeks van drie artikelen is voor een groot deel geïnspireerd op wat het boek De tech coup (Marietje Schaake, eerste uitgave 2024) beschrijft en bij het lezen bij mij teweegbracht.

Invloed te koop

Het boek werkt toe naar een serie van mogelijke aanpakken om de macht van Big Tech terug te nemen. Omdat er best specifieke wetgeving denkbaar is die zorgt voor verstandige kaders waarin de tech-industrie kan blijven innoveren en/of groeien en tegelijkertijd de maatschappij beschermt. In tal van andere sectoren lukt dat (best) goed. Maar door de onzichtbaarheid van technologie stond dit van meet af aan minder op het netvlies van de politiek.

‘Belemmer ons niet’ is het mantra van de Big Tech bedrijven; ze zien niets in regulering en proberen dat op alle mogelijke manieren tegen te gaan. Silicon Valley zit ook aan tafel bij allerlei belangrijke overheidsdenktanks en verkiezingsprogramma’s. Maar het gaat verder dan dat, dat zal inmiddels niemand verbazen. Om invloed te krijgen en te houden hanteren ze een aantal veelbeproefde strategieën. Om te beginnen zijn het megalobbyisten. Daar besteden ze veel geld aan, in de Verenigde Staten, in Europa en ook bij de VN. Onder het mom van partnerschap en ronkende bedoelingen waar niemand tegen kan zijn. Deze lobby heeft drie doelen: het om zeep helpen van wetgeving die ze niet aanstaat, het binnenhalen van overheidscontracten en imagoverbetering. Daarin zijn ze niet uniek. Ook de tabaksindustrie en natuurorganisaties hebben een sterke lobby. Het verschil tussen de laatste en de Big Tech zit in de middelen die er beschikbaar zijn. Daarmee financieren ze bijvoorbeeld non-profitorganisaties, belangengroepen, onderzoeksteams en universiteiten om hun wetenschappelijke imago op te poetsen.

Zelfregulering en regulering

Als reactie op de toenemende kritiek bood de Big Tech aan om aan zelfregulering te gaan doen. In de praktijk blijkt dat vooral om tal van zelfreguleringssystemen en allerlei speciale commissies te gaan. Mooie niet-functionerende, tandeloze rookgordijnen was Schaakes eigen ervaring. Oftewel zelfregulering voor de bühne. Maar in al die activiteiten om vooral regulering tegen te gaan, is er ineens een uitzondering. De Big Tech vraagt om regulering van kunstmatige intelligentie (AI). De wapenwedloop in AI tussen de bedrijven is enorm. Wat speelt daar?

Schaake is er vrij duidelijk over. Ze stelt: “De bestuurders zijn kennelijk zo huiverig voor de gevolgen van wat ze hebben gecreëerd dat ze de verantwoordelijkheid willen afschuiven voor als het misgaat. Ze willen niet belast worden met de taak om AI onder controle te krijgen.” Ik vond dat een verrassend frisse aanname, die voor mij de pleidooien over AI van een aantal van deze bedrijven in een ander daglicht plaatste. Maar, gaat Schaake door, terwijl er zogenaamd gepleit wordt voor regulering en een tijdelijke stop op verdere ontwikkelingen, gaat die AI-ontwikkeling onverminderd door. En worden er soms voorstellen gedaan om concurrenten buiten spel te zetten.

Een zoektocht naar strategieën

Hoe regel je de relatie tussen Big Tech en overheden als je de democratie en de rechtstaat wilt beschermen, zonder innovatie voortijdig om zeep te helpen? Hier komt Schaake met vier portretten van gangbare praktijken met elk hun voor- en nadelen. Gebaseerd op de aanpak in de EU, de VS, China en India.

De EU is de meest ambitieuze wetgever ter wereld. Tegen de zin in van Big Tech. Die reageert hierop door óf mee te gaan (want de EU is een enorme markt) óf tegenstribbelen en functies uitschakelen. Hoewel de wetgeving van de EU sterk is, schort het aan handhaving vanwege beperkte budgetten. Bovendien ontbreekt het bij de wetgeving aan digitale soevereiniteit, omdat er te weinig Europese techbedrijven zijn. Daar proberen we wel wat aan te doen, maar ook hierin schieten fondsen tekort ten opzichte van Big Tech. Een interessante opmerking is dat er ook in het maken van beleid een soort van ‘first-mover advantage’ is. Dus dat geeft hoop! Een van de zwakheden van de EU is dat er nog geen regelgeving is voor technologie, waarbij geopolitiek een rol speelt. Dat zou pas echt invloedrijk kunnen zijn.

De VS is vooral druk met nationale veiligheid. In navolging van Trump hebben ze daar hun pijlen gericht op TikTok en China. Een spel met een onbekend einde, want het ‘ontkoppelen’ van de Amerikaanse economie met die van China zal gevolgen hebben voor beide landen en ook de rest van de wereld. Burgerlijke vrijheden hebben daarbij geen prioriteit. Op dit moment zijn de Verenigde Staten zo verdeeld dat er nauwelijks sprake is van wetgeving. De EU en de VS zijn dus tegenpolen van elkaar.

China doet het weer heel anders en zet haar technologie in om de staat te versterken. Controle staat centraal. Met als bekend voorbeeld het Chinees sociaalkredietsysteem. Als je wilt weten hoe dat werkt kijk dan de Black Mirror aflevering Nosedive. Daarnaast is China haar invloed op het wereldtoneel flink aan het vergroten, en dan met name in Afrika. Die invloed is daar al volop zichtbaar onder andere in snelwegen die aangelegd worden door Chinese werkploegen. Soms dwars door een woonwijk die door sociale structuren heenlopen. Maar de onzichtbare versie is de digitale Zijderoute, waarin China zijn drie-eenheid, controle, AI en cloudcomputing, met goedkope Chinese technologie uitrolt. Digitaal kolonialisme, noemt Schaake het.

India heeft een democratie in verval en technologie speelt daarin een belangrijke rol, in de repressie van burgers. Het krachtige medium dat ze hebben, is iets wat Aadhaar heet: een grote databank met biometrische gegevens die zogenaamd toegang geeft tot zorg, overheidsdiensten, geld, en andere diensten. Het is een ware hackersdroom en vormt een groot risico voor privacy en beveiliging. India exporteert Aadhaar ook. En Big Techbedrijven hebben aandelen in Indiase bedrijven, vanwege de enorme groeimarkt daar. Deze typeringen van de vier (handels)blokken roept voor mij ook de vraag op: “En hoe nu verder?” Want we vormen met elkaar één wereld en hoewel het momenteel allemaal niet zo lekker loopt tussen deze vier handelsblokken, hebben we elkaar wel nodig. En heeft de EU daarin een fikse uitdaging. Op tal van terreinen, maar zeker ook op dit terrein, omdat we geen eigen ‘Big Tech industrie’ hebben en dus geen goede alternatieven.

Wetgeving en technologie

Midden in het proces van de ontwikkeling van wetgeving voor AI werd de EU geconfronteerd met de komst van ChatGPT. Het voortdurende kat-en-muisspel tussen dergelijke techbedrijven en wetgevers geeft deze bedrijven de gelegenheid om hun posities te versterken voordat er aangepaste wetgeving is. Het is dus tijd voor andere maatregelen. In het slothoofdstuk van het boek komt Schaake met een heel scala aan ideeën. Hierbij een aantal van haar suggesties voor maatregelen op een rij:

• Het voorzorgsbeginsel. Dat is een heel gebruikelijke wijze van werken in tal van domeinen, bijvoorbeeld in de farmacie. Eerst onderzoek doen naar mogelijke effecten en dan pas op de markt brengen.
• Het aan banden leggen van commerciële spyware, datahandel, gezichtsherkenningstechnologie en cryptovaluta.
• De uitbreiding van de publieke verantwoordingsplicht.
• Een dienst van technologie-experts.
• Systeemrelevante technologie-instellingen aanwijzen.
• Een arbitragehof voor cyberincidenten.
• Democratische krachten verenigen.
• Een publieke stack ontwikkelen, eigen chips, kabels en datacenters.
• Kennis aan het volk.

Kortom, veel ideeën waarmee op tal van plekken begonnen kan worden. Het hoeft niet allemaal in EU-verband. Ook als land, gemeenten en organisaties kunnen we hieraan bijdragen. Belangrijkste criterium is dan wel dat we serieus werk willen maken van het beschermen van de democratie en de digitale soevereiniteit. En ons niet bedienen van de technieken van de Big Tech om ingrepen juist onmogelijk te maken. Dat vraagt dat we ook serieus werk maken van het laatste punt: Kennis aan het volk. Ervoor zorgen dat bestuurders, managers, adviseurs, werknemers van (tech)bedrijven en publieke organisaties voortdurend kunnen bijleren om zo bij te kunnen dragen.

Wat hiervan te leren valt voor het omgaan met technologie in het algemeen

Leren over technologie gaat niet om het doorgronden van de techniek van de technologie, maar vooral over het doorgronden van de belofte van de technologie en de businessmodellen van techbedrijven. Het gaat ook over de bedoelde en onbedoelde effecten van nieuwe technologie op je eigen bedrijf/organisatie en de samenleving en over de systemische effecten van technologische oplossingen. Niet om een tech-pessimist te worden, maar wel om een tech-realist te kunnen zijn. Iemand die in staat is om bij te dragen aan verantwoorde beslissingen over technologie in zijn of haar organisatie en omgeving.

Zodat de mens, de organisatie, de samenwerkingsverbanden en de maatschappij in the lead blijven. Technologie is fantastisch, maar we moeten ervoor waken dat technologie niet (onbedoeld) onze doelen in de nabije en verdere toekomst kunnen frustreren.

Met ons nieuwe programma “Digitale Transformatie, de verborgen bestuurder in organisaties”, dat in de loop van het jaar gelanceerd zal worden, willen we daar volop aan bijdragen, omdat technologie niet alleen van invloed is op de democratie in de wereld, de EU of in ons eigen land. Het heeft ook invloed op de manier waarop we in organisaties samenleven en werken. Het onderwerp is belangrijk én relevant voor álle organisaties en netwerken, van groot tot klein. Iedereen zal hier een rol in moeten kunnen spelen.