Digitaal Europa - Grondrechten met prof. Janneke Gerards, Hoogleraar fundamentele rechten aan de Universiteit Utrecht

'Hoeveel vrijheid hebben we over voor volledige veiligheid?
En kun je die veiligheid wel volledig garanderen?
Of is het eerder het gevoel van veiligheid dat je beschermt?'
Welkom bij Digitaal Europa. Ik ben Robin Rotman en in deze podcast
van de Rijksacademie voor Digitalisering en Informatisering Overheid
bespreek ik met deskundigen de Europese aanpak van digitale dossiers.
GERARDS: Brussel is zich heel erg bewust
van precies het soort van grondrechtenproblemen
en de botsingsproblemen tussen grondrechten en andere belangen
en neemt ook echt het voortouw om daar goed over na te denken
en om daar de hete kastanjes uit het vuur te halen voor de lidstaten
die het vaak moeilijker vinden om daar een oplossing voor te bedenken.
ROTMAN: Vandaag hebben we het over digitale mensenrechten.
Ik zit hier te gast bij Janneke Gerards,
hoogleraar fundamentele rechten aan de Universiteit Utrecht
en elke aflevering neem ik een paar vragen mee
van Loulou Hanna, Nina Krijnen, Ron Roozendaal:
een team van ambtenaren die vanuit hun rol bij de overheid
interesse hebben in digitale thema's.
Janneke, wat leuk dat we in gesprek gaan met elkaar.
GERARDS: Zeker.
-Het gaat over fundamentele rechten.
Vertel eens. Wat zijn dat, fundamentele rechten?
GERARDS: Fundamentele rechten heten zo
omdat het de belangrijkste rechten zijn die we hebben.
Dus als het gaat om ons dagelijks leven, het recht op leven.
Dat ligt nogal voor de hand.
Maar ook bijvoorbeeld je vrijheid van meningsuiting, je privacy,
het recht om gelijk behandeld te worden. Als dat allemaal niet gerespecteerd wordt,
dan is ons leven een stuk minder de moeite waard.
ROTMAN: Echt over mensenrechten, universele mensenrechten.
Aan de andere kant hebben we de digitalisering.
Dat is dus een soort organisme
wat deels door ons toedoen, deels buiten onze kracht ligt.
In dat krachtenveld zijn allerlei organisaties bezig.
Die worden over ons uitgestrooid of het overkomt ons een beetje.
En die hebben soms effect op mensenrechten.
Soms versterken ze die, soms biedt het kansen
en soms is het een bedreiging. Is dat zo?
Zitten we nu een soort fase van de geschiedenis
waarin we die mensenrechten weer even goed moeten herdefiniëren,
omdat dit zo'n grote natuurkracht is? Is dat zo? Kun je dat eens omschrijven?
GERARDS: Dat denk ik wel.
Kijk, grondrechten zijn erg verbonden met de context waarin we leven,
met de maatschappij waarin we leven en ze zijn destijds vooral op gang gekomen
na de Tweede Wereldoorlog.
Toen hadden we de verschrikkingen meegemaakt van duizenden doden,
mensen die ontheemd waren, mensen die ontmenselijkt waren.
Maar dat betekent niet dat grondrechten statisch zijn.
Dus ze veranderen mee met de tijd waarin je leeft,
met de context waarin je leeft.
En digitalisering heeft onze samenleving enorm veranderd.
We zijn op een heel andere manier
tegenover andere mensen komen te staan.
We zijn anders tegenover onze overheid komen te staan
en dat betekent dat die grondrechten moeten meeveren.
Ze zijn niet minder belangrijk geworden,
maar je moet ze soms op een wat andere manier uitleggen en toepassen.
ROTMAN: Misschien zijn ze nu wel iets belangrijker,
omdat ze nogal eens ter discussie staan.
-In ieder geval bepaalde grondrechten.
Ik denk dat we het er wel met z'n allen over eens zijn
dat het recht op leven of het folterverbod
niet direct erg onder druk komt te staan door digitalisering,
maar bijvoorbeeld ons recht op informatie
of onze autonomie of onze privacy, persoonsgegevensbescherming:
die zijn inderdaad een stuk meer onder druk komen te staan
en we moeten waarschijnlijk extra moeite gaan doen
om die rechten ook echt te blijven beschermen.
ROTMAN: En wie zijn dan de spelers in dit spel?
Want ik denk natuurlijk gelijk aan de overheid.
De overheid met datahonger en als ik niet uitkijk, wordt 't tegen me gebruikt.
Computer says no. Een beetje de ontmenselijking van beleid.
Dan denk ik: oeh, dat is de overheid. We gaan er straks dieper op in.
Maar tegelijkertijd zijn er ook techreuzen die van alles van me weten,
maar die ook een grote invloed hebben op de mediasamenleving
en informatievoorziening, journalistiek. Wat is tegenwoordig nog onafhankelijk?
En ondertussen zijn er ook andere burgers, normale mensen zoals ik,
die ook door de technologisering mijn leven binnenkomen,
linksom of rechtsom. Waar zitten dan de dreigingen?
Of zijn dit gewoon allemaal bedreigingen?
-Allemaal, inderdaad.
We hebben daar een mooie term voor in het recht, multiactualisering.
ROTMAN: Precies het woord dat ik zocht.
-Dacht ik al.
Er zijn steeds meer actoren gekomen
die een bedreiging vormen voor onze grondrechten.
De overheid is er nog steeds en de overheid is nog steeds die bedreiging.
Die verzamelt ontzettend veel van onze gegevens,
die onderschept metagegevens bij telefoongesprekken
en verwerkt die voor criminaliteitsbestrijding bijvoorbeeld.
Maar inderdaad, de grote techreuzen en Meta's en Googles van deze wereld
maken ook fors inbreuk op die grondrechten.
Maar ook allerlei andere ondernemingen kunnen dat doen.
De werkgever kan misschien wel heel onzorgvuldig
met het ophangen van camera's in de supermarkt omgaan.
Of een krant kan een onzorgvuldig advertentiebeleid op de website hanteren.
Dat kan allemaal leiden tot beperking en inbreuk op die grondrechten.
ROTMAN: Onder andere in deze podcastserie praten we daarover.
Het gaat er in de media weleens over. Heb je het gevoel dat we als samenleving
wat betreft de impact van digitalisering op onze grondrechten
dat we met z'n allen genoeg op de bal zitten?
GERARDS: Goede vraag en moeilijk te beantwoorden ook, denk ik.
Ik weet niet of we voldoende op de bal zitten.
Ik denk dat we ons bijvoorbeeld wel erg bewust zijn
van gegevensbescherming en de risico's daarvan.
Langzaamaan worden we ons ook wel bewust van discriminatierisico's,
maar dat er ook nog allerlei andere grondrechten op het spel kunnen staan,
daar lijken we achteraan te hobbelen. Daar lijken onze juridische reacties
en onze regelgeving en beleidsreacties
die lijken wat langzamer te gaan dan de ontwikkelingen zelf.
ROTMAN: Kan dat eigenlijk wel anders? Want vaak weet je niet...
Vaak is technologie een oplossing voor een probleem
waarvan we niet eens wisten dat we die hadden.
Het zijn vaak toepassingen die je van tevoren ook niet kent.
Dat is ook het leuke aan fundamenteel onderzoek van de wetenschap.
Dus in zekere zin moet het af en toe een beetje knarsen en fout gaan
en moet er een rechter een uitspraak over doen en dan weten we het pas.
Zoiets is ook waar.
-Dat is helemaal waar.
Het recht loopt altijd achter de feiten aan.
Wij kunnen niet voorspellen welke ontwikkelingen zich gaan voordoen
en daarop al regelgeving maken.
Wat we wel soms beter kunnen doen, denk ik,
is dat we bijvoorbeeld dingen techniekneutraler formuleren.
Eén van de dingen waardoor onze Nederlandse grondwet
op dit moment nogal achterloopt,
is dat daar nog allerlei verwijzingen in staan naar de telegraaf.
Nou ja, op het moment dat ik aan mijn studenten
een afbeelding laat zien van 'n telegraaf, hebben ze nog nooit gezien.
ROTMAN: Geen benul.
-Nee.
Dus op het moment dat je hele specifieke technieken gaat benoemen
in je regelgeving, dan gaat die sowieso niet bij de tijd blijven.
Dus je kunt op dat soort punten
al wel iets vooruitstrevender zijn.
-Dan is een deel van de oplossing al:
Welke technologie het ook is:
dit zijn de kernwaardes waar we aan vasthouden.
Vaak gaat het over: er moeten digitale burgerrechten worden geïntroduceerd.
En ik denk een beetje intuïtief:
we hebben toch gewoon recht op privacy, et cetera.
We hebben allemaal belangrijke dingen. Als we dat als een filter
over die tech heen gooien... Waarom nou weer aparte...
Maar misschien zeg ik iets heel sufs, hoor.
GERARDS: Nee, ik ben het daar wel mee eens.
Dat is een hele discussie. Er zijn ook mensen die zeggen:
'Die technologische ontwikkelingen zijn zo bijzonder,
daar moeten we ook bijzondere mensenrechten voor hebben.'
Het recht om niet gemeten of gecoacht te worden bijvoorbeeld.
Maar dat zijn eigenlijk allemaal aspecten van rechten die we allang hebben.
Dat zit ook heel erg in privacy en dat recht op informatie
en in menselijke waardigheid bijvoorbeeld.
Dus je kunt beter naar die grondwaarden kijken
en die worden beschermd door die mensenrechtenverdragen
en dan moet je ze ook goed toepassen in die digitale en technologische wereld.
Maar echt nieuwe mensenrechten daar hebben we niet zo'n behoefte aan.
ROTMAN: Oké. Ik heb dus die vragen. Ron Roozendaal, kwartiermaker
plaatsvervangend directeur-generaal Digitalisering bij Binnenlandse Zaken
heeft een vraag voor je:
'We willen fraude aanpakken en ook de veiligheid van burgers garanderen.
Maar hoe verhouden die zich tot elkaar?
Dan zou je grondrechten af en toe toch opzij moeten kunnen zetten?'
GERARDS: Ja, dat klopt. Daar ben ik het wel mee eens.
Het is... Grondrechten zijn niet absoluut.
Er zijn een paar grondrechten die je mag nooit mag schenden.
Dat folterverbod wat ik al noemde bijvoorbeeld.
Er zijn geen omstandigheden
waarin je iemand met een goed gemoed toch kunt folteren.
Maar grondrechten zijn, we noemen dat in het recht 'beginselen',
dat zijn vrij zachte rechten eigenlijk.
En die kunnen ook botsen met andere grondrechten.
De vrijheid van meningsuiting van de een kan botsen
met het recht om niet beledigd te worden van de ander bijvoorbeeld.
Dan moet je daar een soort van afweging in gaan maken.
En soms kun je ook een soort compromis vinden.
Dus een klein beetje minder vrijheid voor de een
is een klein beetje meer vrijheid voor de ander.
Maar op die manier kun je dus ook soms zeggen:
Er zijn grote maatschappelijke belangen zoals veiligheid of duurzaamheid...
ROTMAN: Wacht. Die veiligheid is de klassieker in dit verhaal.
Daar denken de mensen meteen aan: veiligheid versus privacy.
Het is kennelijk het een of het ander en het politiek correcte antwoord is:
'We willen de veiligheid garanderen en de privacy van de mensen respecteren.'
Dat geloof ik, dat mag het streven zijn, maar het is natuurlijk niet altijd waar.
Toch?
-Nee, waarschijnlijk niet.
Dus inderdaad, je moet af en toe... Je uitgangspunt moet zijn
dat je probeert om ze zo veel mogelijk met elkaar te verenigen.
Dus om een zo minimaal mogelijke inbreuk op die privacy te maken
om zo maximaal mogelijk die veiligheid te garanderen.
Maar op het moment dat dat niet meer kan en je moet echt keuzes gaan maken,
dan moet je dus, dat is een bijna ethische afweging eigenlijk:
Hoeveel vrijheid hebben we over voor volledige veiligheid
en kun je die veiligheid ook wel volledig garanderen
of is het een gevoel van veiligheid dat je aan het beschermen bent?
ROTMAN: Doen we dat handig genoeg? Zijn we transparant genoeg
in de keuzes die voorliggen?
Want ik heb het gevoel: ook dit overkomt mij een beetje.
Het wordt erdoorheen geduwd en ik heb geen grip.
GERARDS: Dat komt ook wel een beetje
omdat we in de politieke discussies geneigd zijn om een beetje te spelen
met abstractieniveaus van de belangen die op het spel staan.
Dus in de discussie van privacy tegenover veiligheid
wordt opeens het belang van privacy heel klein gemaakt,
omdat er wordt gekeken naar: 'wat moet je nou als individuele persoon inleveren.
Dat is toch helemaal niet zoveel.' Terwijl het belang van veiligheid
groot wordt gemaakt en abstract wordt gedefinieerd.
'Het is toch goed voor onze veiligheid in algemene zin.'
ROTMAN: 'Het is een zaak van leven of dood.
Je hebt toch niks te verbergen.'
-Zo wordt het dan geframed.
En dat is slimme framing, maar in feite ook een beetje oneerlijk.
Dus wat je meer zou moeten hebben in dat publieke en politieke debat
is dat die abstractieniveaus waarop die belangen worden gedefinieerd,
een beetje naar elkaar worden toe gehaald,
zodat er ook gezegd wordt: 'Wat levert dit nou echt op voor onze veiligheid?
Wordt onze veiligheid hier nou echt beter van
of is dat eigenlijk ook maar een klein beetje?'
Dan kan je een eerlijkere afweging maken.
En daardoor gaat het ons soms een beetje boven het hoofd,
doordat dat niet altijd op een eerlijke manier gebeurt.
ROTMAN: Oké, dit is een klassieker:
Veiligheid versus privacy, die soms hand in hand gaan en soms niet.
Wat zijn er andere voorbeelden waarvan je zegt: in dit discours
wordt een beetje aan de grondrechten geknibbeld. Ik weet niet of het erg is,
maar de discussie wordt niet transparant genoeg gevoerd.
GERARDS: Die vind ik heel lastig te beantwoorden.
Ik denk dat het vaak zit in de sfeer van eigendomsrecht
en economische vooruitgang en economisch voordeel.
Dat is moeilijk als een mensenrecht te definiëren.
Dat is het ook eigenlijk niet echt,
maar het is vaak een soort van ondernemingsbelang.
Maar er is wel een soort tendens dat bijvoorbeeld ondernemingsvrijheid
ook gezien wordt als zo'n fundamenteel recht.
Net als bijvoorbeeld intellectueel eigendomsrecht.
En dat wordt dan afgewogen tegen bijvoorbeeld gegevensbescherming
of vrijheid van meningsuiting.
En ik begrijp vaak wel dat dat zo geframed wordt,
maar het levert hele lastige discussies op die zeker voor niet-juristen
niet meer zo goed te volgen zijn,
want daar hebben we het dan nog wel over mensenrechten?
ROTMAN: Als ik een voorbeeld uit mijn mouw mag schudden:
Als je het bijvoorbeeld hebt over de socialmediaplatformen.
Dat gaat vaak over: dat zou mij als burger moeten versterken.
Ik kan mijn mening verspreiden, ik kan groepen opzoeken,
ik kan medestanders zoeken, ik kan debatten entameren,
ik kan van alles doen. En dan roept een president van Amerika iets,
of een voormalige president van de Amerika,
en dan lopen we een beetje vast, want: wie gaat er eigenlijk over?
Wie is verantwoordelijk? Wie is eigenlijk de scheidsrechter hier?
Vinden we dat Twitter hier de scheidsrechter is?
Die heeft huisregels en zegt: die meneer of mevrouw mag niet meedoen.
Of hebben we een vrijheid van meningsuiting en zeggen we: mag wel.
Of moeten wij als democratie bepalen wat wel of niet kan.
Daar gaat het over, technologie en mensenrechten.
GERARDS: En het gaat ook over rechtsstaten
en over de vraag wie de keuzes maakt.
En ik denk dat we dat op dit moment vaak te veel aan die ondernemingen overlaten,
aan die bigtechbedrijven en de Twitters van deze wereld.
Terwijl dat soort moeilijke keuzes toch door die overheid moet worden gemaakt.
Dat is ingewikkeld, want tegen die overheid moet je ook beschermd worden.
Maar tegelijkertijd willen we graag dat ie de moeilijke beslissingen neemt.
En ik denk dat het toch beter is om dat te doen
omdat we na eeuwenlang ervaring ook wel weten
dat we die overheid goed moeten controleren.
Dus die is ingepakt in een systeem van checks and balances
en van verantwoording afleggen en democratische controle
en dat hebben we bij Twitter niet.
ROTMAN: In Europa is daar heel veel besef voor nu.
We hebben de GDPR, de AVG, dat is de privacywetgeving,
er wordt over de AI nagedacht, de impact van kunstmatige intelligentie.
Daar wordt nagedacht over systemen, de Europese cloudoplossing,
zodat we niet meer constant op al die servers in Amerika...
Of dat we niet meer zo afhankelijk zijn van China.
Brussel doet dat best wel handig op dit moment. Of niet?
GERARDS: Absoluut. Brussel is erg bewust
van precies het soort van grondrechtenproblemen
en de botsingsproblemen tussen grondrechten en andere belangen
en neemt ook echt het voortouw om daar goed over na te denken
en om daar de hete kastanjes
uit het vuur te halen voor de lidstaten, die het vaak veel moeilijker vinden
om daar goede oplossingen voor te bedenken.
Ik denk ook dat het goede niveau is om dit soort beslissingen te nemen,
want het is zo'n internationale wereld
dat als je als individueel land daar probeert oplossingen voor te bedenken,
dan ben je maar een kleine speler. Europa is in zekere zin veel krachtiger
en kan oplossingen maken die in ieder geval voor heel Europa bruikbaar zijn,
maar kan ook in dat machtsspel met China en met de Verenigde Staten
en andere grote spelers echt een grotere rol spelen dan staten dat kunnen.
ROTMAN: En je ziet bij de GDPR, de AVG,
dat Europa daadwerkelijk internationaal de norm heeft gezet.
Toch moet ik ook... Ik heb een keer Kees Verhoeven hierover gesproken.
Die was Tweede Kamerlid voor D66, heeft nu z'n eigen bureau opgericht.
En hij zei: misschien zelfs ook wel,
als Facebook iets doet waarmee Nederland het niet eens is,
zou je gewoon moeten zeggen: 'dikke vinger, je past je maar aan.
Bouw maar een aparte app voor Nederland, je zoek het maar uit.'
Vind ik ook wel charmant ergens.
-Ja, dat is het ook zeker.
Dus ik denk ook dat je...
Je moet ook niet onderschatten wat je als lidstaat nog wel kunt doen
en welke vuist je af en toe kunt maken tegen de grote wereldorde.
En ook als nationale rechter dat je soms echt wel een beslissing kunt nemen
die een soort uitstralingseffect heeft en die dan uiteindelijk
misschien die Europese regelgeving kan beïnvloeden.
Uiteindelijk is dat toch nodig.
ROTMAN: Ik heb een vraag van Loulou Hanna, Rijks I-trainee
bij het ministerie van Infrastructuur en Waterstaat.
'We hebben het vaak over de risico's die digitalisering
en ontwikkeling van technologie hebben op mensenrechten.
Maar wat als we het positief benaderen?
Hoe kunnen we deze ontwikkelingen inzetten
ter ondersteuning van mensenrechten?' Leuk. Die vind ik leuk.
GERARD: Goede vraag, inderdaad. Dat kan op allerlei manieren.
Die technologie heeft ons zoveel kansen geboden
voor empowerment en voor emancipatie.
We weten dat de grote opstanden destijds in de Arabische wereld
onder andere gefaciliteerd werden
omdat iedereen opeens met elkaar supersnel informatie kon uitwisselen.
Hoe dan ook, de rijkdom aan informatie waar we toegang toe hebben
is gigantisch groot geworden. De manieren om onszelf te uiten
en om onze eigen persoonlijkheid te ontwikkelen.
Of je nou Beatles-fan bent of postzegelverzamelaar,
je kunt met de hele wereld in contact komen
om je passie uit te oefenen.
ROTMAN: Ik wil graag voorbeelden hiervan en dan wil ik eens kijken
op welk niveau we dit dan moeten doen. Is dat ook een Europees ding?
Want je ziet dat je in Europa een vuist kunt maken.
Hoe gaan dan mensen, individuen
hun grondrechten verstevigen met technologie?
Noem een voorbeeld en dan kijken we waar we dat moeten doen.
Brussel, Den Haag, whatever.
GERARDS: Een van de voorbeelden die vaak genoemd wordt,
is juist die platformisering.
Dat zien we ook heel erg als een bedreiging tegenwoordig,
Maar het idee dat je bijvoorbeeld
je eigen woning tijdelijk even aan iemand anders kunt uitlenen,
dat geeft natuurlijk veel extra interactie en extra mogelijkheden
om jezelf te ontplooien, je eigen vrijheid te kunnen benutten.
Geeft ook veel mogelijkheden
om die overheid eigenlijk even helemaal uit te schakelen.
Daar zitten allerlei voordelen aan. Dat gaat over zelfsoevereiniteit.
ROTMAN: En over zelfontplooiing. Oké, dat is leuk.
Dat zien we nu. Dat zien we in de taxiwereld en in de huizenmarkt.
Daar worden ook grenzen aan gesteld, maar los daarvan:
wie gaat het organiseren? Is dat Brussel?
Kan dat spelletje in heel Europa gelijkgetrokken worden?
GERARDS: Langzaamaan wel, want een van de rare ontwikkelingen
is dat zoiets eigenlijk van de grond af opkomt.
Dus dat er heel veel coöperatie-achtige instituties zijn ontstaan
waarbij mensen inderdaad zo'n app gebruiken
om hun eigen interactie makkelijker te maken.
Dat heeft heel veel voordelen,
maar uiteindelijk, zeker als er commerciële kanten aan komen te kleven
of op het moment dat blijkt dat...
Stel, je gebruikt een platform of coöperatie
om een nieuwe windmolen aan te leggen en je gebruikt daar software voor
blijkt dat in no-time daar ook alle grote big tech-spelers tussen komen te zitten.
Maar 't kan ook tot effect hebben dat mensen eventueel worden uitgesloten
of dat ze zonder dat ze dat willen opeens mee moeten in zo'n coöperatie,
omdat ze anders geen windmolen of geen elektriciteit kunnen krijgen.
Dat zijn dan problemen waar je toch weer overheidsregulering voor nodig hebt.
ROTMAN: Die grote spelers gaan zich er onvermijdelijk tegenaan bemoeien.
Disruptieve tech is er dan in aantocht en die jongens gaan zich ermee bemoeien.
En dan zeg jij eigenlijk: 'wij hebben dus die grondrechten.
Dat zijn belangrijke dingen.
Gaat over soevereiniteit, vrijheid van meningsuiting, discriminatie.
Dat soort dingen allemaal. Dat moeten we als een filter
over die ontwikkeling heen leggen en dan gaan kijken:
'Hoe gaan we dit in goede banen leiden?'
-Ja, en inderdaad
komt dan ook weer die problematiek waar we het al even over hadden,
dat je soms botsende belangen kunt krijgen
en dat je daar dan weer keuzes en afwegingen tussen moet maken
en dat je dat op een zorgvuldige manier moet doen.
ROTMAN: Het lastige is, als ik je mag onderbreken:
Jij noemt die botsende belangen.
Ik denk gelijk als een soort naïeveling die ik gewoon ben, eerlijk is eerlijk,
is dat die tech een emanciperende werking zou moeten hebben.
Het moet mij als individu empoweren, versterken.
Maar de overheden hebben er niet altijd belang bij dat dat gebeurt.
Wie gaat ervoor zorgen dat verhaal dan verteld wordt?
GERARDS: Ik denk dat die overheden,
die interesseert het vaak nog niet zo erg, hoor.
Maar je kan ook het probleem hebben dat andere mensen daar last van hebben.
Dus op het moment dat jij enorm empowered wordt door Twitter
omdat je opeens alles kunt zeggen wat je wil,
is dat aan de ene kant mooi,
maar het kan ook betekenen dat je dingen gaat zeggen
die beledigend zijn voor andere mensen of misschien zelfs schadelijk.
En dan moet er toch iets gebeuren,
want dan staan ook de grondrechten van iemand anders op het spel.
ROTMAN: Je hoort vaak zoiets als privacy by design, security by design.
Je zou bijna zoiets moeten zeggen als menselijke maat by design
of grondrechten by design of zo.
Dan is dat toch weer een grondrecht, dat technologie by design goed is of zo.
En wat is dat dan?
GERARDS: Dat idee van 'by design' vind ik zelf ook erg interessant.
Dat gaat ook een beetje uit van de gedachte
dat er in technologie zelf natuurlijk al bepaalde keuzes zijn ingebouwd.
Die technologie gaat echt niet uit zichzelf denken.
ROTMAN: Nog niet in ieder geval.
-Ja, maar vooralsnog
zijn al die data door mensen aangeleverd,
de programmering gebeurt door mensen,
de toepassing gebeurt door mensen.
Dus alle fouten die in ons menselijk denken zitten,
komen ook terug in die technologie
plus de bedreigingen voor grondrechten die we hebben.
Dus wat je eigenlijk zou moeten doen,
is dat je vanaf het begin af aan heel erg bewust bent
van keuzes die gemaakt worden
en welke impact die zouden kunnen hebben op grondrechten.
En op het moment dat je dat bewustzijn hebt,
kun je je technologie ook zo gaan aanpassen en zo gaan inregelen
dat die grondrechten beschermd worden en misschien zelfs bevorderd worden.
ROTMAN: En je zegt: dat kan het beste in Europees verband,
om antwoord te geven op de vraag van Loulou.
Ik heb nog een vraag voor je van Nina Krijnen, zij is beleidsmedewerker
bij de Taskforce Cyber van het ministerie van Buitenlandse Zaken.
'Vaak wordt gesteld dat online vrijheid
en online veiligheid elkaar uitsluiten. Is dat zo?'
Dat raakt natuurlijk aan onze eerste stelling? Sluiten ze mekaar uit?
GERARDS: Nee, ik denk niet dat ze elkaar echt uitsluiten.
Het kan inderdaad een botsing opleveren
en volgens mij moet je dan vooral goede mechanismes hebben
om met die botsing om te gaan,
om ervoor te zorgen dat ze elkaar niet gaan uitsluiten.
ROTMAN: Wacht, dit is leuk. Jij zegt: er moet een mechanisme zijn.
Laten we deze stelling aangrijpen om wat concrete handvatten te creëren.
Je werkt dan in Europa bij zo'n commissie
of je zit in de Tweede Kamer en er bedenkt iemand bij zo'n vergadering,
bij een meeting: 'we gaan een toffe AI bedenken,
zodat wij toeslagen op de juiste plekken kunnen krijgen.' Whatever.
Er gaat nog wel eens wat fout. Wat is dan zo'n mechanisme?
Wat zijn dan de handvatten? Hoe doe je dat?
GERARDS: Wat je vooral moet doen: ook dan moet je je erg bewust zijn
van de consequenties die de keuzes die je maakt hebben.
Dus je kunt nooit iets heel algemeens zeggen over mensenrechten.
Het hangt altijd af van de precieze situatie waar het over gaat.
Maar wat je dus kunt doen, is stimuleren
dat mensen dat bewustzijn hebben en een goed instrument
dat daar recent voor ontwikkeld hebben,
is een impact assessment voor mensenrechten en algoritmes.
En met zo'n impact assessment kan een team van een overheidsorganisatie
dat bijvoorbeeld een algoritme of AI wil gaan inzetten,
heel precies nagaan wat de consequenties zullen zijn
op het moment dat we dit gaan doen.
Welke grondrechten worden dan eventueel aangetast
en hoe kunnen we daar op een goede manier beslissingen over nemen?
En dat helpt dan uiteindelijk waarschijnlijk ook om te zoeken
naar dat stukje waar die elkaar ogenschijnlijk uitsluitende belangen
misschien toch nog met elkaar kunnen overlappen.
En het helpt ook om na te denken over de vraag:
Als ze nou niet verenigbaar zijn,
hoe maak je dan de keuze?
-Jij bent betrokken geweest
bij deze Impact Assessment Mensenrechten en Algoritmes.
Wanneer komt dit ding, wat is het, deze toverformule?
GERARDS: We noemen het een soort discussie-instrument.
ROTMAN: Is het een vragenlijst?
-Ja, een hele uitgebreide
en je zou daar met een soort interdisciplinair team, dus met juristen,
maar ook met computerdeskundigen en inhoudsdeskundigen
zou je ermee aan de slag moeten gaan om te praten
over de verantwoorde inzet van technologie.
ROTMAN: Oké, we zitten in Brussel: thema's.
We hebben het over de deepfakes. Dat wordt door sommige mensen
als de grootste dreiging voor onze democratie gezien.
Je weet echt niet meer waar je naar zit te kijken.
We hebben het over AI, dat machines die besluiten nemen,
maar die worden ingezet door de overheden
om wel of niet toeslagen toe te kennen.
Kan van alles aan fout gaan, kan ook van alles mee goed gaan.
Maakt mij niet zoveel uit, maar oké.
Kunnen we deze impact assessment in Brussel
als een soort standaard inzetten om te kijken:
'Dit willen we, hier hebben we plannen.'
Kan dat?
-Ja, dat zou kunnen.
Daar wordt op dit moment ook over nagedacht.
Dus je zou kunnen zeggen: 'sommige algoritmen zijn zo gevaarlijk,
die leveren zoveel risico op, daar moet je helemaal niet aan willen beginnen.'
Die zou je überhaupt al kunnen verbieden. Dat gebeurt nu ook,
in ieder geval in het voorstel voor de AI-wet.
Maar je houdt ook een hele categorie over van algoritmes
die misschien een risico kunnen vormen,
maar die misschien toch ook door de beugel kunnen.
En daarvoor zou je inderdaad kunnen zeggen:
als je die als overheid wil inzetten moet je er in ieder geval goed over nadenken
hoe je dat wil doen, en het verplicht stellen van zo'n impact assessment
en het goed afleggen van verantwoording over de keuzes die je dan maakt,
zodat ook achteraf gecontroleerd kan worden
waarom je bepaalde dingen gedaan hebt.
Dat zou daarvoor een goed mechanisme kunnen zijn.
ROTMAN: Zo zou je ook kunnen toetsen, je hebt hier vast over nagedacht,
als je bijvoorbeeld vanuit Europa redeneert:
je hebt de Amerikaanse techreuzen, je hebt misschien Chinese bedrijven.
Dat zijn landen die er op sommige vlakken een andere moraal erop nahouden.
Of je kan toetsen: 'willen we dat hierheen halen?
Zo ja, onder welke voorwaarden? Of we gaan zelf iets anders bouwen.
We zetten onze mensen erop.'
Zie je daar ook wel mogelijkheden?
-Het is wel een interessant idee.
Daar wordt al een beetje mee gespeeld als het gaat om...
ROTMAN: Jij verdient er geen geld mee als de overheid dit gaat inzetten. LACHT
GERARDS: Nee, nee. Het is nog best lastig,
omdat de overheid een andere rol speelt dan ondernemingen
is het lastig om precies hetzelfde instrument
bij ondernemingen in te zetten als bij de overheid.
En al helemaal als het dan ook nog bedrijven zijn
die in het buitenland gevestigd zijn. Maar je kunt het denk ik wel zo ontwerpen
dat het ook... Bij bijvoorbeeld certificering
of het toelaten van bepaalde producten op de markt.
Net zoals je nu aan bepaalde veiligheidsnormen moet voldoen,
wil je Chinees speelgoed op de markt kunnen brengen,
zou je iets vergelijkbaars kunnen doen
als het gaat om algoritmes die je in Europa op de markt wil brengen.
ROTMAN: Zijn onze fundamentele rechten nou sterker op dit moment
dan 20 jaar geleden toen al die tech er niet was?
Waar staan we nu? Waar zitten we naar te kijken met z'n allen?
GERARDS: Ik ben niet zo'n grote gelover dat alles altijd beter wordt,
maar ook niet altijd slechter.
Ik denk dat we voortdurend in beweging zijn en veranderen
en voortdurend ons best doen om het zo goed mogelijk te krijgen.
Wat ik in ieder geval positief vind, is dat het bewustzijn van deze problematiek
groot is en dat er veel mensen mee bezig zijn om dit beter te krijgen.
En zolang we dat maar blijven doen, zie ik het toch wel positief in.
ROTMAN: Janneke Gerards,
hoogleraar fundamentele rechten aan de Universiteit Utrecht.
Dank je wel.
-Graag gedaan.
Dank ook natuurlijk Loulou Hanna, Nina Krijnen en Ron Roozendaal
voor jullie goede vragen. Jullie zijn ook te horen in die andere podcasts. Leuk.
Wil je meer weten? Ga dan naar it-academieoverheid.nl
of je favoriete podcastapp.