De reputatie van algoritmes

(Intro met abstracte beelden met daaronder een korte begintune.)

(In beeld verschijnt de tekst: 
microlearnings
Juridische kwesties)

(Twee mensen zitten tegenover elkaar in een verder lege kantoorruimte en starten het gesprek: 
mevrouw Mariette Lokin begint, de heer Arno Lodder reageert.)

(In beeld verschijnt de tekst:
mr. dr. Mariette Lokin
juridisch adviseur, Ministerie van Financiën)

MARIETTE LOKIN: De laatste tijd heb ik eigenlijk best een beetje medelijden met het algoritme. Algoritmen zijn de boosdoeners van alles, lijkt het wel in deze wereld van digitalisering en automatisering, terwijl ze al zo oud zijn als de weg naar Rome en ook in de papieren uitvoeringspraktijk
van de overheid voorkwamen, alleen is het nu gedigitaliseerd en dan wordt het minder grijpbaar. Maar ik denk dat algoritmen ook gewoon heel mooie dingen voor ons kunnen doen.

(In beeld verschijnt de tekst:
Arno Lodder
hoogleraar Internetrecht, Vrije Universiteit Amsterdam)

ARNO LODDER: Ja. Een probleem bij het woord 'algoritme', daar maak ik me ook schuldig aan, is dat je het gebruikt voor 'deep learning algorithms' die dus op basis van invoerdata allerlei patronen afleiden - 
en algoritme een heel generieke term is, die ook staat voor wat een rekenmachine doet, of, wat ze vaak als voorbeeld geven, een recept voorschrijft. Maar dat raakt niet per se aan het punt wat jij wilde maken, dat de mensen eigenlijk ook een soort algoritmes uitvoeren in een praktijk, dus dat er in die zin niet iets wezenlijks veranderd is ten opzichte van wat de mensen deden.

MARIETTE: Nee, dat zit 'm voor een deel dus ook in: hoe kun je het uitleggen? Maar ik vind toch dat stapje naar die deep-learningalgoritmen, zelfs die... We zien die nu heel sterk in de hoek van toezicht:
Fraudedetectie, patronen ontwaren waar mensen zich niet aan de regels houden, terwijl ik denk dat je die ook zou kunnen inzetten om te kijken waar mensen in de problemen komen of ondersteuning zouden kunnen gebruiken en dat we ze als het ware ook voor ons kunnen laten werken om mensen te helpen en om bijvoorbeeld ook te zien: hier doet de computer wel een bepaalde rekensom, maar de uitkomst zit in een bandbreedte waarvan we zeggen: Daar laten we nog iemand naar kijken. We hadden pas het voorbeeld van de mevrouw die een arbeidsongeschiktheidsuitkering kreeg die heel laag was, omdat ze maar heel kort gewerkt had. Daar zei de rechter: Je moet meer dat evenredigheidsbeginsel toepassen. Dat kun je ook detecteren: waar zitten mogelijk die onevenredige gevallen?

ARNO: Dus algoritmes hebben misschien terecht een slechte naam, omdat ze ingezet worden om foute dingen op te sporen, maar ze kunnen ook worden aangewend om mensen te attenderen... Een proactieve, sympathieke overheid zou je dan krijgen.

MARIETTE: Ja, je kunt die menselijke maat ook in massale processen... nou ja, bijna een gezicht geven, door te zorgen dat je op tijd ziet 'hé, hier wijkt ook iets af van de norm', in de zin van: Daar laat ik naar kijken, zodat iemand niet tussen wal en schip valt.

ARNO: Het vergt ook van de menselijke uitvoerders, dat ze kritisch kijken naar wat er uit systemen komt en het niet klakkeloos overnemen.

MARIETTE: Zeker, absoluut. En daar denk ik dat je ook... Daar is het heel belangrijk dat we ook met z'n allen heel goed bepalen wat dan die menselijke maat is. Wat vind je gevallen die onredelijk uitpakken? Waar liggen grenzen? En daar ook het gesprek steeds over voeren om dat als het ware te kunnen finetunen op de ervaringen in je uitvoeringspraktijk. Want ik denk dat de mensen die de beslissingen nemen, dat is mijn ervaring in de omgeving waar ik werk, dat met de allerbeste intenties doen. Maar soms weten ze het niet zo goed, ook niet waar de ruimte ligt. Ik vind dat je ze ook moet beschermen, haast, tegen het nemen van onmenselijke beslissingen of in ieder geval tegen het daarvan beticht worden.

ARNO: Ja. Het is wel heel lastig voor de mens om kritisch te zijn over technologie die ontwikkeld is. Daar is de mens psychisch niet zo heel goed toe in staat. Maar in tweede instantie, als er een appel
wordt gedaan, dan moet je ervoor openstaan. En mensen moeten beseffen dat degenen die het technisch proberen om te zetten, het ook niet altijd perfect kunnen doen.

MARIETTE: Nee, en daar heb je... Je hebt bepaalde veiligheidsventielen in je proces nodig. En je kunt juist die techniek weer gebruiken om die in te bouwen.

ARNO: En ook ten goede van de burger.

MARIETTE: Absoluut.

(Outro met abstracte beelden en korte eindtune.)

(In beeld verschijnt de tekst:
microlearnings
Juridische kwesties)

(Het laatste beeld bevat het logo van de Rijksoverheid met daaronder de tekst:
Deze microlearning is tot stand gekomen door een samenwerking tussen de Leer- en Ontwikkelcampus (LOC) van UBR, de directie CIO Rijk van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BKZ) en de Rijksacademie voor Digitalisering en Informatisering Overheid (RADIO))