Ethische dilemma's en AI

TJERK EN REMCO_1
 
(Intro met abstracte beelden met daaronder een korte begintune.)

(In beeld verschijnt de tekst: 
microlearnings
Ethiek)

(Twee mensen zitten tegenover elkaar in een verder lege kantoorruimte en starten het gesprek: 
de heer Tjerk Timan begint, de heer Remco Boersma reageert.)

(In beeld verschijnt de tekst:
dr. Tjerk Timan
TNO, afdeling Strategy, Analysis & Policy)

TJERK TIMAN: Remco, je werkt bij de overheid, al voor een heel lange tijd en zelf ook een achtergrond in de IT, ICT en AI. We hebben recentelijk heel veel aandacht gezien, de afgelopen paar jaar, en steeds meer, rondom de rol, kansen en risico's van AI en ook zeker de ethische dilemma's daaraan. Wat zijn volgens u de ethische dilemma's die AI stellen die we daarvoor niet kenden?

(In beeld verschijnt de tekst:
ir. Remco Boersma
projectleider Data-analyse en AI, Ministerie van Justitie en Veiligheid)

REMCO BOERSMA: Ik ben blij dat de discussie sowieso veel breder gevoerd wordt, dan anderhalf jaar geleden, zo'n beetje. Toen was het echt nog een discussie met vaak kleine clubjes. Die hele discussie rond ethische kant wordt veel breder gevoerd. Wat het wel ingewikkeld maakt natuurlijk, is dat, als je ethiek wil automatiseren, dat het veel minder intuïtief is, dan als dat in het gewoon dagelijks acteren gebeurt. Die vraagstukken, om dat goed op te lossen, dat is nog niet eenvoudig. Dus dat is een beetje een worsteling waar we nog steeds in zitten. 

TJERK: En wat zijn dan specifieke ethische dilemma's? Zijn er een of twee waarvan u zegt: Dat zijn de meest in het oog springende discussies nu? 

(In beeld verschijnt de tekst: Specifieke ethische dilemma's)

Dat zijn de grootste uitdagingen?

REMCO: Nou, het is heel contextafhankelijk. Je hebt natuurlijk voorbeelden te over waarin ethische dilemma's die voorheen niet van toepassing waren, plotseling een ethisch vraagstuk worden. Zelfsturende auto's was daar altijd het belangrijkste voorbeeld in. Wat voorheen niet een ethisch vraagstuk is, wie rij ik aan, is dat nu wel. Omdat je het geprogrammeerd hebt. Die vraagstukken zie je natuurlijk ook op allerlei andere onderwerpen terugkomen. De manier waarop je het inzet, natuurlijk,
en waarvoor je het inzet, is mede bepalend hoe je die ethische afweging maakt. Dus er is eigenlijk niet een eenduidig antwoord, denk ik, direct op te geven. 

(In beeld verschijnt de tekst: Context van applicatie bepaalt ethische afweging)

TJERK: We zien in de kaders vanuit Europa en ook vanuit een overheid, er worden ethische kaders en normen ontwikkeld die een soort van alle mogelijke risico's moeten vangen. Zijn we klaar met de ethische dilemma's? Hebben we ze allemaal te pakken? Of zeg je: Er zullen telkens nieuwe blijven komen. En is dat dan ook een reflectie op dat raamwerk? Is dat raamwerk goed genoeg om al die nieuwe ethische dilemma's te kunnen ondervangen? 

REMCO: Nee, ik denk het niet. Het heeft natuurlijk wel wat hoog-over-kaders. Jij bedoelt de AI-verordening die vanuit de Europese Commissie komt, die natuurlijk stelt van: Bepaalde typen analyses
mogen niet meer, of worden verboden zelfs. Dus emotieherkenning of gelaatsherkenning in de realtime biometrische identificatie is verboden. Dat brengt natuurlijk wel onmiddellijk ook de discussie op gang. Oké, als je dat zo stelt, hoe gaan we dan om bijvoorbeeld met onze tak, ik werk bij Justitie en Veiligheid, hoe ga je dan om met opsporing en vervolging en hoe maak je daar afwegingen in? Als dat verbod er ligt, kunnen bepaalde dingen wellicht ook niet. Dus daar hebben we wel intern discussie over.

(Outro met abstracte beelden en korte eindtune.)

(In beeld verschijnt de tekst:
microlearnings
Ethiek)

(Het laatste beeld bevat het logo van de Rijksoverheid met daaronder de tekst:
Deze microlearning is tot stand gekomen door een samenwerking tussen de Leer- en Ontwikkelcampus (LOC) van UBR, de directie CIO Rijk van het Ministerie van Binnenlandse Zaken en Koninkrijksrelaties (BKZ) en de Rijksacademie voor Digitalisering en Informatisering Overheid (RADIO))