Je kunt AI-toepassingen ethisch verantwoord ontwikkelen en inzetten met behulp van ethische principes voor betrouwbare AI. Houdt rekening met menselijke regie en toezicht, zorg dat je AI-model technisch robuust en veilig is, geef aandacht aan de kwaliteit en integriteit van de data en waarborg transparantie. Houd daarnaast rekening met diversiteit, non-discriminatie, rechtvaardigheid en streef naar een positieve bijdrage aan milieu en maatschappij van het AI-model. Zorg tot slot dat je regelt wie waarvoor verantwoordelijk is en hoe je het systeem kunt controleren.
Microlearnings: starten met AI. Ethisch verantwoorde ontwikkeling en inzet van AI. Spreker: Koen van Kan, AI Governance Consultant – Rijks ICT Gilde, onderdeel van Rijksorganisatie ODI.
KOEN: Stel je voor: een overheidsorganisatie overweegt het inzetten van een AI-systeem dat CV's scant en automatisch rangschikt op geschiktheid voor een bepaalde functie. Als het ware hun eigen CV-AI.
[Microlearnings: starten met AI. Ethisch verantwoorde ontwikkeling en inzet van AI.]
KOEN: Wat zijn dingen waar zij aan kunnen denken om dit verantwoord te doen? Laten we hiernaar kijken met behulp van ethische principes voor betrouwbare AI. Menselijke regie en toezicht stelt dat AI-systemen menselijke autonomie horen te ondersteunen door gebruikers te helpen goede besluiten te nemen. Menselijk toezicht is daarom ook nodig, zodat mensen beslissingen kunnen aanpassen of afwijzen.
Bij de CV-AI zouden recruiters de uitslag dus niet blind mogen volgen. Zij blijven eindverantwoordelijk en moeten kunnen afwijken van het advies.
Technische robuustheid en veiligheid stelt daarnaast dat systemen veerkrachtig en veilig moeten zijn. Dit betekent dat het beschermd moet zijn tegen cyberaanvallen, back-upplannen moet hebben en accuraat en betrouwbaar moet zijn.
Wat als de CV-AI bijvoorbeeld crasht, foutieve scores geeft of gemanipuleerd wordt met nep-CV's? Er moeten tests worden ingebouwd die dit signaleren en zorgen dat passende maatregelen automatisch worden geactiveerd.
Privacy en databeheer stelt dat er aandacht moet zijn voor de kwaliteit en integriteit van de data. Dit gaat ook over gegevensbescherming: gebruikers moeten de controle behouden over hun gegevens en de privacy moet gewaarborgd blijven.
De CV's voor onze CV-AI bevatten gevoelige persoonsgegevens. Het is goed om vast te leggen hoe die worden opgeslagen, wie er toegang heeft en waar ze wel en niet voor worden gebruikt. Ook moet het duidelijk zijn hoe data wordt gebruikt en hoe beslissingen worden gemaakt om transparantie te waarborgen. Communiceer duidelijk over de inzet en mogelijke beperkingen van het AI-systeem. Ook is belangrijk dat gebruikers weten dat ze met een AI-systeem te maken hebben.
Bij het gebruik van de CV-AI kunnen kandidaten geïnformeerd worden dat AI gebruikt wordt en waarom ze wel of niet geselecteerd zijn. Houd ook rekening met diversiteit, non-discriminatie en rechtvaardigheid. Systemen moeten inclusief zijn en geen vooroordelen versterken of leiden tot discriminatie. Ook zijn ze toegankelijk voor iedereen en worden belanghebbenden betrokken bij het ontwerp.
Voor het gebruik van de CV-AI is het belangrijk rekening te houden met de historische data waarop het model is getraind. Mochten bepaalde groepen daarin minder kans hebben gehad om aangenomen te worden, kan het systeem die ongelijkheid versterken. Hier moeten dan maatregelen voor worden getroffen.
Ook streven we na dat de impact van AI positief bijdraagt aan milieu en maatschappij door maatschappelijk en ecologisch welzijn voorop te stellen. Hier gaat het dus om de brede impact op de samenleving. Het trainen en inzetten van een CV-AI heeft impact op het milieu. Het is dus belangrijk dat deze impact minimaal is.
Tot slot behandelen we het ethische principe van verantwoording, waarbij verantwoordelijkheid voor de uitkomsten van het AI-systeem is vastgelegd, en de systemen controleerbaar zijn. Voor de CV-AI moeten heldere afspraken gemaakt worden over wie aansprakelijk is in geval iemand onterecht wordt afgewezen. Door het volgen van deze ethische principes werken we samen aan verantwoorde ontwikkeling en inzet van AI.
[Veilig en verantwoord starten met AI. Deze serie is ontwikkeld in opdracht van het CDO Office van BZK door de RijksAcademie voor Digitalisering en Informatisering Overheid (RADIO) in samenwerking met JenV en Rijks ICT Gilde, onderdeel van Rijksorganisatie ODI.]