Bij het inzetten van generatieve AI in werkprocessen doorloop je 3 belangrijke vragen: willen we dit (bijvoorbeeld bij kritieke beslissingen), mogen we dit (binnen wettelijke kaders) en kunnen we dit (alleen als AI aantoonbare meerwaarde levert). De afweging begint bij de jou. Een goed gesprek hierover, met bijvoorbeeld management en domeinexperts, zorgt voor heldere grenzen en verantwoorde toepassing.
JOOST DE HAAN, strategisch adviseur algoritmes en AI, ministerie van Justitie en Veiligheid: Willen, mogen, kunnen. In die volgorde.
♪ RUSTIGE MUZIEK ♪
[Logo Rijksoverheid. Microlearnings: starten met AI. Willen, mogen, kunnen.]
JOOST: De vraag waar en wanneer we generatieve AI willen gebruiken is niet aan de ICT'er om te bepalen. Het is aan de gebruikers of aan de opdrachtgevers van de systemen om te bepalen of dit geschikt is. Je kan die overweging afpellen door een onderscheid te maken in willen, mogen en kunnen. En wederom in die volgorde.
Te beginnen met willen. Willen we dit werk ondersteunen met generatieve AI? Het is regelmatig niet wenselijk om een besluit of kritieke stap in een proces uit te besteden aan een AI-systeem. Bijvoorbeeld bij het beoordelen van een asielaanvraag of het toekennen van een toeslag. Hoe meer autonomie we aan het systeem geven, hoe zekerder we ervan moeten zijn dat het geen fouten zal maken. Manieren om tot deze inschatting te komen zijn bijvoorbeeld de IAMA (Impact Assessment Mensenrechten en Algoritmes), AIIA (AI Impact Assessment) of een sessie begeleidingsethiek. Ons advies is om deze afweging aan de voorkant uit te voeren.
De tweede vraag die we onszelf moeten stellen, is: mogen we dit werk ook ondersteunen met een AI-systeem? De wet beperkt ons, terecht, in wat we wel en niet met AI-systemen mogen doen. Deze kaders komen voornamelijk uit de EU. Denk aan de AVG of de AI Act. We hebben binnen de overheid diverse gremia en processen om hier invulling aan te geven. Dit is voor generatieve AI niet anders. Denk bijvoorbeeld aan de processen rondom de DPIA's (Data Protection Impact Assessments) of rondom informatiebeveiliging. En daarnaast is het ook goed om te bedenken dat wat er wel en niet mag heel contextafhankelijk is. Er is niet één generiek antwoord te geven of algemene uitspraak te doen over wat er wel of niet mag met een techniek zoals generatieve AI. Dat moet je echt met elkaar bespreken in jullie werkprocessen. Maak dit gesprek ook echt bestuurlijk. Dus leg deze afweging voor aan een MT of misschien wel aan de directie.
De derde vraag die we onszelf moeten stellen, is: kunnen we dit werk ook ondersteunen met AI-systemen? Men denkt al gauw dat AI elk probleem kan oplossen, als een soort magisch middel. Helaas is de waarheid wat weerbarstiger en moeten we dat eerst goed meten voor we daar uitspraken over kunnen doen. AI moet voldoende toegevoegde waarde bieden in bijvoorbeeld een kortere doorlooptijd van dossiers, complexere analyses of echt extra inzichten om het te kunnen verantwoorden. Met behulp van heldere KPI's (Key Performance Indicators), validatiemethodes en monitoring kunnen we dit heel goed in kaart brengen en kunnen we aantonen waarom het toepassen van AI meerwaarde heeft.
Om af te sluiten. We hebben onszelf dus drie vragen te stellen. Willen we AI gebruiken in ons werkproces? Mogen we AI gebruiken in ons werkproces? En kunnen we AI ook echt gebruiken in ons werkproces? Om deze vragen te beantwoorden is het van belang om een open en eerlijk gesprek te voeren. Omdat we dan met elkaar kunnen leren waar zowel de harde als de zachte grenzen van deze technologie liggen.
[Logo Rijksoverheid. Veilig en verantwoord versnellen met AI.]