Podcast Bits en beleid: Nieuwe technologieën inzetten

Podcast Bits en Beleid: Inzet nieuwe technologieën. Gast: Ger Baron, Chief Technology Officer bij gemeente Amsterdam.

00:00:01 - 00:00:49
CO-HOST: De metaverse is dood. Zo luidde een kop die ik onlangs las. Meta startte die hype in 2021. VR brillen op voor een tweede digitale leven. Virtueel Land werd toen nog voor tonnen verkocht. Nu zijn deze werelden een niemandsland. Meta's Metaverse trok in 2025 soms maar twaalf gebruikers. Meta had er 70 miljard in gepompt. Stel je voor dat onze overheid het voorbeeld van Meta had gevolgd en honderden miljoenen had gestoken in een technologie die niks had opgebracht. Tegelijkertijd hebben we wel kansen gemist, zoals het opzetten van een Europese cloudinfrastructuur. Nu zijn we afhankelijk van Amerikaanse clouddiensten. Nieuwe technologieën kunnen gave dingen, maar het hoe en wat heeft vaak zichzelf nog niet bewezen. We kunnen niet alles klakkeloos omarmen, maar we kunnen ook niet altijd de kat uit de boom kijken. Hoe prik ik als ambtenaar door die hype heen? En hoe bepaalt een organisatie welke innovatie morgen waarde toevoegt en welke niet?

00:00:51 - 00:01:12
HOST: Dit is Bits en Beleid. In deze podcast duiken we in de digitale transitie van de overheid. Samen met jonge ambtenaren praat ik met deskundige en ervaren collega's. Wat komt er op ons af? Wat vergt dit van leiderschap? En welke kansen en dilemma's zien we? Dit is een podcast van de Rijksacademie voor Digitalisering en Informatisering Overheid en wordt mogelijk gemaakt door CIO Rijk.

00:01:12 - 00:01:26
GER BARON: Willen we dit eigenlijk? Zouden we AI willen gebruiken? En dan als daar de conclusie is 'Nou ja, het heeft potentie', dan pas gaan we met de mensen van de privacy, security, et cetera aan de slag, en gaan we echt kijken: wat mag, wat kan, wat past binnen de wet? Is het ingewikkeld? Is het risicovol?

00:01:26 - 00:01:31
HOST: Co-host vandaag is Jannes Burger, AI Business Developer bij de Belastingdienst.

00:01:31 - 00:01:41
CO-HOST: Vandaag hebben we het over hoe je de keuze maakt om een nieuwe technologie wel of dan niet te omarmen. Welke afwegingen moet je maken? We zijn vandaag op bezoek bij Ger Baron, de Chief Technology Officer bij gemeente Amsterdam.

00:01:42 - 00:01:47
HOST: Jij bent literatuurwetenschapper en filosoof, en nu CTO.

00:01:47 - 00:02:22
GER BARON: Ja, eigenlijk literatuurwetenschapper, maar ik praktiseer heel veel filosofie, dus daarom noem ik dat vak erbij. Maar daar zit geen studie achter. Omdat ik denk dat dat eigenlijk misschien wel de belangrijkste kant is om naar technologie te kijken. Ik ben Chief Technology Officer van de gemeente Amsterdam sinds 2014. En in die rol probeer ik de gemeente Amsterdam te helpen om te kiezen: welke technologie moeten we iets mee en moeten we niet iets mee? En dat is niet alleen maar op het niveau van de werkplek. Maar dat is ook: wat is de impact van TikTok, Instagram, AI op de samenleving? En hoe moeten we daar iets mee?

00:02:22 - 00:02:31
CO-HOST: Ja, ik begreep dat je met al die nieuwe technologieën een nieuw type overheid zou willen hebben. Wat bedoel je met een nieuw type overheid? En wat komen we dan op dit moment te kort als overheid?

00:02:31 - 00:03:45
GER BARON: Ja, wat een leuke vraag. Ik moet me even inhouden om niet 1,5 uur lang een betoog te gaan beginnen. Nee, kijk, wat ik denk is dat je... In veel industrieën zie je denk ik, sinds de komst van het internet een beetje in de jaren tachtig, zie je nu een best wel grote disruptie in het aantal bedrijven wat nu heel dominant is. Dat zijn vaak bedrijven die 'digital first' zijn opgebouwd. Dus bij banken bijvoorbeeld hebben we het niet zoveel meer over banken, maar hebben we het veel over fintech. Een fintech als Adyen is een heel ander bedrijf dan een klassieke bank als ING of Rabobank. En ik denk dat als je mee wilt in deze samenleving, dat je dan... De parallelbank fintech gaat denk ik ook voor de overheid voor een deel wel op. We zouden dus eigenlijk een overheid... En het woord 'overheid' zijn die grote gebouwen in Den Haag, in mijn beeld. Terwijl je misschien wel een GovTech zou moeten hebben als je een beetje dezelfde metafoor gebruikt. En dat vergt een andere manier van denken, andere snelheid, andere principes. Misschien in het ontwerp. Misschien is 1848 heel goed in juridische zin, maar niet zo heel erg goed voor de grote top-down organisaties die we nog zijn. Dus ik denk dat we een ander type overheid nodig hebben. Dat hoeft niet volgende week. Daar moeten we even tijd voor nemen. Maar ik denk uiteindelijk om te kunnen voldoen aan het digitale tijdperk en dan gewoon overheid te kunnen zijn, moeten we iets nieuws. En misschien moeten we het woord overheid afschaffen zelfs.

00:03:45 - 00:03:51
CO-HOST: Ik probeer nog een beetje te onderzoeken wat dan nou eigenlijk die grote verandering is in de overheid die je dan zoekt.

00:03:51 - 00:04:45
GER BARON: Nou ja, mag ik dan een voorbeeld geven om daarop in te spelen? Kijk, als je naar banken kijkt: iedereen heeft tegenwoordig een 'Mijn bank'-omgeving waar je eigenlijk gewoon zelf je financiële zaken regelt, zeg maar. Niemand wil nog naar een balie van een bank. Tenzij je echt een complexe vraag hebt, denk ik. Of niet met digitaal kan omgaan. Maar het gros van de mensen wil gewoon lekker zijn eigen bankzaken doen. Zelf bepalen of je een beleggingsrekeningetje opent of een crypto koopt, et cetera. Dat is eigenlijk heel normaal geworden. In de overheid zijn we nog afhankelijk van waanzinnig grote systemen, van mensen die alles voor ons moeten regelen qua voorzieningen. Beoordelingen gaan nog supertraag eigenlijk. Met allerlei papieren die je soms ook nog moet inleveren uiteindelijk. Terwijl veel van die dingen kun je natuurlijk gewoon best proactief ter beschikking stellen met een ontwerp dat daarop ingericht is. Dus ik denk dat we nog veel te veel van die papieren structuren hebben, met veel te veel ambtenaren in veel te hoge torens, die eigenlijk niks met de werkelijkheid te maken heeft, maar waar abstractie eigenlijk nog dominant is in het model zoals we werken.

00:04:46 - 00:04:51
CO-HOST: En jullie willen denk ik met nieuwe technologieën een deel van die nieuwe overheid creëren dan?

00:04:51 - 00:04:59
GER BARON: Ja. Mijn beeld is dat een gemeente, een lokale overheid in brede zin, eigenlijk nog het meeste klantcontact heeft, zou je kunnen zeggen.

00:04:59 - 00:05:00
CO-HOST: Ja, dat geloof ik wel.

00:05:00 - 00:05:25
GER BARON: En wij zouden dat kunnen opbouwen van: wij zijn de interface, zou je kunnen zeggen. En de rest van de overheid, als je een techniek hebt, is een soort cloud met diensten en producten eigenlijk zeg maar, waarbij je continu die verbinding moet maken: hoe landt het in de praktijk? Want een van de grootste risico's van digitalisering is dat we denken dat het abstract is, terwijl digitalisering ook altijd een fysieke plek heeft. Dus een datacenter. En als een kindje gepest wordt online, dan zit die in een hoekje ergens te huilen. Dat heeft ook een fysieke component.

00:05:25 - 00:05:44
CO-HOST: Precies. En dat is precies waar we het vandaag over willen hebben. Ik wil eigenlijk aan het eind van deze podcast een stappenplan kunnen maken van: oké, hoe maak je dan zo'n keuze, een praktische overweging, van welke technologie, welke innovaties er van buitenaf komen en welke ik ga omarmen, en dus praktisch mee aan de slag ga?

00:05:44 - 00:05:53
GER BARON: Een mooi doel voor dit gesprek. We eindigen met een stappenplan. Wat een mooie conclusie zal dat zijn.

00:05:57 - 00:06:01
CO-HOST: Dus om hiermee te beginnen hoor ik graag welke jullie tech nu mee bezig zijn.

00:06:01 - 00:06:39
GER BARON: Ja. En misschien heel kort. Een heel klein beetje de overweging. Ik zie onze rol niet als uitvinders. Dus wij zitten niet in de in de kwantummechanica na te denken over hoe de volgende klok eruitziet. Wat we wel doen is kijken: wat speelt er in de wereld? Wat is relevant voor, in mijn geval, Amsterdam? Vervolgens gaat het over: wat is de rol van de gemeente Amsterdam? Want er is ook heel veel tech dat heel veel impact heeft op de stad, maar misschien niet per se voor de gemeente. Of ook wel. Dus hoe verhouden we ons tot tot TikTok, tot Instagram, tot Uber, tot Airbnb? Allemaal tech die we niet zelf beheren of ontwikkelen, maar waar we wel impact van in de stad zien.

00:06:39 - 00:06:42
CO-HOST: Zeker impact op jullie leefomgeving. Heel erg in Amsterdam ook.

00:06:42 - 00:07:03
GER BARON: Mijn allereerste projectje weet ik nog heel goed. In 2014/2015 was dat. Dat ging over Pokémon Go. En toen stond er een PokéStop op de Wibautstraat. En dat was gevaarlijk, want mensen liepen de Wibautstraat op. Dus of ik kon zorgen dat de PokéStop wegging. Nou, dat vond ik een heel mooi voorbeeld hoe digitaal en fysiek samen zijn eigenlijk.

00:07:03 - 00:07:09
CO-HOST: En hoe heb je dat aangepakt? Weet je dat nog een beetje? Is dat gesignaleerd binnen de organisatie? Naar wie ben je toegestapt?

00:07:09 - 00:07:11
GER BARON: Nou ja, ik ben toen gaan bellen, dus ik heb uiteindelijk gewoon...

00:07:11 - 00:07:12
CO-HOST: Met wie ben je gaan bellen?

00:07:12 - 00:08:15
GER BARON: Met de makers van Pokémon. [GELACH] Net als heel veel andere gemeenten in de wereld op dat moment overigens. Het leuke van voor Amsterdam werken is dat mensen nog wel eens een telefoon opnemen. Dat klinkt lullig, maar als je een kleine gemeente bent, dan gebeurt dat wat minder vaak. Maar goed. Dus ik zie mijn rol als kijken: wat gebeurt er in de wereld? Hoe is het relevant voor de stad Amsterdam? Wat moet de gemeente Amsterdam ermee? En dan pas gaan we naar projecten kijken. Dus dan kijken we naar AI. Dat is een mooi voorbeeld. Heeft impact op de economie, heeft impact op de gezondheidszorg, op onderwijs. Hé, maatschappelijke sectoren. Daar moeten we iets mee. Vervolgens gaan we kijken: wat is de impact op die sectoren? We maken elke paar jaar een soort trendanalyse, een techradar noemen we dat, waarbij we zeggen: 'Deze technologieën hebben nu dusdanig impact op Amsterdammers. Daar moeten we iets mee.' Dat is één kant. En de andere kant: misschien moeten we als organisatie daar ook iets mee. Dat is een ander type vraagstuk. Dus bij mij zijn er altijd twee typen vraagstukken. Wat is de impact op de stad? Allerlei partijen waar we samen mee werken, de Amsterdammer. En twee, wij zijn natuurlijk ook gewoon een partij in de stad: wat moeten we er als organisatie mee? Dat is voor mij een ander type vraagstuk.

00:08:15 - 00:08:41
CO-HOST: Ja, en ik wil graag focussen op het tweede vraagstuk. We hebben hier een podcast voor ambtenaren die graag ook zelf misschien projecten willen omarmen van nieuwe technologie en eigenlijk denken van: maar waar begin ik überhaupt? Wie benader ik? Hoe moet ik hier een ethische keuze over maken? Zeker als het gaat over technologie zoals AI, dat er heel vaak toch wel echt zo'n scherp randje aan zit waar je niet zomaar door kan banjeren zonder er even bij stil te staan.

00:08:41 - 00:09:10
GER BARON: Het belangrijkste criterium voor ons is altijd, waarbij ik ook... Dat zei ik net ook al: wij zijn geen uitvinders. Wij kijken: wat is er en wat kunnen we gebruiken eigenlijk? We houden dingen in de gaten. We werken samen met alle kennisinstellingen die dat al op veel langere termijn doen uiteindelijk. Bijvoorbeeld de hele cryptobeweging of de kwantumbeweging. Vooralsnog zeggen we: dat is vast relevant een keer, maar die laten we nog even. Daar gaan we het over hebben als het voor ons relevant is. Want ik vind ons als gemeente niet een partij die te veel kan investeren in dingen die misschien relevant zijn.

00:09:10 - 00:09:12
CO-HOST: En hoe is AI daar anders in?

00:09:12 - 00:09:58
GER BARON: Algoritmes zijn natuurlijk typisch iets wat we al decennia overal in gebruiken. Sinds we computers hebben natuurlijk. Maar een mooi voorbeeld. Een jaar of tien geleden zijn we daar echt actief mee begonnen, met een klein team. En toen dachten we heel erg nadrukkelijk van: ja, hoe doen we dit nou op een verantwoorde manier? En toen zijn we eerst gaan nadenken over: wat is er nou nodig om dit verantwoord te kunnen doen? En toen zijn we gaan nadenken over: wat voor proces moet je dan doen? Toen hebben we bijvoorbeeld het concept van een algoritmeregister verzonnen samen met een aantal anderen. Toen zijn we samen met Helsinki zo'n ding gaan bouwen. Want ik geloof er erg in dat je dingen moet bouwen en niet alleen maar opschrijven. Dingen maken, laten zien. En uiteindelijk hebben we dat gelobbyd naar de Europese Commissie en is het een soort Europese standaard geworden en heeft de rijksoverheid het overgenomen.

00:09:58 - 00:09:59
CO-HOST: Heel netjes.

00:09:59 - 00:10:00
GER BARON: Dat gaat niet altijd zo.

00:10:00 - 00:10:07
CO-HOST: Bedoel je met de Europese standaard de verplichting in de nieuwe AI-wetgeving over het registreren?

00:10:07 - 00:10:28
GER BARON: Dat bedoel ik inderdaad. Dus overheden moeten nu registreren welke algoritmes ze gebruiken, welke data ze hebben ontwikkeld, biasanalyses, et cetera. Dus dat was een manier. En ons doel was nu helemaal niet om zoiets in zichzelf te maken, maar we hadden gewoon iets nodig waardoor we voor onszelf konden laten zien aan Amsterdammers: wat doen we nou eigenlijk met welk algoritme en wat precies?

00:10:31 - 00:11:06
HOST: Eventjes concreet. Iemand roept op een vergadering hier op het stadhuis: 'Bij dit project vind ik dat we AI moeten inzetten. Volgens mij kunnen we daar een mooi modelletje voor bouwen.' En dat kan te maken hebben met uitkeringen, met geld of met de manier waarop de verkeersstromen georganiseerd worden. Wat is dan vervolgens het traject? Want je wilt natuurlijk niet AI inzetten om AI in te zetten. Het moet daadwerkelijk functioneel zijn, neem ik aan. Dat is natuurlijk wat je steeds hoort. Het is geen doel op zich. Et cetera. Wat is dan vervolgens het proces dat in gang wordt gezet? Vooral hoe jij vindt dat het in gang zou moeten worden gezet op zo'n afdeling.

00:11:07 - 00:11:41
GER BARON: Ik vind het een mooi voorbeeld. Dit gebeurt natuurlijk dagelijks. Ik krijg natuurlijk dagelijks, nou ja, wekelijks mailtjes, telefoontjes waarop mensen zeggen: 'goh, ik moet iets bezuinigen' of 'ik heb dit weekend iets.' 'Ik heb een sinterklaasgedicht gemaakt met AI, dus daar kunnen we vast nog iets anders mee.' Dat is toch een beetje het achterliggende niveau vaak. Maar er zijn heel veel mensen die ideeën hebben met AI. We hebben een expertisecentrum voor AI, met een AI-balie heet dat, waar mensen zich kunnen melden. En dan denken we mee. Dan is heel vaak de conclusie: Nou, supergoed idee, zou ik zonder AI doen. Ik zou gewoon iemand achter een balie zetten. Dat is goedkoper, duurzamer, effectiever, vriendelijker, et cetera.

00:11:41 - 00:11:51
CO-HOST: En welke soort van diensten hebben jullie onder die AI-balie? Is het helemaal van a tot z? Als ze een goed idee hebben bijvoorbeeld, ga je het helemaal naar de implementatie toe tillen?

00:11:51 - 00:12:25
GER BARON: In principe hebben we dat op die manier nu georganiseerd. Dat is pas sinds een maand of vijf hoor. We zijn er al wat langer mee bezig. Wat we al langer doen, en dit is nu de eerste fase eigenlijk, is dat we helpen verkenningen doen. Dan gaan we met ze in gesprek. Wat wil je precies? Waar heb je het eigenlijk over? Weet je wat AI is? Risico's. Alles. En dan gaan we gewoon een traject in waarbij we meestal eindigen met een prototype, omdat we vaak willen laten zien wat AI doet. Dus we leveren eigenlijk wel papier op, maar we leven eigenlijk ook altijd een prototype van wat AI zou kunnen doen. En soms is dat gewoon een serie prompts in een LLM, dus is dat niet zo spannend. Soms maken we ook iets aparts.

00:12:25 - 00:12:26
CO-HOST: Misschien een demofilmpje.

00:12:26 - 00:12:30
GER BARON: Een demofilmpje, maar we maken altijd iets 'clickables', et cetera.

00:12:30 - 00:12:31
CO-HOST: Iets tastbaars.

00:12:31 - 00:12:53
GER BARON: Ja, omdat dat toch vaak meer een beeld geeft van: hoe kan het ons helpen? En dat hebben we een paar keer heel succesvol gedaan. En toen hebben we gezegd: Nu moeten we ook gaan nadenken over schaling. Want AI wordt nu wel meer standaard. Alles wordt AI genoemd ook natuurlijk. We hebben nu zeventig softwarepakketten waar iets van AI in zit geloof ik. Dus je moet er iets mee. Maar wat we zeggen: we willen zelf er controle over houden.

00:12:53 - 00:13:02
CO-HOST: Je noemde net het algoritmeregister. Dat is natuurlijk een manier om verantwoording af te leggen, maar dat is natuurlijk niet de eerste keer dat je je afvraagt van of jouw nieuwe algoritme of nieuwe AI-tool wel ethisch is.

00:13:04 - 00:13:39
GER BARON: Wat we met die verkenningen doen, is mensen echt even meenemen: wat doen we eigenlijk? Wat willen we eigenlijk? Wat is AI? En dan is de fundamentele vraag in het begin altijd niet eens: mag niet. We hebben de Tada-waarden die we volgen, heet dat. Maar ook een ethische bijsluiter die we van tevoren altijd doen, waarbij we eerst eens nagaan: willen we dit eigenlijk? Zouden we AI willen gebruiken? En dan als daar de conclusie is 'nou ja, het heeft potentie', dan pas gaan we met de mensen van de privacy, security, et cetera aan de slag en gaan we echt kijken: wat mag, wat kan, wat past binnen de wet? Is het ingewikkeld, is het risicovol?

00:13:39 - 00:13:59
CO-HOST: Ik zit nu meteen aan het stappenplan te denken dat we gaan maken. Dan heb je dus eerst het idee van: moet je überhaupt AI willen hiervoor? En de tweede vraag is van: oké, als we AI willen hiervoor, willen we dat op een ethisch vlak gaan zien. En dat is blijkbaar dus iets wat jullie doen voordat überhaupt de beveiliger erbij komt, datamanagement, alles.

00:13:59 - 00:14:15
GER BARON: Zeker. En dan gaan we ook naar de duurzaamheid kijken en dat soort afwegingen. Dus dat is nog los van de ethiek. Dat zit vaak toch aan: wat betekent dat voor Amsterdammers? Zit er bias en dat soort vraagstukken in. Maar duurzaamheid hoort ook in dat rijtje eigenlijk. Maar goed, dat doen we pas als we weten wat voor AI we willen hebben, want dat is toch altijd nog relevant.

00:14:15 - 00:14:25
CO-HOST: We hebben bij de Belastingdienst natuurlijk onze eigen ethische en AI-kaders. En wij hebben duurzaamheid wel gewoon bijgevoegd bij de ethische fase. Dat is gewoon onderdeel van de ethiek die wij behandelen.

00:14:25 - 00:14:30
GER BARON: En zit er dan ook een soort technologiekeuze aan het begin? 'We adviseren u dat ook aan het begin van zo'n traject.'

00:14:30 - 00:14:47
CO-HOST: We hebben niet echt per se een vast traject in die zin. Daar zijn we nog mee bezig. Maar we hebben wel een bepaald ethisch kader waar we onderwerpen aan behandelen. Technologie is natuurlijk eentje daarvan. Je hoeft niet altijd AI te gebruiken om vliegen dood te slaan.

00:14:47 - 00:15:04
GER BARON: Misschien wel, want dat is voor ons heel relevant in ieder geval. We hebben natuurlijk, in de belasting waarschijnlijk nog veel meer, allemaal leveranciers die ook van alles doen. De Copilots van deze wereld zijn altijd een beetje het flauwe voorbeeld natuurlijk. Ik weet niet of jullie dat gebruiken. Maar dat zijn allemaal dingen die gewoon naar binnen worden geknald natuurlijk.

00:15:04 - 00:15:09
CO-HOST: Precies. En we krijgen ook heel veel vragen van leveranciers van: hé, we hebben AI-tooling die we aan kunnen zetten voor jullie.

00:15:10 - 00:15:10
GER BARON: Gratis het eerste jaar.

00:15:10 - 00:15:25
CO-HOST: Gratis het eerste jaar. Dat soort dingen. En dan zitten wij met de vraag van: oké, ja of nee? Hoe pakken jullie dat aan met die vragen? Wij hebben een hele grote organisatie, dus we zitten niet per se dat we denken van: oh, er zit een of ander mannetje die daar ja of nee op mag zeggen.

00:15:25 - 00:15:38
GER BARON: Wat we doen is... We hebben een gecentraliseerde compliance-afdeling. We hebben een gecentraliseerd AI-expertiseteam. En in principe wordt elk AI-traject dat we doen beoordeeld, begeleid moet ik zeggen, door het expertiseteam.

00:15:38 - 00:15:45
CO-HOST: En met gecentraliseerd bedoel je: het maakt niet uit of je schoonmaker bent of hier beleidsmedewerker. Het is allemaal dezelfde balie waar je naartoe gaat.

00:15:45 - 00:16:04
GER BARON: We hebben in 2022 vrij fors gereorganiseerd, waarbij we dit soort processen eigenlijk... We werken natuurlijk decentraal, we zitten overal, maar we zijn centraal georganiseerd. Dus we detacheren mensen. Maar dit proces hebben we nog centraal georganiseerd. Het grote doel is uiteindelijk natuurlijk dat we dit gewoon een regulier proces maken, en niet meer een speciale AI-afdeling nodig zouden moeten hebben.

00:16:04 - 00:16:14
HOST: En dat team helpt dus om te bepalen: is dit inderdaad een oplossing voor het probleem dat we hebben? En meteen het ethische kader vaststellen.

00:16:14 - 00:16:50
GER BARON: Daar begint het mee. Jazeker. En er wordt ook bepaald: is dit potentieel laag, hoog, midden risico? Dat doen we aan het begin. Daar hebben we ook een tool voor gemaakt, zodat je ook weet: met hoeveel aandacht gaan we hiermee aan de slag? Schoonmaken bijvoorbeeld is een mooi voorbeeld. Hoe vol de afvalbak is, is een ander type vraagstuk dan 'krijg je een uitkering, ja of nee?' Dus als er geen persoonsgegevens in zitten, heb je gewoon een ander type vraagstuk. Kun je met zo'n afvalbak nog gaan nadenken over, kunnen we dan in de gaten houden hoeveel nummer achterin gooit elke maand? Nou ja, dat zou theoretisch met een algoritme kunnen, maar dat is net even iets meer 'farfetched' dan persoonsgegevens bijvoorbeeld.

00:16:52 - 00:17:03
HOST: En wanneer kom je dan op het punt dat je gaat bekijken: kunnen we dit wel betalen? Zijn onze mensen wel handig genoeg om dit daadwerkelijk tot leven te wekken? Wanneer komt dat in het traject?

00:17:05 - 00:18:23
GER BARON: Ethiek. Dan kijken we: wat voor AI zou je willen en hoe ingewikkeld is dat dan? Dan gaan we parallel en gaan we een businesscase maken eigenlijk. En in je businesscase zit inderdaad ook de competenties. Kunnen we dit zelf? Hebben we externe partijen nodig? We zijn nu pas voor de eerste twee, drie trajecten echt aan het opschalen, aan het implementeren? Daar leren we ook heel veel van. En dat gaan we ook niet allemaal alleen kunnen denk ik. Dus we hebben nu een paar mantelpartijen die ons kunnen helpen met bijvoorbeeld de verandermanagement-kant, zeg maar. Verandermanagement kun je op verschillende manieren naar kijken. Maar als je met AI gaat werken betekent dat je mensen moet trainen. We moeten ook stoppen met andere dingen. En je moet een proces vaak opnieuw ontwerpen. Mijn frustratie is dat toen we internet kregen in deze organisatie, zijn we niet op een andere manier gaan werken. Toen zijn we eigenlijk gewoon pdf's gaan versturen in plaats van brieven, naar veel meer mensen dan dat we die brieven stuurden eigenlijk, omdat de CC zo lekker gemakkelijk was. Nou, ik hoop dat we met AI niet een persoon vervangen door een AI-agent en op die manier naar de wereld gaan kijken, maar ik hoop dat we onze processen ook daadwerkelijk op een andere manier gaan inrichten. Misschien is dat wel even wat ik bedoelde met dat we naar een GovTech moeten en niet bij de overheid moeten blijven hangen. Want als we gewoon hetzelfde blijven doen, dan krijg je nog steeds sequentiële processen waar heel veel mensen sequentieel naar kijken. Als we beleid maken, dan zijn we zo negen maanden verder. Terwijl als je met z'n allen in een ruimte gaat zitten en je hebt voldoende informatie om het te ondersteunen, dan ben je binnen twee dagen een heel eind.

00:18:23 - 00:18:28
CO-HOST: Ik ga gemeente Amsterdam heel goed in de gaten houden, want bij de Belastingdienst kunnen we daar nog veel van leren denk ik.

00:18:29 - 00:19:41
GER BARON: Ik denk dat elke overheid hiermee worstelt, zeg maar. En wij gaan nu weer de volgende reorganisatie in. En dat blijft ook nog wel even. En ik hoop dat we nu daadwerkelijk echt stappen nemen. Dus ik hecht er ook altijd aan dat we de ontwerpers meenemen in dit soort trajecten. Dus niet alleen maar techneuten. Maar het is eigenlijk een ontwerpvraag. En gebruik het verantwoord is een ontwerpvraag voor een deel, maar ook: wordt het proces nou echt effectiever? En beleid vind ik een mooi voorbeeld. Wij hebben in deze organisatie 1157, het helpt altijd om getallen te noemen, klinkt altijd heel slim, mensen die beleidsmedewerker achter hun naam hebben. Er zijn nog veel meer mensen met beleid bezig, denk ik. Dat is gewoon echt heel veel als je erover nadenkt. Maar die zijn vooral bezig met vergaderen met elkaar en processen te organiseren. Want als je kijkt hoeveel beleid wij elk jaar vaststellen, is dat een stuk overzichtelijker. Dus het is gewoon heel interessant hoe we ons hebben ingeregeld in 42 directies die allemaal hun eigen dingetje doen. Anno deze tijd, Anno 2026, is het niet meer helemaal logisch om het op die manier te doen. Dat wil niet per se zeggen dat je alleen maar minder mensen nodig hebt. Want een voorbeeld. Ik weet niet of het nog precies klopt, maar ik denk het wel. Walmart heeft in de VS meer omzet dan Amazon en een stuk minder werknemers. Dus het is niet zo dat digitalisering betekent dat je op minder mensen toe kan. Dat is ook zo'n gezellig misverstand, zeg maar.

00:19:42 - 00:20:04
CO-HOST: Ja, dat merk ik ook heel erg in mijn veld. Dat mensen denken van 'oh, je bent van de AI, jij gaat zorgen dat er minder werknemers zijn.' En ik denk van 'nee, ik ga alleen maar jullie meer werk geven.' Want naast dat je misschien bepaalde processen sneller kan doen, moet je ook heel goed die AI in de gaten houden. Je moet allemaal processen opstellen over wat er gebeurt als er iets mis gaat. En er komt veel meer werk bij kijken dan mensen over het algemeen bedenken.

00:20:04 - 00:20:07
GER BARON: Je zegt eigenlijk: op korte termijn levert het helemaal geen arbeidsplaatswinst op eigenlijk?

00:20:07 - 00:20:13
CO-HOST: Op de korte termijn is het vooral heel veel investeren. En dat valt sommige mensen toch wel vies tegen, hoeveel dat kost.

00:20:13 - 00:20:26
GER BARON: Ja, ook omdat denk ik dat... Kijk, met het sturen van die brief. Dat hebben we gewoon heel lang volgehouden. En nu verwachten mensen ook heel veel snellere upgrades en updates van dienstverlening natuurlijk. Dat dat vooringevuld is bij de Belastingdienst, verwachten we nu eigenlijk al gewoon.

00:20:26 - 00:20:42
CO-HOST: Je kunt niet meer als een organisatie veel verder zijn dan de andere, want anders.... Dat vertrouwen in de overheid is over het algemeen geijkt op: hoe goed gaan die processen bij mij? En als het ergens fout gaat, is dan meteen het vertrouwen in de hele boel weg?

00:20:42 - 00:20:47
GER BARON: Volgens mij is er nu wel een nieuwe staatssecretaris die de opdracht heeft om dit eenvoudiger te maken, dus ik hoop dat die dat ook oppakt.

00:20:49 - 00:21:19
HOST: Het is natuurlijk niet altijd makkelijk, want ik vond die observatie van Jannes helemaal aan het begin van deze podcast over Meta... Er worden miljarden in gestoken en als je als overheid op die trein springt, dan zit je nu gewoon met lege handen en een lege portemonnee. Er zijn natuurlijk veel beloftes, er is veel hype. Jullie wilden met behulp van AI bijvoorbeeld de bijstand efficiënter maken. En dat pakte ook eigenlijk niet zo goed uit achteraf. Kun je ons even meenemen? Wat gebeurde daar?

00:21:19 - 00:22:28
GER BARON: Eigenlijk is dat een heel fijn traject geweest in de zin van heel leerzaam. Wat we wilden doen was eigenlijk aan de kant van onze uitkeringen, bijstand onder andere, kijken: kunnen we met een algoritme mensen iets laten invullen en automatisch zeggen: Ja, je hebt hier recht op, maar je hebt ook nog hier en hier en hier recht op. En konden we dat doen op een manier zonder bias, dus dat we niet de ene persoon wel iets adviseren en de ander niet. Dat is natuurlijk altijd even zoeken. En daar hebben we van gezegd: Nee, we gaan hier een wat groter traject van maken met externe partije, met de Hogeschool van Amsterdam. Hans de Zwart is een hogeschooldocent die daaraan meewerkte. We gaan de gemeenteraad meenemen. We gaan een wethouder meenemen. We doen dat 'full-blown'. De journalisten meegenomen. Laten we dit nou eens helemaal full-blown van voor naar achter doorlopen hoe zo'n proces eruitziet. Nou, dat vonden we superspannend natuurlijk, want iedereen kijkt mee. Heel blij dat we dat gedaan hebben. Heeft uiteindelijk best heel veel tijd en geld gekost om de conclusie uiteindelijk te kunnen trekken: we kunnen niet aantonen dat er geen bias is. Oftewel: we konden ook niet aantonen dat er wel bias was. Maar we konden niet aantonen dat er geen bias was.

00:22:28 - 00:22:29
CO-HOST: En daar sta je dan.

00:22:29 - 00:22:52
GER BARON: En toen was vervolgens het advies: Nou, je zou een veel grotere pilot moeten doen. En toen zeiden we: Ja, we hebben er nu 1,5 à 2 miljoen ingestopt aan allerlei bureaus, consulting, uren, oefenen, et cetera. Willen we dat nog? Of zeggen we: ergens houdt het op. Dus een heel leuk traject eigenlijk, zeg maar. Dus er is niet aangetoond dat het niet werkt, maar er is ook niet aangetoond dat het altijd werkt of goed werkt. We konden niet aantonen dat er geen bias was.

00:22:53 - 00:22:55
HOST: Blijf je dan als CTO toch een beetje met een zuur gevoel achter?

00:22:57 - 00:23:41
GER BARON: Ik vond het eigenlijk heel fijn, want het hele gesprek in de gemeenteraad hierover en met de wethouder waren gewoon hele goede gesprekken. En ik vind ook dat als we overwegingen maken, moeten we ook heel duidelijk zijn dat we het wel of niet kunnen doen. Dus als er twijfel is, moeten we het gewoon niet doen. We hebben er ook dusdanig veel van geleerd, denk ik, dat als we voortaan weer een testsetting moeten gaan doen, dan zullen we dat nu op een iets andere manier gaan doen en zullen we op een iets andere manier gaan proberen te bewijzen. Dus we hebben daar gewoon heel erg veel van geleerd. Is dat kostbaar? Ja. Is het fijn dat we dat deze keer zo goed gedaan hebben? Dat vind ik ook. Dus ik vond het ook het geld waard, in eerste instantie dan. Er zijn best andere dingen waarvan ik denk: daar kunnen we wat op bezuinigen. Maar hier dacht ik: Dit is gewoon goed gedaan. Alleen ja, de conclusie is wel: die tool hebben we nooit geïmplementeerd.

00:23:41 - 00:23:51
CO-HOST: Bij ons hebben we honderdduizenden ideeën over wat we kunnen innoveren. Maar we hebben ook maar beperkte capaciteit. Hebben jullie dat ook? Heb je ook vaak dat je gewoon op bepaalde dingen nee moet zeggen?

00:23:51 - 00:24:42
GER BARON: Zeker, we selecteren ook. We hebben organisatorisch een aantal clusters van directies. En daar hebben we nu een cluster portfolio mee gemaakt, waarbij we eigenlijk een soort selectie leidraad hebben met: hoe risicovol is het, hoe impactvol is het, wat kost het, et cetera. En dan is een beetje agile-achtig prioriteren zeg maar. En dan kiezen we er één of twee per cluster waar we tijd en energie in stoppen. En heel veel dingen dus ook niet. Zijn er dan geen organisatieonderdelen waar mensen een leuk idee hebben en lekker mee aan de slag gaan? Dat denk ik wel. Er is vast wel iemand die ergens een licentietje genomen heeft of zoiets. Maar in principe pas als het een beetje groot is, als het over implementatie gaat, dan doen we het via die lijn. Daarnaast heb ik elke maand een gesprek met de ondernemingsraad van de gemeente Amsterdam waar we dit ook bespreken. Die zijn heel bang voor personele consequenties. En terecht. Ik bedoel: gaan we zorgvuldig met mensen om? Het is niet eens zozeer 'gaan ze weg?', want daar hebben we het ook over gehad. Maar dingen veranderen.

00:24:42 - 00:24:50
CO-HOST: En zeker als het ook over implementatie gaat, dan gaat het ook niet van 'hoe krijg je mensen mee?', maar hoe maak je die technologie eigenlijk in samenwerking met die medewerkers?

00:24:51 - 00:25:07
GER BARON: En dat is superleuk om te doen eigenlijk. Ik ben er ook wel trots op hoe dat gaat, omdat we in principe zeggen 'we ontwerpen eerst omdat we eerst die proof of concept maken vaak.' Dat is altijd samen met de collega's. Dus we maken altijd samen met hen: 'Dit betekent dat voor jou werk. Als je hier klikt, dan gebeurt dit. Werkt dat wel goed? Moet er een andere knop, een andere kleur, een ander moment in het proces?'

00:25:08 - 00:25:09
CO-HOST: Ook een mooi ding om mee te nemen voor het stappenplan.

00:25:09 - 00:25:12
GER BARON: Ja, dat is leuk voor stappenplan, want dat is echt een hele andere dynamiek.

00:25:15 - 00:25:28
HOST: Laten we eens kijken of we de methode Ger Baron kunnen vangen in een stappenplan, aan de hand van een project dat nu loopt of een technologie waar jij nu naar aan het kijken bent. Wat zijn nou de eerste twee stappen? Die kennen we eigenlijk al, hè?

00:25:28 - 00:25:53
GER BARON: Ja, die hebben we net een beetje gehad. Dus we zeggen eigenlijk: is technologie de oplossing voor jouw probleem? Moet je dit wel willen? En twee: kun je dat op een verantwoorde manier? Kan het? Mag het? Et cetera. Dat zijn de eerste twee stappen. Daarna kijk je, stap drie kunnen we ook vast benoemen: is het eigenlijk haalbaar? Kunnen wij dit? Is het betaalbaar? Hebben we de goede mensen ervoor? Is het duurzaam genoeg of niet? Et cetera. Dat zijn eigenlijk, zou je kunnen zeggen, de eerste drie stappen die je aan de voorkant doet, voordat je nog iets gebouwd hebt.

00:25:53 - 00:26:01
HOST: En wie is hier dan leidend bij de beantwoording van deze vragen? Is dat degene die toevallig ook de leiding heeft over het project?

00:26:03 - 00:26:20
GER BARON: Ja, wij zorgen eigenlijk zoveel mogelijk regulier, zoals ik net zei. Dus we zorgen altijd voor dat de opdrachtgever, dus de directeur, uiteindelijk verantwoordelijk is. Wij zijn wel de mensen die het advies geven. En als het advies zegt 'het mag niet', dan is dat ook wel de conclusie vaak natuurlijk. Maar in principe zijn altijd de eigenaren van het project ook de mensen die over de implementatie zouden moeten gaan.

00:26:20 - 00:26:26
HOST: Wat verlang jij dan van hun kennisniveau over in dit geval AI of over de tech waarmee ze willen werken?

00:26:26 - 00:27:14
GER BARON: Heel interessante vraag. Dat is iets waar we nu heel druk mee zijn. Je verwacht dan eigenlijk dat ze een afweging kunnen maken zoals ze dat voor al het andere ook doen. Dat ze kunnen overzien: wat gaan we nu eigenlijk doen? Wat is de consequentie voor mensen? Wat zijn de technologische risico's? En daarbij adviseren wij gewoon, want we hebben daar best een team voor zitten. Maar we verwachten dat zij de verantwoordelijkheid kunnen nemen voor zo'n besluit. Dat is net even iets meer en iets ingewikkelder misschien dan dat is om bureaustoelen te bestellen bijvoorbeeld. We hebben samen met THNK, dat is de Creative School of Leadership, een training ontwikkeld voor managers in Amsterdam. Daar zijn we net mee begonnen. En alle managers zouden er dit jaar aan deel moeten nemen. Dat je vanuit je managementrol een besluit kan nemen, de goede vragen kan stellen, overzicht hebt, weet wat er gebeurt als het gaat over in dit geval technologie en vooral AI specifiek.

00:27:14 - 00:27:17
CO-HOST: En jullie sturen die mensen dan daarheen op het moment dat zij een project hebben?

00:27:18 - 00:27:48
GER BARON: Ja. En de vraag is: waar moet je beginnen? Moeten mensen het concept van data snappen voordat ze AI leren? Dan kun je zeggen: nou, doe lekker een AI-cursus en dan op YouTube een half uurtje en we gaan. Maar als je het concept bias niet snapt of het concept van data niet snapt, dan is het best een ingewikkelde training zeg maar. Dan ga je heel erg knikken, want het klinkt allemaal 'oh ja', maar het is best ingewikkeld. Dus we hebben nu eigenlijk een training van een dag gemaakt voor managers. We hebben duizend managers in de gemeente Amsterdam. En eigenlijk is mijn standpunt dat iedereen daar doorheen moet. We doen dat nu voor eerst met managers die daadwerkelijk dicht bij toepassingen van AI zitten.

00:27:48 - 00:27:58
HOST: Terug naar het stappenplan. Dat is een mooie stap. Wat is dan de vervolgstap? Wat moet er nog meer in onze praktische handleiding 'Ger Baron kijkt naar tech'? Wat moet daar nog in?

00:27:59 - 00:28:46
GER BARON: Ik geloof er heel erg in dat je dingen maakt. Dat zei ik net ook. En met gebruikers samen dingen test. Dus voordat je iets inkoopt, of het nou een financieel systeem is of een AI-systeem dat bedoeld is voor juridische vraagstukken, ga met mensen die ermee moeten werken, werken. Als je een ontwikkelteam hebt, kun je heel snel mock-ups maken en figma's maken. Gewoon om te kijken: hoe zou het in ons proces een plek kunnen hebben? En misschien moeten we het proces herontwerpen. Dat is dan de vijfde. Dat is eigenlijk van: hoe ontwerp je je proces? Want negen van de tien keer kan AI je huidige werk ondersteunen, dat is leuk, maar vaak pak je maar suboptimale winst dan uiteindelijk. Eigenlijk heb je een heel ander proces nodig vaak, waarbij je misschien al veel eerder het proces digitaliseert, waarbij mensen misschien ander werk moeten doen, waarbij je op een andere manier klantinteractie organiseert. Dat is best heel relevant, maar dat vergeten we heel vaak om dingen tot een succes te maken.

00:28:47 - 00:28:51
HOST: Dit is eigenlijk de stap die jij nu omschrijft om tot die GovTech te komen, toch?

00:28:51 - 00:29:20
GER BARON: Zeker. Daarvoor moeten we nog wat ministeries en dat soort dingen afschaffen, maar daar zit dan een deel van de businesscase. Nee, ik chargeer, maar het vergt echt iets anders. En de vraag is, en dat is een heel interessante vraag, voor alle ambtenaren ook, en dan kun je op verschillende manieren naar kijken: is de oplossing het aanpassen van het huidige? Of moet je naast het huidige iets nieuws bouwen? Dat vind ik gewoon een heel interessante vraag. En dat geldt voor elke industrie. Bij banken. ABN Amro had ook Adyen kunnen zijn. Of ING had ook Adyen kunnen zijn. Toch hebben ze het niet gedaan. En de marktwaarde van Adyen is groter dan van die banken.

00:29:21 - 00:29:39
CO-HOST: Mijn laatste stap is eigenlijk: hoe monitor je dit? Op welk punt ga ik denken van: misschien in plaats van dat het een nieuwe AI-technologie is, moet ik eigenlijk mijn proces herinrichten waar misschien helemaal geen AI aan te pas komt. Of we kunnen niet geen bias aantonen, dus we moeten eigenlijk de stekker eruit trekken. Wanneer doe je dat?

00:29:39 - 00:30:39
GER BARON: Ja, zeker. Terechte vraag. Ik denk inderdaad dat het een hele terechte vraag is. Het monitoren van AI, als het zelflerend is of generatief en je systemen vervangt, je moet eigenlijk continu blijven monitoren 'gaan we de goede kant op', want anders eindig je ergens waar je niet wil eindigen. In 2016 hadden we een project over de meldingen. Meldingen.amsterdam.nl hebben we toen gebouwd. Dat wordt inmiddels in veertig gemeenten gebruikt, dus heel erg aardig. Maar daarbij ontdekten we dat mensen in bepaalde delen van Amsterdam betere meldingen doen dan in andere delen. Dus we gingen twee keer zo vaak schoonmaken op een gegeven moment, als we het algoritme zouden volgen, daar waar mensen beter klaagden. 'Klaagvaardigheid' heeft het FD dat een keer genoemd in een artikel. Dat vond ik wel een mooi woord. Sommige mensen zijn klaagvaardiger dan anderen. En die gebruiken bijvoorbeeld het woord klacht. En als je het woord klacht gebruikt, daar moeten we iets mee. Meldingen hoeven we niks mee, maar met een klacht, daar moeten we iets mee. Een signaal hoeven we niks mee, maar een klacht moeten we wel iets mee. Dat moet je constant blijven monitoren. Dus dat is ook wat we elke stap van elk project doen. En daarom zeg ik: Je hebt niet per se minder mensen nodig. Je hebt ook mensen nodig die de monitoring gaan doen.

00:30:40 - 00:30:42
HOST: Oké, Jannes, we hebben een stappenplan. Kan je hiermee uit de voeten?

00:30:43 - 00:30:46
CO-HOST: Zeker wel. Ik heb heel wat om terug te brengen naar mijn organisatie.

00:30:48 - 00:31:06
HOST: Ik stel aan het einde van deze podcast altijd dezelfde vraag aan onze gast. Wat voor wereld, wat voor digitale wereld hoop je achter te laten voor de generatie van Jannes en diens generatiegenoten die straks het stokje van jou gaan overnemen? Is die GovTech dan al klaar of staat het dan in de steigers? Wat laat je achter voor hen?

00:31:07 - 00:31:29
GER BARON: Nou, ik hoop dat we de ruimte creëren eigenlijk om te maken wat nodig is. Dat wil zeggen: ik denk dat we nu nog een beetje aan het aanpassen zijn, het beste doen met wat we hebben. En ik hoop dat er zo meteen een hele generatie komt die zegt: Jongens, we gooien lekker weg wat er is en we maken zelf iets nieuws wat past bij deze tijd, deze generatie, deze manier van werken, deze mensen, de manier zoals we naar de wereld kijken.

00:31:30 - 00:31:31
HOST: Kun je daarmee uit de voeten, Jannes?

00:31:31 - 00:31:42
CO-HOST: Zeker wel. En ik vind het heel fijn om te horen dat er ook mensen van oudere generaties bezig zijn met die vernieuwing van de overheid.

00:31:43 - 00:31:45
HOST: Ger Baron, dank je wel voor je verhaal.

00:31:45 - 00:31:46
HOST: Dank je wel. Graag gedaan. Leuk.