Generatieve AI maakt zelf nieuwe antwoorden, terwijl klassieke AI alleen kiest uit vooraf gestelde opties. Dat maakt generatieve AI flexibeler, maar ook minder betrouwbaar en dit vraagt om extra controle. Klassieke AI werkt met vaste keuzes en geeft voorspelbare resultaten, ideaal voor duidelijke taken. Kies daarom bewust voor het juiste model.
JOOST DE HAAN, strategisch adviseur algoritmes en AI, ministerie van Justitie en Veiligheid: Wat maakt generatieve AI anders dan 'klassieke' AI?
♪ RUSTIGE MUZIEK ♪
[Logo Rijksoverheid. Microlearnings: Starten met AI. Wat maakt generatieve AI anders dan 'klassieke' AI?]
JOOST: We hebben het steeds specifiek over generatieve AI, zowel in het nieuws als nu in deze microlearnings, in plaats van AI in het algemeen. Veel van de juridische, ethische en technische vraagstukken gelden zowel voor klassieke AI als voor generatieve AI. De vraag of het wenselijk is om AI te gebruiken, of het toegestaan is en of het mogelijk is blijft in de basis hetzelfde. Toch wijkt generatieve AI fundamenteel af in hoe we met deze technologie om moeten gaan, en dat komt door de manier waarop de uitkomsten van generatieve AI tot stand komen. In deze microlearning wil ik daarop ingaan.
In het geval van klassieke AI weten we zeker dat het antwoord dat wordt gegeven door het model onderdeel is van een set keuzeopties die we eerder aan het model hebben geleerd tijdens het trainen. Een model dat de temperatuur van morgen voorspelt, zal altijd een getal voorspellen. Misschien is dat getal fout of onwaarschijnlijk, maar het is altijd een enkel getal. Een AI-model dat afbeeldingen kan classificeren en dat we laten kiezen uit een set categorieën die we eerder hebben meegegeven tijdens training, bijvoorbeeld zoogdieren, zal altijd een van de antwoordopties kiezen die we tijdens het trainen hebben gegeven, en nooit beginnen uit zichzelf over vogels of vissen.
Een iets concreter voorbeeld uit de praktijk is bijvoorbeeld het model dat is ontwikkeld door het NFI, het Nationaal Forensisch Instituut. Zij hebben een classificatiemodel getraind dat in staat is om op basis van snippers vuurwerklabels te reconstrueren en zo te herkennen. Waar dit model uit kan kiezen is altijd een van de vuurwerklabels die eerder is gevonden en is gebruikt, en die is meegegeven in de trainingsset. Wederom kan het antwoord fout zijn, of het model kan onzeker zijn over de voorspelling, maar het is altijd een van de bekende vuurwerklabels.
Generatieve AI is daar echt anders in. Een klassiek model denkt als het ware 'inside of the box'. Een generatief AI-model is anders en denkt soms als het ware 'outside of the box'. Dat maakt het heel krachtig. Het kan daardoor omgaan met veel verschillende soorten inputs en ongeschoonde data, en kan ook veel verschillende soorten outputs genereren. Maar we weten daardoor ook niet altijd gegarandeerd wat eruit komt.
Generatieve AI kan op enorm veel verschillende manieren reageren in natuurlijke mensentaal. Wederom is dat superkrachtig, maar minder goed te controleren. Een taalmodel zal vaak een inschatting doen van wat het meest waarschijnlijke antwoord is dat jij als gebruiker terug wilt horen, maar is niet beperkt in een aantal vaste antwoordopties. En wanneer we het model ook daarin proberen te sturen, hebben we nog steeds geen garantie dat het model zich alleen beperkt tot die output. Dit is ook wel wat we onder 'hallucinaties' verstaan van dit soort systemen: een waarschijnlijk antwoord, een plausibel antwoord, maar niet in lijn met onze verwachtingen of de realiteit. En dit is waar de extra risico's voor generatieve AI ontstaan en waar we de afweging hebben te maken of het de meest geschikte oplossing is voor onze taak.
In onze overheidscontext is een klassiek model soms meer geschikt voor het automatiseren of ondersteunen van een taak dan een generatief AI-model. Deze modellen begrijpen we beter, en we weten ook beter welke reacties we terug kunnen krijgen. En soms is een combinatie van een klassiek en generatief AI-model de beste oplossing. Ga hierover in gesprek met een dataspecialist en hou alsjeblieft een open blik, en sta open voor de meer klassieke oplossingen wanneer die geschikt lijken.
Kortom: generatieve AI geeft ons veel meer ruimte om met ongeschoonde of wisselende inputs te werken. Maar daarmee geven we ook controle over de uitkomsten uit handen.
♪ RUSTIGE MUZIEK ♪
[Logo Rijksoverheid. Veilig en verantwoord versnellen met AI.]