Alle informatie in een prompt wordt meegenomen in de reactie van een AI-model. Het model geeft het meest waarschijnlijke antwoord op basis van de trainingsdata. Maar die kan relevante context missen. Controleer daarom altijd zelf de inhoud van een antwoord en stuur waar mogelijk extra context mee aan het model.
JOOST DE HAAN, strategisch adviseur algoritmes en AI, ministerie van Justitie en Veiligheid: Hoe ga ik om met de respons van een generatief AI-model?
♪ RUSTIGE MUZIEK ♪
[Logo Rijksoverheid. Microlearnings: Starten met AI. Hoe ga ik om met een respons?]
JOOST: Een generatief AI-model neemt alle informatie die jij meestuurt in je prompt mee als context. Tijdens de berekening van het antwoord wordt deze informatie meegenomen en hiermee beïnvloed je dus de reactie van het model. Hoe meer relevante context we meesturen, hoe beter we het model kunnen sturen om een reactie te genereren die bijvoorbeeld in lijn is met onze normen en waarden, aansluit op onze belevingswereld als ambtenaren en rekening houdt met specialistische kennis die jij bijvoorbeeld inbrengt. Daarnaast kunnen we op deze manier ook omgaan met actuele informatie waar het generatieve AI-model niet van op de hoogte is.
Het antwoord van een groot taalmodel is het meest waarschijnlijke antwoord, dat wordt gebaseerd op zowel de kennis in het model als de context die jij meegeeft. Het is dus niet het meest correcte of meest logische antwoord. Het model kiest niet uit optie 1, 2 of 3 en wat het beste is. Het is alleen het meest waarschijnlijke antwoord. En wat waarschijnlijk is, is voor het model afhankelijk van wat het eerder heeft gezien, van de trainingsdata of op basis van de context die je aanlevert. En jij hebt in jouw hoofd nog veel meer relevante context zitten die het model niet allemaal kan weten, of die soms te veel moeite kosten om op papier te zetten. Daarom is het zo belangrijk dat je de reactie van het model goed controleert. Niet alleen op gekke logische foutjes, maar ook echt op de inhoud. Vraag voor de grap maar eens aan VLAM.ai of Robin wat het ministerie van AenM is, het nieuwe ministerie van Asiel en Migratie. Dit wordt al heel gauw 'Agricultuur en Milieu' of 'Algemene Zaken en Milieu'. Dat is misschien een waarschijnlijk antwoord, maar wij weten dat het niet correct is. Dit ministerie is zo nieuw dat modellen tijdens hun training het nog maar weinig voorbij hebben zien komen of misschien helemaal niet. Dat kan tot hele ongemakkelijke situaties leiden als jij dit klakkeloos overneemt. Dus blijf goed stilstaan bij de context die je aanbiedt aan het model en let goed op afkortingen en jargon dat wij dagelijks gebruiken, maar dat voor het model mogelijk nieuw is of onbekend.
Vaak is het ook mogelijk om relevante informatiebronnen te koppelen aan je chatinteractie. Hierdoor wordt mogelijk relevante informatie voor je opgehaald uit een betrouwbare databank. Wanneer je deze functie tot je beschikking hebt, willen we jullie aanraden er ook echt gebruik van te maken. Dat scheelt jou niet alleen een hoop knippen en plakken, het verbetert ook echt de kwaliteit van jouw reactie. En daarmee kunnen we met z'n allen op een wat meer betrouwbare manier generatieve AI gebruiken.
Denk ook na over welke gegevenssets en welke informatiebronnen voor jouw professie, afdeling of ministerie mogelijk interessant zijn om later te koppelen aan de specifieke tool die jij tot je beschikking hebt. Als laatste wil ik nog noemen dat jij altijd de auteur van je teksten blijft. Je kan de schuld dus niet op het model afschuiven. Zeker als je die deelt met anderen zijn de teksten die gegenereerd zijn door AI nog steeds van jou. Kortom: jij weet het altijd beter dan het model. En je bent ook degene die het model kan sturen door bijvoorbeeld voorbeelden om nog beter antwoord te geven in lijn met waar wij met z'n allen naar op zoek zijn.
♪ RUSTIGE MUZIEK ♪
[Logo Rijksoverheid. Veilig en verantwoord versnellen met AI.]