De AI act deelt AI-systemen in op risiconiveaus. Een onaanvaardbaar risiconiveau is verboden, een hoog risiconiveau heeft strenge eisen, en een minimaal risiconiveau heeft geen regels. Voor sommige systemen, zoals chatbots, gelden ook transparantieverplichtingen en moet de gebruiker weten dat ze met een AI-systeem te maken hebben. Een aandachtspunt voor generatieve AI is dat het in verschillende risiconiveaus kan vallen, afhankelijk van het gebruik. Daarnaast gelden voor AI-modellen voor algemene doeleinden extra regels.
In deze microlearning worden drie risiconiveaus benoemd. Er wordt ook wel gesproken over vier risiconiveaus binnen de AI Act: onaanvaardbaar risico, hoog risico, beperkt risico, en minimaal risico. In dit geval worden systemen met transparantieverplichtingen, zoals chatbots, gezien als AI-systemen met een beperkt risico. In de AI-Act zelf wordt dit echter niet aangegeven als expliciete risicocategorie.
Microlearnings: starten met AI. De AI Act in het kort. Spreker: Dr. Céline Budding, AI Governance Consultant – Rijks ICT Gilde, onderdeel van Rijksorganisatie ODI.
CÉLINE: De AI Act, de nieuwe Europese wet op het gebied van AI, zorgt ervoor dat AI op een gereguleerde manier wordt ontwikkeld en ingezet, en maakt ook ruimte voor innovatie. In deze video nemen we jullie mee in de opzet van de AI Act en de toepassing op generatieve AI.
[Microlearnings: starten met AI. De AI Act in het kort.]
CÉLINE: In de AI Act geldt dat hoe hoger de risico's van een AI-systeem zijn voor burgers en de samenleving, hoe strenger de regels die gelden voor dat systeem. Er zijn drie risiconiveaus met verschillende regels: onaanvaardbaar risico AI, hoog-risico AI, en minimaal risico AI.
In de eerste categorie, onaanvaardbaar risico, vallen systemen die een zodanig risico vormen voor de maatschappij, dat ze verboden zijn. Voorbeelden hiervan zijn AI-systemen die mensen met schulden overhalen iets te kopen of die emoties herkennen binnen de werkomgeving.
In de tweede categorie, hoog risico, vallen systemen die alleen gebruikt mogen worden als ze aan strenge verplichtingen voldoen. Denk bijvoorbeeld aan systemen die gebruikt worden om een advies te genereren voor rechters op basis van rapporten, bewijsstukken en uitspraken.
De exacte verplichtingen hangen af van of een organisatie een AI-systeem zelf ontwikkelt of alleen aanbiedt. Mocht jouw organisatie dus een hoog-risico systeem willen ontwikkelen of gebruiken, wees je dan bewust dat hier veel verplichtingen bij komen kijken.
De derde categorie is een restcategorie voor systemen met een minimaal risico, zoals spamfilters. Hiervoor gelden geen specifieke regels.
Daarnaast geldt een aantal overkoepelende regels. Voor systemen zoals chatbots die in contact komen met mensen of kunnen leiden tot misleiding gelden transparantieverplichtingen. Mensen moeten weten dat ze te maken hebben met een AI-systeem en synthetische content moet herkenbaar gemaakt zijn. Bovendien moeten organisaties zorgen dat medewerkers voldoende AI-geletterd zijn en de kansen en risico's van AI kennen.
In het geval van generatieve AI zijn er specifieke extra verplichtingen waaraan moet worden voldaan. Denk bijvoorbeeld aan een chatbot. Als gebruiker zie je hier een dialoogvenster waar je vragen kan stellen en antwoorden krijgt. Hieronder zit een taalmodel. Voor zowel het taalmodel als de chatbot in het geheel gelden verschillende regels. De chatbot wordt gezien als een AI-systeem voor algemene doeleinden. Welke regels hiervoor gelden hangen af van de toepassing van het systeem. Een chatbot kan bijvoorbeeld gebruikt worden om mails te vertalen, wat als minimaal risico wordt gezien, maar ook om CV's van sollicitanten te evalueren en selecteren, wat valt onder de regels voor hoog-risico AI.
Daarnaast gelden er regels voor het onderliggende taalmodel. Dit zijn regels op het gebied van documentatie en bescherming van auteursrechten. Bij generatieve AI moet er dus zowel gekeken worden naar de verplichtingen voor het AI-model als de regels die horen bij de toepassing van het AI-systeem.
In deze microlearning heb ik een korte introductie gegeven over de AI Act en de toepassing op generatieve AI. Wil je meer weten over het verantwoord gebruik van AI? Kijk dan vooral naar de andere microlearnings.
[Veilig en verantwoord starten met AI. Deze serie is ontwikkeld in opdracht van het CDO Office van BZK door de RijksAcademie voor Digitalisering en Informatisering Overheid (RADIO) in samenwerking met JenV en Rijks ICT Gilde, onderdeel van Rijksorganisatie ODI.]