Sinds AI-tools standaard in de klas opduiken, komt er ook regelgeving op gang. De Europese AI-verordening, kortweg de AI-Act, is de eerste brede wet die eisen stelt aan het gebruik van kunstmatige intelligentie. Voor het onderwijs is dat relevant, want systemen die met leren en toetsen te maken hebben, krijgen extra aandacht. Dit artikel zet de hoofdlijnen op een rij.
Een risicogebaseerde aanpak
De AI-Act regelt AI niet met een enkele regel, maar deelt systemen in naar risico. Hoe groter de impact op mensen, hoe strenger de eisen. Globaal zijn er vier niveaus:
| Risiconiveau | Voorbeeld | Gevolg |
|---|---|---|
| Onaanvaardbaar | Sociale scoring door overheden | Verboden |
| Hoog risico | AI voor onderwijs, examinering en toelating | Strenge eisen |
| Beperkt risico | Chatbots, AI-gegenereerde content | Transparantieplicht |
| Minimaal risico | Spamfilters, AI in games | Geen extra eisen |
De wetgever rekent AI-systemen die de toegang tot onderwijs bepalen of die leerresultaten beoordelen tot de categorie hoog risico. De gedachte erachter is dat zulke systemen invloed hebben op de kansen van een leerling, en dat fouten daar zwaar kunnen wegen.
Wat geldt er voor hoog-risico AI?
Voor hoog-risico systemen gelden onder meer eisen rond risicobeheer, datakwaliteit, transparantie en menselijk toezicht. Dat laatste is voor het onderwijs essentieel: een AI mag ondersteunen, maar een mens moet de uiteindelijke beoordeling kunnen controleren en overrulen.
- Risicomanagement gedurende de hele levenscyclus van het systeem;
- Kwaliteitseisen aan de data waarmee het systeem is getraind;
- Documentatie en logging zodat beslissingen herleidbaar zijn;
- Transparantie richting gebruikers over wat het systeem doet;
- Menselijk toezicht dat fouten kan opvangen.
Belangrijk onderscheid: de zwaarste verplichtingen liggen bij de aanbieder die het AI-systeem bouwt. Een school die zo een systeem gebruikt, heeft lichtere maar wel reele plichten, zoals het systeem inzetten volgens de instructies en het menselijk toezicht echt invullen.
Een gefaseerde invoering
De AI-Act is in 2024 in werking getreden en wordt stapsgewijs van toepassing. De verboden op de zwaarste toepassingen gelden als eerste, daarna volgen de regels voor algemene AI-modellen, en de eisen voor hoog-risico systemen komen gefaseerd in de jaren erna. Voor scholen betekent dit dat er tijd is om zich voor te bereiden, maar dat afwachten niet verstandig is.
Wat kun je als school nu al doen?
Je hoeft geen jurist te zijn om verstandige stappen te zetten. Breng in kaart welke AI-tools in de school worden gebruikt, vraag leveranciers hoe zij zich op de AI-Act voorbereiden, en zorg dat bij beoordelingen altijd een docent eindverantwoordelijk blijft. Dat sluit naadloos aan op wat de AVG nu al vraagt over zorgvuldige besluitvorming.
AI in het onderwijs is geen black box die cijfers uitdeelt. De docent beoordeelt, de techniek ondersteunt. Dat principe is straks ook juridisch verankerd.
Wat verandert er voor de docent?
In de dagelijkse praktijk verandert er voor docenten minder dan de term wetgeving doet vermoeden. De grootste verschuiving is dat de rol van de mens expliciet wordt vastgelegd: een AI mag voorstellen doen, maar de docent beoordeelt. Wie nu al gewend is om AI-suggesties kritisch te bekijken in plaats van klakkeloos over te nemen, werkt eigenlijk al volgens de geest van de AI-Act.
Drie vragen om aan een AI-leverancier te stellen
- Op welke data is jullie model getraind, en is die representatief voor onze leerlingen?
- Hoe kan een docent een beslissing of suggestie van de AI controleren en terugdraaien?
- Hoe bereiden jullie je voor op de eisen die de AI-Act aan hoog-risico systemen stelt?
Een leverancier die deze vragen helder beantwoordt, laat zien dat hij de verordening serieus neemt. Vage of ontwijkende antwoorden zijn een signaal om kritisch te blijven, zeker bij systemen die meebeslissen over de resultaten van leerlingen.
AI-nakijken en de AI-Act
Een platform dat open vragen met AI helpt nakijken, valt onder de aandacht van de AI-Act omdat het leerresultaten beoordeelt. TestWisely is daarom zo ingericht dat de AI een voorstel doet en de docent altijd het laatste woord heeft. Die werkwijze past bij de eis van menselijk toezicht die de verordening centraal stelt.
