Achter elk slim AI-systeem zit data waarmee het is getraind. In het onderwijs roept dat een logische vraag op: mag een toetsplatform de antwoorden, teksten en resultaten van leerlingen gebruiken om zijn eigen AI beter te maken? Het korte antwoord is: niet zomaar. Dit artikel legt uit welke regels de AVG hieraan stelt.
Leerlingdata is bijzonder gevoelig
Gegevens van leerlingen verdienen extra bescherming. Het gaat vaak om minderjarigen, en de gegevens kunnen veel zeggen over iemands ontwikkeling en capaciteiten. De AVG kijkt daarom kritisch naar wat er met deze gegevens gebeurt, zeker als ze voor een nieuw doel worden ingezet zoals het trainen van een model.
Het beginsel van doelbinding
De kern van de AVG op dit punt is doelbinding: gegevens die voor het ene doel zijn verzameld, mogen niet zomaar voor een ander doel worden gebruikt. Een leerling levert antwoorden in om beoordeeld te worden, niet om een commercieel AI-model te trainen. Wil een aanbieder de data toch voor training gebruiken, dan moet daar een geldige grondslag voor zijn en moet dat verenigbaar zijn met het oorspronkelijke doel.
- Toestemming: vrij, specifiek en geinformeerd, en bij minderjarigen extra complex;
- Gerechtvaardigd belang: alleen na een zorgvuldige afweging, en vaak ontoereikend bij gevoelige leerlingdata;
- Uitvoering van de overeenkomst: training is meestal niet nodig om de dienst te leveren.
In de praktijk is geen van deze grondslagen vanzelfsprekend geschikt om leerlingdata voor modeltraining te gebruiken. Daarom kiezen serieuze aanbieders ervoor om dat niet te doen, of om uitsluitend met geanonimiseerde gegevens te werken.
Anonimiseren versus pseudonimiseren
Er bestaat een belangrijk verschil tussen anonimiseren en pseudonimiseren. Bij pseudonimisering worden namen vervangen door een code, maar blijft herleiding mogelijk; de gegevens vallen dan nog steeds onder de AVG. Bij echte anonimisering is herleiding tot een persoon redelijkerwijs onmogelijk, en vallen de gegevens buiten de AVG. Alleen dat laatste haalt de scherpe randjes van het trainingsvraagstuk af, maar het is technisch lastig om volledig te bereiken.
Een nuttige vraag aan elke leverancier: worden onze leerlinggegevens gebruikt om jullie AI te trainen, en zo ja, op welke grondslag en in welke vorm? Een helder nee, of een onderbouwd verhaal over anonimisering, zegt veel over hoe serieus een aanbieder privacy neemt.
Wat dit betekent voor scholen
Voor scholen is het verstandig om dit punt expliciet mee te nemen bij de keuze van een platform en het vast te leggen in de verwerkersovereenkomst. Zo voorkom je dat gegevens van je leerlingen ergens in een trainingsset belanden zonder dat je daar weet van hebt.
Het verschil met functionele verbetering
Er is een belangrijk verschil tussen het trainen van een AI-model en het functioneel verbeteren van een dienst. Een platform mag uiteraard kijken of het nakijken goed verloopt en fouten herstellen; dat hoort bij het leveren van de dienst. Het wordt een ander verhaal als de antwoorden van leerlingen worden gebruikt om een onderliggend model structureel slimmer te maken, zeker als dat model ook buiten de eigen school wordt ingezet. Die grens is precies waar de doelbinding gaat knellen.
Wat zegt de toezichthouder?
Toezichthouders kijken kritisch naar het hergebruik van persoonsgegevens voor AI-training, helemaal als het om kinderen gaat. De rode draad in hun uitleg is steeds dezelfde: wees transparant over wat je doet, baseer je op een geldige grondslag, en beperk je tot wat echt nodig is. Voor gevoelige leerlingdata betekent dat in de praktijk vaak: niet doen, tenzij de gegevens volledig geanonimiseerd zijn of er een sluitende grondslag en heldere afspraken liggen.
De keuze van TestWisely
TestWisely gebruikt de antwoorden van leerlingen om de toets na te kijken en de docent inzicht te geven, niet om commerciele AI-modellen te trainen. De AI ondersteunt het nakijken binnen de school, met de docent als eindverantwoordelijke. Daarmee blijft de data binnen het doel waarvoor leerlingen hem hebben aangeleverd.
