Må AI give karakterer? Reglerne, forskningen og grænsen, læreren skal holde

AI-forordningens bilag III lister de områder, hvor et AI-system regnes for højrisiko. Under uddannelse står blandt andet systemer, der er beregnet til at evaluere læringsudbytte, også når resultatet bruges til at styre elevens læringsforløb. Det er en bred formulering. Den dækker ikke kun karaktergivning, men kan også ramme værktøjer, der vurderer elevens arbejde for at planlægge den videre undervisning.

Forordningens artikel 6, stk. 3, gør en undtagelse. Et system under bilag III regnes ikke for højrisiko, hvis det ikke udgør en væsentlig risiko for personers grundlæggende rettigheder, fx fordi det er beregnet til at udføre en forberedende opgave forud for en vurdering, eller til at forbedre resultatet af en menneskelig aktivitet, der allerede er afsluttet. Undtagelsen gælder dog aldrig, hvis systemet profilerer personer.

Databeskyttelsesforordningens artikel 22 forbyder som udgangspunkt automatiske, individuelle afgørelser, herunder profilering, når afgørelsen har en betydelig påvirkning for eleven. Ministeriets vejledning om lovlig brug af kunstig intelligens forklarer en automatisk afgørelse som en afgørelse, hvor der ikke har været en fysisk person involveret undervejs.

Forbuddet har undtagelser, fx når der er hjemmel i lovgivningen, eller når eleven har givet udtrykkeligt samtykke. Og selv når en automatisk afgørelse er lovlig, kan eleven i en række situationer bede om, at sagen bliver behandlet igen med et menneske involveret.

For skolen betyder det i praksis, at en karakter, der bliver sat af et system uden lærerens egen vurdering, rejser spørgsmål, som en karakter sat af læreren ikke gør.

Selv hvis reglerne tillod det, er det ikke oplagt, at en hurtigere karakter er det, eleverne mangler. Ruth Butlers klassiske studie fra 1988 af 132 elever viste, at karakterer kombineret med kommentarer ikke gav bedre resultater end karakterer alene, når det gjaldt at fastholde elevernes interesse og indsats. Det var kommentarerne for sig, der gav de bedste resultater.

Thomas Guskeys konklusion fra 2019 er ikke, at karakterer skal droppes, men at de kun styrker læringen, når de er koblet til konkret, individuel vejledning, der forklarer hvorfor, og hvad næste skridt er.

Variationen mellem bedømmere, som satte debatten i gang, er heller ikke ny. I ét studie bedømte 73 engelsklærere det samme essay med en spredning på 46 point, der dækkede alle fem karakterniveauer fra A til F. Men svaret på den variation behøver ikke være, at et system sætter karakteren. Det kan også være, at lærerne bedømmer ud fra det samme grundlag og de samme kriterier.

Grænsen går ved, hvem der vurderer. Tre spørgsmål gør den konkret:

1. Hvem sætter karakteren? Foreslår værktøjet en karakter, flytter en del af vurderingen over på systemet, også selv om læreren kan ændre den bagefter.
2. Ser eleven noget, før læreren har godkendt det? Hvis feedbacken går direkte til eleven, er læreren ikke længere involveret i det, eleven får.
3. Kan læreren se, hvad feedbacken bygger på? Tekstnære eksempler fra elevens egen opgave gør det muligt at kontrollere hvert punkt. En samlet vurdering uden begrundelse gør ikke.

Et værktøj, der skriver et udkast, som læreren gennemgår, justerer og godkender, hjælper med arbejdet. Et værktøj, der sætter karakteren, overtager en del af det.

Censai viser aldrig et karakterforslag. Vi har valgt det med vilje, fordi karakteren er lærerens faglige vurdering. Censai skriver et udkast til feedback med styrker, forbedringsmuligheder og et konkret næste skridt til hvert punkt, og hvert punkt peger på et sted i elevens tekst. Læreren justerer og godkender, før eleven ser noget, og giver selv en karakter, hvis der skal gives en.

Om et konkret værktøj falder under bilag III, er stadig en vurdering, skolen skal foretage for sin egen brug. Læs mere om, hvordan Censai virker, og om forskningen bag.