Pepijn Stoop | Stop met het beschuldigen van studenten van AI-plagiaat
Je wordt als student ten onrechte beschuldigd van plagiaat met ChatGPT en ondanks dat je onschuld is bewezen, blijf je verdacht, schrijft Pepijn Stoop. Het overkwam zijn drie mede-studenten. ‘Informatie over wat studenten kunnen doen bij beschuldigingen van AI-plagiaat, ontbreekt volledig in reglementen en e-modules.’
Stel je voor: je hebt je opdracht teruggekregen. Hoewel je dacht het goed te hebben gemaakt, schrik je als je ziet dat je voor een zwaarwegende vraag nul punten heb gekregen. Je scrolt met bonzend hart naar het commentaar van de docent. Dan komt de tweede schok: de docent beschuldigt je van plagiaat met ChatGPT. En dat heb je niet gedaan. Wat volgt zijn over-en-weer mails met de docent om je onschuld te bewijzen, maar hoe doe je dat?
Dit overkwam drie studenten van de master AI bij het vak ML1. Gezien de gevoeligheid van de gebeurtenis, blijven zij op verzoek anoniem. Uit gesprekken die ik met hen voerde, vertelden zij dat zij bij verschillende vragen werden beschuldigd door de docent, zonder tussenkomst van de examencommissie, tegen de UvA-plagiaatregels in. Ze moesten allemaal hun eigen onschuld bewijzen: één met succes, de anderen kregen een minimaal aantal punten erbij en bleven ‘verdacht’. In een later gepubliceerde aankondiging verkondigde de docent dat een ‘significant’ aantal antwoorden ‘direct’ was gekopieerd van ChatGPT.
Deze studenten zijn ongetwijfeld niet de enige sinds AI een blijvertje is geworden aan de UvA. De universiteit voert een ontmoedigend AI-beleid in het onderwijs, maar detecteert niet actief: de optie om AI-content te detecteren met plagiaatchecker Turnitin is sinds augustus 2023 uitgeschakeld wegens zorgen om de ‘betrouwbaarheid’ ervan. De UvA beschrijft in een e-module voor docenten dat zij met vermoedens van AI-plagiaat naar de Examencommissie moeten gaan en dat alleen ‘vermoedens’ onvoldoende bewijs zijn voor fraude.
In het geval van de masterstudenten lijken deze vermoedens wel als ‘bewijs’ te zijn gebruikt. En dat is problematisch, want uit onderzoek blijkt dat studenten waarvan Engels niet hun moedertaal is, zoals de drie masterstudenten, vaker vals worden beschuldigd van AI-plagiaat. Zulke studenten bezitten een kleinere Engelse woordenschat en gebruiken minder complexe syntax en grammatica dan moedertaalsprekers. Dit kan invloed hebben op het verloop en de toon van de tekst en hierdoor de schijn van AI-gegenereerde tekst wekken. Daarnaast worden korte, academische teksten met een vaste structuur, zoals de antwoorden van de masterstudenten, vaker ten onrechte toegewezen aan AI.
Studenten kunnen dus op basis van onbewuste vooroordelen vals worden beschuldigd, met alle gevolgen van dien. De docent van ML1 dreigde in de aankondiging met een gang naar de examencommissie voor volgende opdrachten. Mogelijk gevolg? Het niet halen van het vak. Het is hierbij nog de vraag of de examencommissie volledig objectief het werk zou kunnen beoordelen: zelfs taalexperts in het onderzoek oordeelden geregeld fout.
Hoewel de UvA het automatisch detecteren van AI-content als niet ‘betrouwbaar’ acht, noemt de universiteit nergens expliciet waarom de vermoedens door docenten onbetrouwbaar kunnen zijn. Informatie over wat studenten kunnen doen bij beschuldigingen van AI-plagiaat, ontbreekt volledig in plagiaatreglementen en e-modules.
Zolang hierover niet wordt gecommuniceerd naar docenten en studenten, vind ik dat alle docenten moeten stoppen met het maken van mogelijk valse beschuldigingen van AI-plagiaat en bewust moeten worden gemaakt van mogelijke vooroordelen. Geen enkele student zou zich hoeven te moeten bewijzen tegenover een algoritme of een docent die nakijkt als een machine, vooroordelen of niet.
