Van rechtszaken tot ruzie op Reddit: Proctorio heeft geen best imago
Over de hele wereld wordt op onderwijsinstellingen gediscussieerd over surveillancesoftware voor thuistentamens. Maar wat voor een bedrijf is Proctorio – het bedrijf waarmee de UvA in zee is gegaan – precies? Over gelekte chatgesprekken op Reddit en een rechtszaak tegen een techspecialist die kritiek had op het bedrijf.
Proctorio startte in 2013 en is wereldwijd een van de grootste proctoringbedrijven. Internetbedrijf Owler schat de jaarlijkse omzet op zo’n 7,5 miljoen dollar. Het bedrijf, dat kantoren heeft in Duitsland, Servië en de Verenigde Staten, is naar eigen zeggen op vierhonderd universiteiten actief, waaronder Harvard en Columbia University. Proctorio gebruikt ‘kunstmatige intelligentie en gezichtsherkenningstechnologie’ om fraude op te sporen. Oprichter Mike Olsen werd door het Amerikaanse PC Mag een artful hacker genoemd, de Arizona Republic – de grootste krant van de Amerikaanse staat Arizona – zette hem in de lijst van 35 Entrepreneurs Under 35.
Het bedrijf geeft klanten toegang tot online ‘surveillancesoftware’ en registreert via de webcam en microfoon wat er gebeurt terwijl de student een tentamen maakt. Zo detecteert Proctorio rondslingerende boeken, mensen in de kamer en toetsaanslagen. Dat doet het om fraude te voorkomen: de software analyseert de beelden met algoritmes en stuurt verdachte opnames naar, in het geval van de UvA, leden van de examencommissie. Zij beoordelen of er sprake is van gesjoemel.
De UvA startte in maart een pilot met Proctorio bij de Faculteit Economie & Bedrijfskunde. De universiteit had contact opgenomen met andere onderwijsinstellingen om voor- en nadelen van verschillende proctoringsystemen af te wegen. Voordelen van Proctorio waren onder andere de stabiliteit, de grote servicedesk en de servers in de Europese Unie, zegt een woordvoerder. ‘Dat vonden wij belangrijk met het oog op datawetgeving en privacy.’ Vorige week is de UvA in gesprek gegaan met het bedrijf na een storing bij Proctorio waardoor enkele grote UvA-tentamens moesten worden afgelast.
Geen ‘menselijke fouten’
Proctorio wil met algoritmes ‘menselijke fouten, menselijke vooroordelen en hoge kosten’ in fraudedetectie vermijden, zo schrijft het bedrijf op de website. Ook benadrukt Proctorio dat deze wijze veiliger is dan die waarbij ‘mensen virtueel toezicht houden bij tentamens. Via ons platform hebben alleen goedgekeurde beheerders toegang tot uw gegevens.’ Video- en audio-opnames worden volgens het bedrijf opgeslagen in de geografische regio van de onderwijsinstelling en zijn dus in overeenstemming met lokale privacywetten (in Nederland gaat het om de Algemene verordening gegevensbescherming).
Aanvankelijk werd de software op kleine schaal ingezet bij afstandsonderwijs, maar sinds universiteiten door de coronacrisis vooral online tentamineren is proctoring booming business. Naast de UvA werken bijvoorbeeld ook de Universiteit Leiden, de Radboud Universiteit, de Technische Universiteit Eindhoven en de Tilburg University met Proctorio. In april 2019 namen onderwijsinstellingen wereldwijd zo’n 235.000 tentamens met de software af, dit jaar 2,5 miljoen (een toename van ruim 900 procent).
De kritiek op Proctorio uitte zich op de UvA in een kort geding, aangespannen door de Centrale Studentenraad en de FEB-faculteitsraad tegen het College van Bestuur. De raden wilden dat studenten de optie zouden krijgen om de software te weigeren en pleitten voor het uitschakelen van de room scan-functie. Volgens de rechter was de inzet van proctoring tijdens de coronaperiode wel degelijk noodzaak en was geen sprake van onrechtmatige inbreuk op privacy. De raden gingen in hoger beroep – een uitspraak is nog niet gedaan.
Niet-verdacht gedrag
De laatste maanden krijgt het bedrijf veel kritiek. Studenten klagen onder meer over de room scan en de eyetracker van Proctorio, die inbreuk zouden maken op privacy van studenten (zowel in Tilburg, Utrecht en Amsterdam werden petities gestart). Andere veelgehoorde kritiek is dat proctoring in het algemeen zorgt voor een gespannen en wantrouwende sfeer aan de universiteit. Studenten zeggen dat ze meer bezig zijn met niet-verdacht gedrag vertonen dan met de inhoud van het tentamen. Een student met een kwetsbaarheid – een stress-tic – vertelde aan The New York Times dat ze haar ‘aandoening’ nu plots bij de universiteit zou moeten melden omdat het door de software als fraudulent gedrag zou kunnen worden aangemerkt.
Proctorio reageert op privacybezwaren en zegt dat het nooit andere data verzamelt dan de data die eerder verworven zijn door onderwijsinstellingen, ‘in tegenstelling tot concurrenten die ook biometrische gegevens verzamelen’. Het bedrijf herhaalt telkens dat Proctorio-medewerkers nooit toegang hebben tot beelden, toetsaanslagen en examendata. Critici vragen zich daarop af: hoe weet je zéker dat gegevens niet worden ingezien? Concurrent ProctorU lanceerde dit jaar een Student Bill of Rights for Remote and Digital Work, opgesteld met academici, waarin expliciete regels staan over academische integriteit en privacy. Proctorio heeft dat vooralsnog niet gedaan, maar behandelt het privacyvraagstuk wel uitbreid op de website.
Professionaliteit
Recente incidenten dragen echter niet bij aan de betrouwbaarheid van het bedrijfsimago. Zo schreef de Britse krant The Guardian in juni over een anonieme Canadese student die op socialmediawebsite Reddit had geklaagd over een helpdeskmedewerker van Proctorio.
Proctorio-oprichter Olsen had onder zijn PC Mag-alias – artfulhacker – op het klaagbericht van de student gereageerd met een transcript van het helpdeskgesprek en de tekst: ‘Bro, als je liegt, doe het dan niet als je weet dat het bedrijf overduidelijk een transcript van je gesprek heeft. Je gaf Roy [de helpdeskmedewerker, red.] zelfs een positieve emoji na afloop.’ Olsen bood later excuses aan, maar voor velen was dat too little too late: verschillende academische actiegroepen vonden het hypocriet, noemden het een inbreuk op privacy en zetten vraagtekens bij de professionaliteit van de bedrijfsvoering van Proctorio.
Criticus aangeklaagd
Het is duidelijk dat Olsen niet terugschrikt voor een assertief beleid richting critici. Dat bleek ook eind augustus na tweets van technologiespecialist Ian Linkletter van de University of British Columbia. Hij uitte kritiek op het bedrijf aan de hand van Proctorio-video’s waarin oogbewegingstrackers en kamerscanners werden gedemonstreerd, zo schrijft The Verge. Proctorio haalde de video’s kort daarop offline en begon een rechtszaak tegen Linkletter: hij zou copyright hebben geschonden en vertrouwelijk materiaal hebben gedeeld. Linkletter zegt niet onder de indruk te zijn, maar heeft intussen wel een GoFundMe opgezet om de proceskosten te kunnen betalen – hij kreeg tot nu toe bijna 30.000 dollar aan donaties.
Het is de vraag in hoeverre Proctorio te lijden heeft onder de negatieve media-aandacht. Zolang de coronacrisis voortduurt zoeken onderwijsinstellingen manieren om te kunnen tentamineren met behoud van anderhalve meter afstand. Tentamineren zonder proctoring leidt tot fraude, zei de UvA tijdens het kort geding van de Centrale Studentenraad, en er zijn óók veel studenten die geen moeite hebben met proctoringsoftware.
Daarnaast laten ook andere proctoringprogramma’s te wensen over, zo bleek eerder bij de Erasmus Universiteit en de Hogeschool van AmsterdamDe HvA en de EUR hadden eerder problemen met ProctorExam, de proctoringsoftware van hun keuze. Tentamens raakten kwijt en er moesten zelfs diploma’s worden ingetrokken.. Of zoals UvA-bestuursvoorzitter Geert ten Dam eerder al zei over proctoring: ‘Als er een goed alternatief was, hadden we het denk ik al gevonden’.
Proctorio antwoordde niet op telefonische vragen of vragen per mail.
Update 28-10-10: Proctorio laat per mail weten dat de tentamenstoring van vorige donderdag ook op de Vrije Universiteit en op Maastricht University voor problemen zorgde. Vrijdag was de storing opgelost. Volgens het bedrijf zorgde een systeemupdate ervoor dat studenten hun tentamen niet konden starten als er ook maar een kleine kans bestond dat het materiaal niet goed kon worden gedownload. Omdat vorige week een onverwacht grote hoeveelheid gebruikers binnen de EU tegelijkertijd wilde inloggen, kon het systeem een goede download niet garanderen, aldus Proctorio. Studenten die al bezig waren met het tentamen zouden dit zonder problemen hebben kunnen afmaken. Systemen zijn aangepast zodat meer gebruikers voortaan tegelijkertijd kunnen inloggen.
