UvA maakte een eigen ChatGPT voor studenten en docenten. Is deze veiliger dan het origineel?
Vorige week rondde de UvA de eerste ronde van een experiment af waarbij in dertien pilots een eigen versie van ChatGPT werd gebruikt. Studenten en docenten konden hiervan in een beveiligde omgeving gebruik maken. Is dit betrouwbaarder dan ChatGPT, waarover veel privacyzorgen zijn?
Stel, je bent als natuurkundestudent bezig met je scriptie. Je worstelt met het schrijven van de introductie en je zou heel graag willen dat iets of iemand je daarmee helpt. Het liefst zou je ChatGPT om hulp willen vragen, maar de UvA verbiedt eigenlijk het gebruik van deze vorm van AI wegens privacyzorgen.
Toch kan de UvA niet om het gebruik van ChatGPT heen. En dus zocht de universiteit naar andere mogelijkheden en bouwde de UvA zelf een speciale ChatGPT-versie voor FNWI-studenten, geneeskundestudenten en AUC-studenten: UvA AI Chat. Het doel van deze experimenten was om ChatGPT, de bekende AI chatbot, beschikbaar te maken voor onderwijsdoeleinden, zonder in te boeten op privacy.
Afgelopen donderdag presenteerde het Teaching & Learning Centre Science, het UvA-expertisecentrum over lesgeven voor FNWI-docenten, de resultaten van 13 AI-pilots die het afgelopen jaar zijn uitgevoerd waarin UvA AI Chat werd gebruikt.
AI als schrijfassistent
UvA AI Chat is speciaal ontwikkeld om docenten en studenten te helpen bij taken zoals het bedenken van opdrachten en het schrijven van essays. Het systeem werkt met zogenaamde ‘persona’s’: gespecialiseerde mini-ChatGPT's die zich richten op een specifieke taak, zoals feedback geven op een scriptie. Studenten kunnen in dit systeem, dat draait in een online UvA-omgeving, persona’s kiezen en hiermee chatten of hun geschreven werk uploaden om dit door de AI te laten beoordelen. Daarnaast biedt UvA AI Chat docenten de mogelijkheid om op verzoek persona’s te laten ontwikkelen, die op basis van lesstof of hoorcollegeslides, de lesstof kunnen leren om studenten gericht te ondersteunen.
Uit de pilot-resultaten blijkt dat UvA AI Chat volgens studenten en docenten van toegevoegde waarde was in hun studie of werk, onder andere als hulp bij het oefenen van schrijfvaardigheden en als feedbackgever. ‘Het gebruiksgemak gaf voor veel studenten de doorslag om het toe te passen’, zegt Koen van Elsen, docent bij de bachelor Informatica en betrokken bij de pilots. Toch waren er ook zorgen: ‘Sommige docenten en studenten vertrouwden de antwoorden van UvA AI Chat en het gebruik hiervan voor het onderwijs niet altijd.’
Volledig zelf gebouwd
De UvA op haar beurt heeft zorgen over de reguliere ChatGPT en verbiedt nog steeds het gebruik van ervan in het onderwijs. De universiteit wijst erop dat OpenAI, de maker van ChatGPT, gebruikersgegevens en gesprekken opslaat zonder openheid te bieden over het verdere gebruik hiervan. Dat roept de vraag op of UvA AI Chat, dat ChatGPT aanbiedt, de bescherming van deze gegevens dan wel biedt.
Volgens twee makers van UvA AI Chat, IT’ers Rik Jager en Danny van den Berg, is UvA AI Chat zo ontworpen dat data niet bij OpenAI wordt opgeslagen. Jager: 'Alle opdrachten die aan UvA AI Chat worden gegeven, worden eerst geanonimiseerd en vervolgens doorgestuurd naar ChatGPT. Zodra die een antwoord heeft gegenereerd en dat weer naar de gebruiker van UvA AI Chat is gestuurd, wordt alle data die ChatGPT heeft ontvangen of gecreëerd, direct verwijderd.’
Hij vertelt dat UvA AI Chat volledig in UvA-beheer is: ‘Vergelijk het met een auto die we compleet zelf hebben gebouwd. Het enige dat we leasen, in ons geval van Microsoft, is de motor: het AI-model zelf. Verder zijn alle functies van die auto van ons, dus we kunnen zelf bepalen welke gebruikers in de auto kunnen stappen en wat zij wel en niet mogen doen met UvA AI Chat.’
Strategische samenwerking
De UvA maakt voor UvA AI Chat dus wel gebruik van ChatGPT via Microsoft. Voor deze tussenstap heeft de UvA volgens Jager en Van den Berg opzettelijk gekozen omdat op deze manier het model kan worden gebruikt met Europese privacybescherming, en zijn ze niet afhankelijk van de Amerikaanse, soepelere privacyregels.
Tegelijkertijd is de universiteit kritisch op ChatGPT omdat het een product is van OpenAI, een commercieel bedrijf. Microsoft is natuurlijk eveneens een techgigant. Zou de UvA, en dus Jager en Van den Berg, hier dan niet ook kritisch op moeten zijn?
Hoewel Jager en Van den Berg voorstander van meer onafhankelijkheid van grote techbedrijven, zien ze de samenwerking met Microsoft juist als een strategische stap om die onafhankelijkheid op termijn te versterken. Van den Berg: ‘We hebben niet de capaciteit om als UvA zelf binnen korte tijd zo’n groot AI-model te bouwen. Als we een AI-oplossing willen die aansluit bij onze morele waarden als universiteit, is het belangrijk om een sterke onderhandelingspositie bij Microsoft te hebben.’ Volgens Jager zou het helpen als UvA AI Chat wordt uitgerold bij andere universiteiten: ‘Samen met hen zouden we druk kunnen uitoefenen op Microsoft om betere voorwaarden af te dwingen.’
Geen toezicht
Om de privacy van studenten te waarborgen, is voor niemand zichtbaar, behalve de gebruiker zelf, wat deze doet binnen UvA AI Chat. Volgens Van Elsen betekent dit dat zelfs docenten en de makers van het systeem ‘geen toegang hebben tot de opdrachten die een student invoert’. Van Elsen ‘Dit is een bewuste keuze, zodat studenten zich zo vrij mogelijk voelen om het te gebruiken.’
Dit roept wel de vraag op of studenten zonder toezicht van buitenaf weten hoe ze verantwoord met UvA AI Chat om moeten gaan. Van Elsen geeft aan dat hier in de tweede ronde van het experiment dat inmiddels van start is gegaan en tot de zomer duurt, meer aandacht voor is: ‘We willen iedereen bewust maken van hoe je om moet gaan met AI en hiervoor meer begeleiding bieden aan studenten en tegelijkertijd nieuwe pilots blijven ontwikkelen.’ Volgens Jager is dit ook een kans voor de professionele ontwikkeling van studenten: ‘Als instituut moeten we leren hoe studenten AI-systemen later in hun werk op een veilige manier kunnen gebruiken.’
Jager en Van den Berg geven aan dat zij graag met studenten de dialoog aangaan over hoe zij bewust UvA AI Chat kunnen gebruiken. Jager: ‘We krijgen van de UvA alle vrijheid om te experimenteren met UvA AI Chat, dus we willen met studenten samen discussiëren en ontdekken hoe we dit systeem het beste kunnen gebruiken om aan de hand daarvan UvA AI Chat te verbeteren. We kunnen wel extra regels toevoegen om studenten bewuster met het systeem om te laten gaan, maar we willen dit graag samen met hen doen, in plaats van alleen vóór hen.’
