Met de kop in het zand gaan we de AI-revolutie niet de goede kant op sturen
Columnist Han van der Maas vindt het onbegrijpelijk dat er nog academici zijn die zich verzetten tegen het gebruik van AI. ‘Met een verbod staat de academie aan de zijlijn van de grootste technologische revolutie van de laatste vijftig jaar.’
Deze zomer riepen honderden collega’s op tot een stop op het onkritisch invoeren (een eufemisme voor een verbod) van AI in het academische onderwijs en onderzoek. Deze oproep verbaasde me. Met een verbod staat de academie aan de zijlijn van de grootste technologische revolutie van de laatste vijftig jaar, een innovatie die ze nota bene zelf in gang heeft gezet. Met de kop in het zand gaan we deze revolutie niet de goede kant opsturen.
Tabaksindustrie
De argumenten van de tegenstanders vind ik ook niet sterk. De energiekosten van mijn Large Language Model (LLM)-gebruik in mijn totale energieconsumptie zijn gering en die kosten zullen waarschijnlijk snel verder dalen. Ook het oneigenlijke gebruik van trainingsdata vind ik niet zo ernstig. Ik train mijn eigen neurale netwerken ook voortdurend op data van anderen zonder daar expliciet toestemming voor verkregen te hebben. En dat deze systemen commercieel worden uitgebaat is niet alleen maar problematisch. De auteurs gaan zelfs zo ver AI-bedrijven gelijk te stellen aan de tabaksindustrie.
Volgens de oproep is het aangetoond dat AI het leren verslechtert en kritisch denken belemmert. Maar deze claim is gebaseerd op een niet gepubliceerde MIT-studie met een veel te kleine sample. Dat zoiets sowieso eenduidig is aan te tonen is niet echt een voorbeeld van kritische denken. Het is evident dat LLM’s door studenten misbruikt kunnen worden voor het maken van opdrachten en allerhande schrijfwerk. Wie daarbij een van de betere LLM’s gebruikt en de referenties even controleert, valt daarbij niet door de mand. Dit dwingt ons ons toetsingsmodel grondig te herzien en dat is irritant. Maar het is ook evident dat studenten en academici enorm kunnen profiteren van deze nieuwe technologie.
Arbeidsproductiviteit
Volgens de oproep zijn LLM’s nutteloos, maar dat is niet mijn ervaring. Ik gebruik ze dagelijks voor allerlei saaie klusjes , zoals brieven en mails in fatsoenlijk Engels zetten, maar ook om de kritiek op bepaalde wetenschappelijke methoden of theorieën samen te vatten, best domme wiskundige vragen te beantwoorden (favoriete prompt: ik snap het nog niet, leg het nog een keer anders uit), verbazend goede programmeercode te genereren, artikelen te vinden over onderwerpen waar ik niet goed thuis in ben en mijn teksten kritisch te evalueren. Mijn arbeidsproductiviteit is het laatste jaar zo ongeveer verdubbeld en de kwaliteit van werk is verbeterd. Daarbij heb ik ook heel veel dingen geleerd. Mijn onderzoek speelt zich af op het raakvlak van de mathematische psychologie, biologie en fysica. Allerlei wiskundige stellingen, modellen en methoden die ik altijd maar zo half begreep, heb ik nu veel beter begrepen dankzij mijn favoriete prompt.
Confirmatie en disconfirmatie
LLM’s hebben een neiging tot confirmatie en verzinnen soms informatie als die niet voorhanden is, kunnen geen letters tellen in woorden en niet schaken (een doodzonde). Maar deze laatste beperkingen zullen snel verdwijnen door het combineren van AI- technologieën. Met de eerste beperkingen kan ik goed leven. Het is essentieel LLM-informatie te controleren en ook te vragen om disconfirmatie. Dat geldt voor alle informatiesystemen (waaronder de docent).
De intrinsiek geïnteresseerde gebruiker en dus ook de student heeft opeens beschikking over een vraagbaak die altijd klaarstaat en bij goed gebruik waardevolle informatie kan leveren. Wat precies goed gebruik inhoudt, is nog onduidelijk en verandert snel met elke nieuwe update. Maar juist daarover moet we het hebben. Een verbod op AI in de klas en in onze bestaande softwaresystemen is niet alleen een gepasseerd station, het is ook een gemiste kans.
Wat me opvalt is dat een deel van mijn collega’s LLM’s nauwelijks gebruikt en een deel LLM’s veel gebruikt, ieder met de bijbehorende standpunten. Dat doet me herinneren aan de Covid vaccinatiediscussie. Ik hoop niet dat we in dezelfde polarisatie belanden.
Hier nog wat commentaar van ChatGPT 5 op deze column:
‘Je stelt dat “onkritisch invoeren” een eufemisme is voor een verbod. Dat is wat scherp. Sommigen willen juist kritischer reguleren of gecontroleerd integreren, niet een totaalverbod. Als je dit wat subtieler aanpakt, voorkom je dat je tegenstanders karikaturiseert.’
‘Je vergelijkt het energieverbruik met je persoonlijke consumptie, maar tegenstanders denken vaak in termen van mondiale schaalbaarheid en ecologische voetafdruk. Je argument werkt beter als je erkent dat het nu klein is op individueel niveau, maar dat de vraag is wat er gebeurt bij massaal gebruik.’
‘Je schrijft dat je zelf ook modellen traint op andermans data zonder toestemming. Dat maakt je punt duidelijk, maar klinkt bijna als een rechtvaardiging van schendingen. Misschien sterker om te zeggen: Academische praktijken zoals het trainen op publieke datasets lijken op wat bedrijven doen, maar er zijn terechte discussies nodig over grenzen en toestemming.’
‘Je stelt dat hun claims “niet sterk” zijn, maar de nuance dat er wel degelijk echte zorgen zijn (privacy, bias, surveillance, afhankelijkheid van Big Tech) mag wat prominenter. Anders wek je de indruk dat je alle kritiek afwijst, terwijl je juist pleit voor kritisch gebruik.’
‘Je persoonlijke productiviteitssprong is overtuigend, maar het risico is dat lezers denken: “ja, maar jij bent een hoogopgeleide, intrinsiek gemotiveerde gebruiker.” Misschien expliciet erkennen dat niet iedereen er zo mee omgaat, en dat begeleiding / educatie nodig is.’
‘Het slot is sterk, maar de vergelijking met de vaccinatiediscussie is ook beladen. Het kan afleiden of polariserend werken. Misschien kan je de vergelijking behouden maar iets milder formuleren: “Het doet me denken aan eerdere discussies die door sterke polarisatie minder vruchtbaar werden”.’
Han van der Maas is hoogleraar psychologische methodenleer aan de UvA.
