UvA’er onderzoekt werking van deep learning: ‘AI kan alles, maar we begrijpen nog niet hoe’
Deep learning ontwikkelt zich razendsnel, ook voor het verwerken van tekst, spraak en muziek. Maar hoe het precies werkt, snappen wetenschappers nog nauwelijks. Dat wil universitair hoofddocent Jelle Zuidema veranderen, samen met een consortium van wetenschappers en bedrijven. De Nationale Wetenschapsagenda (NWA) financiert het project, dat 20 mei gelanceerd wordt, met twee miljoen euro.
Waar kunstmatige intelligentie (AI) al toe in staat is, maakte het AI-model DALL-E 2 de afgelopen weken duidelijk. Vraag je DALL-E 2 om een vos in een veld tijdens zonsopkomst in de stijl van Claude Monet, dan geeft dat een verbluffend resultaat.
DALL-E 2 werkt op basis van deep learning, een vorm van machine learning die gebaseerd is op de manier waarop hersenen leren. ‘Grote hoeveelheden data, ongeacht of het gaat om tekst, beeld of geluid, worden vertaald naar rijen getallen,’ legt universitair hoofddocent computationele taalkunde en cognitiewetenschap Jelle Zuidema uit. ‘Op die eindeloze rijen getallen – in de wiskunde heten dat vectoren – laat de computer letterlijk miljarden wiskundige bewerkingen los. De magie van deep learning is dat de computer de juiste wiskundige bewerking kiest om tot het antwoord te komen. Hoe de computer tot het juiste antwoord komt, dat weten we niet. Dat is een black box.’
Dat is een probleem omdat technologie nog lang niet volwassen genoeg is, waarschuwt Zuidema. ‘Een groot deel van wat je leest op het internet is automatisch vertaald. Als je een hotelletje boekt op booking.com zijn alle recensies in je eigen taal te lezen. Maar die vertaalsystemen bevatten nog een hoop vooroordelen. Van dokters maken ze een man en van verplegers een vrouw.’
Om onwenselijke uitkomsten te voorkomen wil Zuidema als projectleider van het consortium de komende vijf jaar onderzoeken wat er in de black box gebeurt. Zuidema: ‘Dat is eigenlijk een heel nieuw vakgebied waarvoor we de gereedschappen gaan ontwikkelen. We horen vaak: jullie hebben dat toch zelf gebouwd, dan kun je toch wel uitleggen hoe het werkt? Maar vergelijk het eens met het ontdekken van nieuwe medicijnen. Heel veel moleculen worden getest en uiteindelijk blijkt er één te werken. In die situatie bevindt AI zich ook. We weten dat paracetamol werkt tegen hoofdpijn, maar hoe dat precies werkt, daar kun je nog steeds onderzoek naar doen.’
Ook hoopt Zuidema in kaart te brengen waarom sommige technieken zo verschrikkelijk slecht werken. Zo bestaan algoritmes die beoordelen of een zin positief of negatief is. Dat kan van pas komen om op Twitter te monitoren of er na een reclamecampagne positiever of negatiever over een bedrijf geschreven wordt. Het indelen in positieve of negatieve sentimenten gaat goed, maar vraag je het model vervolgens waaróm het tot een conclusie is gekomen, dan slaat deze de plank volledig mis. Zuidema: ‘Dat wordt een probleem wanneer radiologen deze technieken inzetten bij het opsporen van kanker. Dat er kanker zit heeft het model goed, maar niet wáár het precies zit.’ En juist dat maakt het riskant. ‘Mensen springen erop. Zonder erover na te denken hoe goed we erin zijn.’
Deep learning maakte furore in beeldherkenning in 2012, waar het alle andere zelflerende technieken weggevaagde. Een paar jaar later vormde het de basis van vertaalmachines zoals Google Translate en DeepL. De ontwikkeling van de laatste paar jaar is gedreven door een techniek uit de taalverwerking, de ‘Transformer’, en werkt ook in andere vakgebieden. Zo kan het eiwitstructuren voorspellen en wiskundige stellingen bewijzen.
Voor de ongelofelijke sprongen die de afgelopen jaren gemaakt zijn om met AI gigantische taalmodellen te bouwen, is nog te weinig aandacht, vindt Zuidema. ‘Mensen hebben nog niet door hoe revolutionair die zijn.’ Het publieksprogramma van het NWA-project moet daar bewustwording voor creëren, juist ook voor de processen die wetenschappers nog niet begrijpen. Zuidema: ‘Er moet veel meer maatschappelijke discussie zijn. In een democratie moeten we in goede banen leiden wat wel en wat niet mag.’
