Beste UvA-scriptie gaat over onderzoek naar kunstmatige neuronetwerken
UvA-promovendus Sindy Löwe (27, Machine Learning) kreeg vorige week tijdens een online prijsuitreiking de UvA-scriptieprijs voor haar onderzoek naar een nieuw algoritme dat neuronale netwerken traint. ‘Het is heel simpel als je verstand hebt van kunstmatige neuronetwerken en deep learning.’
Waar gaat jouw scriptie over?
‘Over kustmatige neurale netwerken. Alle interessante toepassingen van kunstmatige intelligentie, waarbij computers bijvoorbeeld kunnen schaken of kunstwerken kunnen maken, gebruiken kunstmatige neurale netwerken. Die zijn gebaseerd op de werking van biologische neuronen. Biologische neurale netwerken bestaan uit zenuwcellen die in de hersenen met elkaar verbonden zijn en die communiceren via synapsen.
Een kunstmatig neuraal netwerk is een stapel modules die met elkaar verbonden zijn en die worden toegepast op input zodat uiteindelijk output verschijnt. Als je bijvoorbeeld een kattenplaatje hebt als input en je stopt die in het netwerk, kan de computer op basis van die verschillende modules denken dat er een hond op het plaatje staat, terwijl je wil dat het netwerk het juiste naampje aan het plaatje hangt. Normaal gesproken leren we dan alle modules in een netwerk het verschil tussen de output (hond) en de gewenste output (kat) zodat het netwerk de daaropvolgende keer snapt om welk dier het gaat.
Ons brein werkt anders: er is geen duidelijk inputdoel en we produceren geen definitieve output. Biologische neurale netwerken leren ook niet op een coherente manier: synapsen worden op verschillende tijden geüpdatet met lokale informatie.
Voor mijn scriptie heb ik dat gesimuleerd met een trainingsalgoritme, Greedy InfoMax, waarin ik modules individueel trainde en ze geen informatie uitwisselden. Ik leerde modules daarnaast om de toekomst te voorspellen door hen te leren dat een gesignaleerde kattenkop vaak aan een kattenlijf verbonden is. Mijn scriptie liet zien dat het verrassend genoeg mogelijk was om het netwerkproces op te breken in verschillende modules die gebruikmaakten van lokale informatie, net als in het brein, en dat die modules ook nog leerden om samen te werken.’
Snapt je familie wat je doet?
‘Niet echt. Het is vrij abstract en moeilijk uit te leggen. Mijn onderzoek is overigens heel simpel te begrijpen als je verstand hebt van kunstmatige neuronetwerken en deep learning. Ik vind onderzoek doen superleuk, maar het is moeilijk om ideeën begrijpelijk op te schrijven en te structureren.’
Waarom is dit onderzoek belangrijk, volgens jou?
‘Het is vanuit neurowetenschappelijk perspectief interessant om te zien hoe dit systeem lijkt op de manier waarop ons brein functioneert. Het maakt ruimte voor allerlei nieuwe toepassingen. Bijvoorbeeld als je met Siri praat en jouw stemgeluid wordt omgezet in tekst waarna het naar de Cloud wordt gestuurd om te verwerken. Door mijn model kan een apparaat in de toekomst misschien zelf die informatie verwerken en kan het ook op jouw persoonlijke geluid worden afgestemd. Het zou zelfs veiliger kunnen zijn omdat niets in de Cloud hoeft te gebeuren.’
Wat doe je nu?
‘Ik ben aan het promoveren en werk verder aan onderzoek waarmee ik als masterstudent begonnen ben. Ik loop daarnaast stage bij Google Brain. Door de coronacrisis werk ik vanuit Nederland met collega’s in Berlijn. Ik mag er weinig over vertellen, maar ik ben vrij om daar research op het gebied van machine learning te doen.’
Volgens de jury heeft Löwe met haar thesis een innovatief en baanbrekend concept ontwikkeld binnen de kunstmatige intelligentie dat tevens meer inzicht verschaft in hoe ons brein functioneert. Naast de scriptie van Löwe riep de jury uit de 120 inzendingen nog zes andere UvA’ers uit tot facultaire winnaars. Dieuwke Zwier, Amira Francesca Freeman, Thomas Engelsman, Benjamin Hattemer, Eva Kuijpers en Philipp Günther vielen binnen hun eigen faculteit in de prijzen.
