Niks meer missen?
Schrijf je in voor onze nieuwsbrief
Foto: Illustratie Petra Scheiring
actueel

Sennay Ghebreab: neuroinformaticus die strijdt tegen discriminerende algoritmen

Sanne Mariani,
18 december 2019 - 12:05

Dit jaar kent Folia de titel UvA’er van het Jaar toe aan student Cultural Analysis Erik van Halewijn. Er zijn echter meer medewerkers en studenten die het verdienen om in het zonnetje gezet te worden. Een van hen is neuroinformaticus Sennay Ghebreab, die strijdt voor eerlijke algoritmen. ‘Sennay weet zijn wetenschappelijke denkniveau te combineren met de bescheiden houding van een wijze denker.’

‘Hij verdient het om door de UvA in de spotlights gezet te worden,’ reageert een collega van Sennay op het Amsterdam University College (AUC) meteen. Op AUC is Sennay hoofd Sociale Wetenschappen. Inmiddels hebben veel mensen hebben zijn verhaal weleens gehoord: toen hij in 2005 op het Science Park via een draaideur achter collega’s wilde aanlopen, weigerde de draaideur om in beweging te komen. De algoritmen voor gezichtsherkenning waarmee de draaideur was voorzien, waren alleen geprogrammeerd om de gezichten van witte mensen te herkennen. Sennay werd niet herkend als mens.

‘Hij verdient het om door de UvA in de spotlights gezet te worden’

Het leven van Sennay leest als een spannend boek. In 1979 vluchtte hij met zijn ouders uit zijn geboorteland Eritrea. Voor het Centraal Orgaan opvang asielzoekers (COA) schreef Sennay een voorlichtingsbrochure over Eritrea, over onderwijs in Eritrea en over Eritrese vluchtelingen in Nederland. Daarnaast mengt hij zich vaak in media-debatten over discriminatie en uitsluiting van Afrikanen. Ook is hij voorzitter van Stichting Boost en bestuurslid van Stichting Civic, die zich allebei inzetten voor betere integratie van vluchtelingen in Nederland. ‘Sennay is een echte wereldburger,’ zegt een collega. ‘Hij is heel actief in hulp aan en begeleiding van vluchtelingen in en uit de regio Ethiopië en Eritrea. Hij is zeer aanwezig in hun gemeenschappen en hij neemt het voor hen op. Het is een man van de verbinding, in de wetenschap en in cultuur.’

‘Sennay is een wereldburger. Het is een man van de verbinding, in de wetenschap en in cultuur’

Sennay studeerde Information Sciences aan de UvA, waar hij in 2002 promoveerde in automatische beeldherkenning van Artificial Intelligence (AI). Daarnaast runde hij The Bias Project met eerstejaars bachelorstudenten Information, Communication and Cognition, in het door hemzelf opgerichte Bèta-lab. Met hen onderzocht hij impliciete vooroordelen van mensen op het gebied van sekse, ras of leeftijd.

 

Na werkzaamheden aan verschillende universiteiten, keerde Sennay in 2005 terug naar zijn thuisuniversiteit. In eerste instantie deed hij onderzoek naar naar computer vision, maar toen de draaideur op het Science Park weigerde hem door te laten, besloot hij zijn onderzoek om te gooien. ‘Steeds meer objecten krijgen ogen, een mening, en de mogelijkheid om een beslissing te nemen,’ zei Sennay eerder in OneWorld. Maar als algoritmen discrimineren omdat ze verkeerd zijn geprogrammeerd, kan er een heleboel misgaan.

 

Sennay noemt veel voorbeelden, zoals zelfrijdende auto’s die een grotere kans hebben om een zwart persoon aan te rijden, of een incident met Googles gezichtsherkenningssoftware dat foto’s van zwarte mannen indeelde bij gorilla’s. Recent was er het opsporingssysteem SyRI, dat bedoeld was om verdachten van uitkeringsfraude op te sporen maar vervolgens automatisch zocht in de armere wijken van Rotterdam. Algoritmen zijn niet neutraal, is zijn boodschap, ze imiteren de mens. Als ze getraind worden met sociale vooroordelen en ongelijkheden, zullen zij die reproduceren. 

‘Hij besloot het Civic AI Lab op te zetten en startte een onderzoek naar discriminatie in algoritmen’

Daarom besloot Sennay het Civic AI Lab op te zetten, binnen het nationale Innovation Center for Artificial Intelligence (ICAI), en startte hij een onderzoek naar discriminatie in algoritmen. ‘Ik wil weg van het doemdenken, daar hebben we helemaal niets aan,’ zei Sennay eerder in Folia. ‘Dat algoritmen discrimineren komt niet door de algoritmen zelf, maar door de gebruikers die soms geen idee hebben van de werking hiervan.’ De Europese Commissie stelde voor dat algoritmen alleen van data mogen leren, als die eerst gezuiverd is van sociale vooroordelen, maar de echte oorzaak is maatschappelijke ongelijkheid, zegt Sennay in Science Guide. ‘Een diverse werkvloer kan helpen om problematische algoritmen aan te pakken.’ Het is niet voor niets de lijfspreuk van zijn Civic AI Lab: ‘AI for all cannot be without AI by all’.

‘Sennay weet zijn wetenschappelijke denkniveau te combineren met de bescheiden houding van een wijze denker’

Op de werkvloer en in het onderzoek wil Sennay meer interdisciplinariteit, maar ook als docent slaat Sennay een brug tussen bètawetenschap en de maatschappij. Leren over AI zou veel belangrijker moeten worden, zei hij in Folia. ‘Op de basisschool moeten kinderen al leren over kunstmatige intelligentie. Daarnaast moet het een hoofdvak op de universiteit worden.’

 

Ook als docent is hij erg gedreven, daar zijn collega’s het over eens. ‘Sennay kan ontzettend goed lesgeven en onderzoek doen met studenten van alle niveaus, van tweedejaars tot promovendi. Hij heeft voeling met studenten en bedenkt intensieve en diepgaande cursussen,’ zegt een collega. Een andere collega sluit zich hier bij aan: ‘Sennay is zeer bedachtzaam in de wijze waarop hij onderwerpen aansnijdt. Hij heeft duidelijke en onderbouwde ideeën maar weet zijn wetenschappelijke denkniveau te combineren met de bescheiden houding van een wijze denker.’