Er is veel aandacht voor spionage en patentendiefstal rond de samenwerking tussen UvA, VU en Huawei, schrijft politicologiepromovendus Joshua Cohen. Hij ziet echter een veel groter probleem. ‘Wat in de discussie achterwege gelaten wordt, is de rol die Huawei speelt in de hedendaagse onderdrukking van Oeigoeren.’
Vorige week werd bekend dat Artificial Intelligence (AI)-onderzoekers van de UvA en de VU een samenwerkingsverband zijn aangegaan met Huawei. Van Huawei is echter bekend dat het bedrijf actief bijdraagt aan de onderdrukking van Oeigoeren door de Chinese overheid. In hoeverre is het wenselijk dat de UvA een dergelijk bedrijf legitimeert middels actieve samenwerking?
Volgens een artikel in het Financieele Dagblad had Huawei Amsterdam al langer op het oog vanwege de goede reputatie van onze AI-wetenschappers op het gebied van zoektechnologie en beeldherkenning. De Chinese techreus met activiteiten op het gebied van communicatietechnologie en smart cities over de hele wereld, zegt in totaal 3,5 miljoen euro toe. Na de financiering van enkele kleine projecten wordt met het nieuwe samenwerkingsverband in eerste instantie ingezet op de financiering van een kleine groep promovendi en postdocs. Het geld wordt specifiek geïnvesteerd in de opleiding van nieuw talent dat zich bezig zal houden met de verbetering van zoekmachines. Deze onderzoekers mogen gebruik maken van Huawei’s data. Wanneer het lab succesvol bevonden wordt kan het, volgens het artikel, de opmaat bieden voor een volwaardig onderzoekscentrum met honderd mensen.
Nieuwe samenwerkingen universiteit en bedrijfsleven
Waarom gaan wetenschappers überhaupt in zee met bedrijven? Mede geïnspireerd door ideeën als de triple-, quadruple- (en nu zelfs quintuple) helix-literatuur zoeken universiteiten steeds vaker de samenwerking op met niet-universitaire partners. Naast toegang tot bedrijfsdata en de mogelijkheid om te werken met praktijkvoorbeelden, is het voordeel dat dergelijke samenwerkingen kunnen leiden tot betere uitwisseling en verbeterde toepassing van resultaten en producten.
Vanuit een cynischer blik zien we private bedrijven en techreuzen het vacuüm dichten dat de afkalving van publieke fondsen voor de wetenschap heeft achtergelaten. Feit is dat fondsen uit de rijksbijdrage (eerste geldstroom) over de jaren in relatieve termen steeds minder zijn geworden. In de plaats daarvan is er meer nadruk op competitie via de NWO (tweede geldstroom) en contractonderzoek (derde geldstroom).
Dat laatste kan erg aantrekkelijk lijken. Zoals één van de betrokken onderzoeksleiders, hoogleraar Maarten de Rijke, afgelopen jaar zei tijdens de lancering van de nieuwe Research Priority Area van de UvA, Human(e) AI: ‘We are able to do more fundamental research with commercial money than with NWO money. NWO money suffers from the same issues as the typical job contract now. You have to jump through many, many hoops that actually don't matter at all for the quality of the research. So I don't think industrial money forbids or excludes fundamental research. I think right now it is actually the saviour of fundamental research’.
Huawei als redder van fundamenteel onderzoek?
Huawei als één van de redders van fundamenteel onderzoek dus. Maar over wat voor bedrijf hebben we het eigenlijk? Mede dankzij leningen van de Chinese staatsbanken is het bedrijf actief in 90 landen en 230 steden. Huawei is gespecialiseerd in communicatietechnologie en geïntegreerde smart city toepassingen. Zo is Huawei ook één van de betrokkenen bij de Amsterdam Innovation Arena in de Bijlmer, wat wordt verkocht als de ‘world’s leading smart playground’ en waar wordt geëxperimenteerd met slimme technologie op het gebied van faciliteitsmanagement tot en met veiligheid. Sinds kort is Huawei ook wereldwijde marktleider op het gebied van smartphones.
Huawei is echter niet onomstreden. Afgelopen week werden al een hoop vraagtekens gezet bij hoe de nieuwe samenwerking mogelijk de Chinese overheid in de kaart speelt. De VS beschuldigden Huawei onlangs van spionage voor de Chinese overheid en het VK heeft recent besloten om Huawei te weren bij de aanleg van nieuwe 5G-netwerken. Ook de samenwerking in Amsterdam wordt nu onder een dergelijke loep genomen tot Kamervragen aan toe.
De betrokken hoogleraren verdedigen de samenwerking door te verwijzen naar de afspraken die zijn gemaakt. Zo is een voorwaarde dat de onderzoekers publicatievrijheid hebben en dat de data op de servers van de universiteiten zullen staan. Ook zijn er gesprekken gevoerd met de ministeries van Economische Zaken en Onderwijs, Cultuur en Wetenschap en met de inlichtingendiensten over de risico’s met betrekking tot spionage en diefstal van intellectueel eigendom. Het enige overblijvende risico is volgens Frank van Harmelen van de VU vooralsnog een ‘ontsporende maatschappelijke discussie’.
Huawei als de moderne IG Farben
Wat in deze discussie echter achterwege gelaten wordt, is de rol die Huawei speelt in de hedendaagse onderdrukking van Oeigoeren in de Chinese provincie Xinjiang. Op basis van onder andere uitgebreid onderzoekDe onderzoekers verwijzen naar staatsmedia-publicaties, Huawei bedrijfsnieuwspublicaties en communicatie van lokale autoriteiten. van het International Cyber Policy Centre van het Australian Strategic Policy Institute, een gerenommeerde Australische denktank op het gebied van nationale veiligheid, valt namelijk te concluderen dat Huawei al jaren wel erg uitgebreid hieraan meewerkt.
Meerdere bronnen bevestigen dat Huawei een centrale rol speelt in het ondersteunen van de surveillancetechnologie die alle online en offline bewegingen van de Oeigoeren volgt en daarmee hun vergaande onderdrukking mogelijk maakt. Hierbij een direct citaat om de ambities van Huawei hierin te onderstrepen: ‘The announcement of one Huawei public security project in Xinjiang—made in 2018 through a government website in Urumqi—quoted a Huawei director as saying’. ‘Together with the Public Security Bureau, Huawei will unlock a new era of smart policing and help build a safer, smarter society.’ In fact, some of Huawei’s promoted ‘success cases’ are Public Security Bureau projects in Xinjiang, such as the Modular Data Center for the Public Security Bureau of Aksu Prefecture in Xinjiang. Huawei also provides police in Xinjiang with technical support to help ‘meet the digitization requirements of the public security industry’.
Naast strategische samenwerkingsovereenkomsten publiceerde Huawei ook een ‘Safe City White Paper’Safe Cities is een initiatief van het Chinese Ministerie van Publieke Veiligheid dat zorgdraagt voor sociale stabiliteit door het bouwen van vergaande videosurveillance-systemen.. Meer concreet nog: ‘Huawei was said to have built the police surveillance systems in Karamay, Kashgar and was praised by the head of Xinjiang provincial police department for its contributions in ‘Safe Xinjiang’. Huawei was reportedly able to process and analyse footage quickly and conduct precise searches in the footage databases’.
Het is na kort onderzoek moeilijk te twijfelen aan het gegeven dat de Chinese tak van Huawei actief bijdraagt aan de surveillance en daarmee aan de genocidale onderdrukking van de Oeigoeren in Xinjiang. Intussen wordt Xinjiang door (onderzoeks)journalisten omschreven als een centrale test case voor een steeds verder uitbreidende surveillancestaat met onmiskenbare internationale ambities. De rol die Huawei hierin speelt doet denken aan een moderne variant van IG FarbenIG Farben maakte onder meer het gas voor de gaskamers en maakte op grote schaal gebruik van dwangarbeiders tijdens de Tweede Wereldoorlog., de Duitse industriële reus die in de Tweede Wereldoorlog in symbiose werkte met de onderdrukkingspolitiek van de nazi’s voor economisch gewin.
Verantwoordelijkheid en rol van universiteiten
Gegeven het vervlochten karakter van Huawei en de onderdrukking van Oeigoeren etaleert de verwijzing van de betrokken onderzoekers naar afspraken over publicatievrijheid en dataveiligheid een wel erg beperkt besef van wetenschappelijke en maatschappelijke verantwoordelijkheid. Het verhoudt zich bovendien lastig tot nieuwe Europese ontwikkelingen op het gebied van ethische AI.
Het is goed te begrijpen dat de onderzoekers door teruglopende fondsen op zoek gaan naar nieuwe samenwerkingen. Met genoeg aandacht voor democratische, ethische en maatschappelijke aspecten kan samenwerking met het bedrijfsleven ook juist bijdragen aan interessant academisch onderzoek en vruchtbare toepassingen. Het is dan ook prijzenswaardig dat hoogleraar Claes de Vreese als lid van de RPA Human(e) AI tegelijkertijd pleit voor het meer betrekken van publieke waarden bij de ontwikkeling van AI.
De vraag is echter in hoeverre de Universiteit van Amsterdam - zeker gegeven de nadruk op Humane AI - en de Vrije Universiteit de samenwerking met een partij als Huawei moeten omarmen. In hoeverre legitimeren ze door de samenwerking met Huawei de onderdrukking van Oeigoeren? In hoeverre werken ze door de mogelijkheid van dual useDual use is een term die wordt gebruikt voor kennis die zowel op een vredelievende als op een slechte manier kan worden gebruikt. van de ontwikkelde algoritmen en inzichten indirect mee aan groeiende opties voor technologische onderdrukking, zowel elders als dichterbij? In hoeverre past dit bij het inclusieve beeld dat de universiteiten zo graag van zichzelf neer willen zetten?
Het zou goed zijn als de UvA en de VU en de betrokkenen de samenwerking met Huawei zo snel mogelijk en publiekelijk vanuit bovenstaand perspectief onder de loep nemen. Niet in de laatste plaats om met de universitaire gemeenschap en andere geïnteresseerde burgers lessen te trekken voor de toekomst van samenwerkingen binnen en financiering van AI onderzoek aan Nederlandse universiteiten.
Publieke reflectie op deze vraagstukken en een, desnoods ontsporende, maatschappelijke discussie hierover zijn wat mij betreft noodzakelijker dan ooit.
Joshua Cohen is promovendus in de politicologie aan de UvA.
Met dank aan Esmé Bosma voor de feedback op een eerdere versie van dit artikel.