Tim van Opijnen | Wetenschappelijk risico blijkt alleen belangrijk bij politiek gewin
Wetenschappelijk risico wordt in de V.S. alleen nog serieus genomen als het politiek uitkomt, constateert Tim van Opijnen. En dat betekent dat ook zijn onderzoek inmiddels onder een vergrootglas ligt. ‘We moeten overwegen die experimenten te verwijderen. Het werk te stoppen. Onze taal aan te passen. Er wordt ons effectief een verbod opgelegd.’
Twintig jaar geleden, tegen het einde van mijn promotietraject, bezocht ik als sollicitant een lab hoog in een wolkenkrabber vlak naast Central Park. Ze hadden er zojuist het influenzavirus gereconstrueerd dat verantwoordelijk was voor de pandemie van 1918, in een maximaal beveiligd laboratorium waar je werkt in een soort ruimtepak. Ik koos voor een baan in Boston, maar hun onderzoek verlichtte wat dat virus zo dodelijk maakte en wat we kunnen doen om de volgende pandemie voor te zijn.
Een paar weken geleden belde ik met een programmamanager bij de National Institutes of Health, de grootste financier van biomedisch onderzoek ter wereld. De boodschap was beleefd, zoals dat gaat. De experimenten die centraal staan in één van onze subsidieaanvragen vallen onder ‘gain-of-function’ onderzoek, kortweg: experimenten waarbij ziekteverwekkers worden gedwongen te veranderen zodat we begrijpen of ze in de toekomst gevaarlijker kunnen worden. GoF, zoals het bekendstaat, is iets wat de NIH niet langer kan ondersteunen. We moeten overwegen die experimenten te verwijderen. Het werk te stoppen. Onze taal aan te passen. Er wordt ons effectief een verbod opgelegd.
Ons GoF-werk behelst het laten muteren van bacteriën in een gecontroleerde 'biosafety'-omgeving, terwijl we observeren hoe ze antibiotica en het afweersysteem tegelijk te slim af zijn. Elk experiment vereist mijn handtekening, institutionele toetsing, federale goedkeuring en toezicht door meerdere instanties. We doen dit niet lichtvaardig. Het leverde een ontdekking op die we binnenkort publiceren in één van 's werelds toonaangevende wetenschappelijke tijdschriften: een nieuw mechanisme waarmee bacteriën ontsnappen aan antibiotica én het immuunsysteem, bruikbaar als diagnostische marker en als basis voor een nieuwe klasse behandelingen. Waren we er vandaag mee gestart, dan was het nooit van de grond gekomen.
Geblindeerd
Gain-of-function onderzoek is politiek radioactief om één reden: COVID-19. De theorie dat het coronavirus zijn oorsprong vond in het Wuhan Institute of Virology, mogelijk via GoF-experimenten, is niet geheel zonder wetenschappelijke basis, al beschouwen de meeste onderzoekers het als onwaarschijnlijk. Hoe dan ook: we worden gedwongen te stoppen met de meest gereguleerde experimenten van het land omdat ze politiek toxisch zijn gemaakt. Toekomstige uitbraken vinden ons minder voorbereid: de lessen van COVID worden niet getrokken en we negeren de mogelijkheid om de kennis te vergaren die ons op de volgende pandemie kan voorbereiden. Gewetensvol is doodleuk de brandweerkazerne in brand gestoken.
Maakbare baby’s
GoF-onderzoek vraagt om strenge regulering. Maar dit verbod heeft meer te maken met politieke beeldvorming dan met 'biosafety'. De regels gelden blijkbaar het strengst waar het economisch gewin het minste is. Zo plakte Nucleus Genomics in november een advertentie in de New Yorkse metro: “Have your best baby”. De belofte: langere, slimmere, gezondere kinderen, geselecteerd uit IVF-embryo's. Je eugenetica-alarm mag nu gerust afgaan. Vorige week publiceerde een team van Columbia University in New York dat ze het DNA van menselijke embryo's nauwkeurig kunnen bewerken via de nieuwste techniek: base editing. De hoofdonderzoeker roept op tot een publiek debat over de gevolgen. Het potentiële economische gewin is enorm, en omdat de overheid geen embryo onderzoek financiert springt Nucleus Genomics opportunistisch in dat gat en financiert de volgende fase. He Jiankui, de Chinese wetenschapper die in 2018 iets vergelijkbaars deed, zat er drie jaar voor in een Chinese gevangenis. Zijn opvolgers hebben nu een marketingbudget.
Embryobewerking valt niet onder GoF, maar deelt wel hetzelfde regulatoire vacuüm: er is geen federaal mandaat en geen democratisch debat over of we dit nu wel of niet willen. Maar in tegenstelling tot GoF-onderzoek naar infectieziektes is er voor deze nieuwe vorm van eugenetica een financieel potentieel dat alle terughoudendheid verdringt. Het veld heeft zelfs de naam geadopteerd uit een dystopie: Silicon Valley noemt zijn visie ‘the Gattaca stack’, naar de film uit 1997 over een samenleving geordend naar mensen met een superieure genetische opmaak. De dystopie is geoptimaliseerd tot verdienmodel.
Geweten
GoF-onderzoek is politiek toxisch gemaakt, niet vanwege het risico, maar vanwege de politieke bruikbaarheid van dat risico. Hetzelfde financiële motief dat embryobewerking vrijlaat, beschermt ook kunstmatige intelligentie: privékapitaal, geen federaal mandaat, geen democratisch debat, op een schaal die embryobewerking bescheiden doet lijken. En zonder regulering zijn reputatie en geweten de enige mogelijke rem die ongewenste innovatie kan tegenhouden. Vorig jaar plaatste Artisan, een AI-bedrijf, advertenties in dezelfde metro met een oproep aan bedrijven: “Stop Hiring Humans”. De verontwaardiging dwong hen tot excuses. Slechte pers was de enige rem van buitenaf.
Soms komt die rem van binnenuit. In april kondigde Anthropic een AI-model aan genaamd Claude Mythos Preview, zo bekwaam in het uitbuiten van softwarekwetsbaarheden dat het bedrijf besloot het niet openbaar te maken. Nu twee maanden later roept Anthropic op tot een wereldwijde pauze op geavanceerde AI-ontwikkeling, omdat de modellen dreigen buiten menselijke controle te raken. Maar dit werkt alleen als alle grote AI-bedrijven tegelijk stoppen. Met andere woorden: één bedrijf met een geweten lost niets op. Elk ander AI-bedrijf kan simpelweg doordenderen. Er is geen wet die hen tegenhoudt.
De keuze om niet te reguleren is zelf een regulering, één die altijd degene bevoordeelt die het snelst beweegt. Mijn subsidieaanvraag wordt herschreven terwijl ik dit type: experimenten verwijderd, taal aangepast aan wat de overheid wel financiert. Maar de Amerikaanse economie heeft als een casino alles op AI ingezet; als die inzet niet rendeert, zal de correctie de financiële crisis van 2008 doen lijken op een matig kwartaal. Daarom schrijft niemand in Washington de wet die elk bedrijf zou verplichten te doen wat Anthropic vrijwillig doet. In plaats daarvan schrappen we de GoF-subsidies en steken we de kop in het zand wat betreft infectieziektes, maar laten we de metro je beste baby en je AI-vervanger verkopen. We zien allemaal de rand van de afgrond en toch rennen we eropaf, hopend dat er geen peilloze diepte achter ligt.
Tim van Opijnen is hoogleraar kindergeneeskunde aan Boston Children’s Hospital en Harvard Medical School in Boston, in de V.S. waar zijn lab nieuwe antibacteriële behandelmethoden ontwikkelt. Hij schrijft een maandelijkse column voor de Folia over onderzoek bedrijven in Trump’s Amerika.
