UvA-wetenschappers ondertekenen open brief: ‘Stop ontwikkeling AI-systemen’
De ontwikkeling van AI-systemen die krachtiger zijn dan het huidige ChatGPT-4, moet de komende zes maanden gepauzeerd worden. Dat staat in een open brief van non-profit instituut Future of Life, die naast grote namen zoals Elon Musk ook door UvA-wetenschappers is ondertekend, onder wie onderzoeker Media Studies Amir Vudka. ‘GPT-5 zou echt een gamechanger kunnen worden.’
Amir, waarom heb je de brief ondertekend?
‘Ten eerste, de brief zelf zal niet veel uithalen. Ik denk niet dat de brief de grote AI-bedrijven kan beïnvloeden, daarvoor is er veel te veel geld mee gemoeid. Toch heb ik de brief ondertekend, omdat het cruciaal is om na te denken over de gevaren van AI.’
Is het niet dubieus dat ondertekenaar Elon Musk zelf het bedrijf OpenAI oprichtte dat ChatGPT-4 ‘trainde’?
‘Ik denk dat het laat zien dat hij weet waar hij het over heeft. En hij is niet de enige die heeft meegewerkt aan het trainen van dit systeem die nu de alarmbel luidt. Daarnaast kan hij natuurlijk een financiële motivatie hebben.’
Wat staat er op het spel?
‘In het worst case scenario gaat AI een existentiële bedreiging voor de mensheid vormen. Vorige week publiceerde een team van AI-wetenschappers die ChatGPT-4 trainde, een artikel waarin ze beschreven dat GPT-4 “vonkjes” laat zien van kunstmatige algemene intelligentie (AGI). Dat is een enorme sprong in de ontwikkeling. AGI is een vorm van AI die net als mensen geheel zelfstandig zelf kan leren, zonder dat daar specifieke opdrachten voor nodig zijn. Over zo’n systeem kun je snel de controle verliezen. Eerder werd betwijfeld of we die vorm van kunstmatige intelligentie wel zouden bereiken, en zo ja, dan misschien pas over twintig jaar. Nu is er een indicatie dat het volgende AI-model daar al trekken van vertoont. GTP-5 zou echt een gamechanger kunnen worden. Daarnaast kan AI veel verstoring veroorzaken in de samenleving. De voorspelling is dat over vijf jaar, 25 procent van de banen vervangen is door AI-systemen. Ik denk zelfs dat 70 procent van de banen vervangen zullen zijn de komende 10 jaar.’
Wat kan er in een pauze van zes maanden bereikt worden?
‘Het belangrijkste is om AI af te stemmen op de wensen van mensen, zodat het voor ons werkt en niet tegen ons. En we moeten nadenken hoe we deze radicaal ontwritchtende technologie introceren in de maatschappij. Dat moeten universiteiten, financiers, bedrijven en de overheid samen doen.’
Leeft het onderwerp erg op de UvA?
‘De discussie op de UvA gaat voornamelijk over welke gevolgen ChatGPT heeft voor het onderwijs. Studenten die opdrachten en tentamens kunnen maken met ChatGTP, die niet te checken zijn op plagiaat. Collega’s die onderzoek doen naar kunstmatige intelligentie maken zich wel zorgen om de grotere problemen. Niet allemaal, ik wil ook geen doemscenario schetsen. Maar we moeten voorzichtig zijn.’
Ook UvA’ers universitair hoofddocent theoretische natuurkunde Christoph Weniger, emeritus hoogleraar Science & Technology Studies Stuart S. Blume en natuurkundige
Jan Pieter van der Schaar ondertekenden de open brief.
