‘Over een jaar of twee zijn live faceswaps zo goed als realistisch’
Een ongetraind oog kan een ‘foto’ van een niet-bestaand persoon al niet meer onderscheiden van een echte foto. Volgens UvA-wetenschapper Theo Gevers, die onderzoek doet naar deepfakes, zal het niet lang meer duren voordat dat ook bij video’s het geval zal zijn. ‘De samenleving moet weerbaarder worden.’
Wat is een deepfake precies?
‘Deepfake komt van het woord deep learning, dat is een onderdeel van machine learning. Met machine learning kun je synthetische beelden of video’s genereren. Er zijn veel verschillende manieren om een deepfake te maken. Een van die manieren is een gan, een generative adversarial network. Vanuit bestaande data van gezichten, bijvoorbeeld via Google, kan deze vorm van machine learning een nieuw beeld van een gezicht genereren.
Dit is niet het gezicht van iemand die echt bestaat, maar een uniek beeld dat is opgebouwd uit allemaal verschillende delen van gezichten. Op thispersondoesnotexist.com kun je hier voorbeelde vann zien. Een andere vorm van deepfake is de face swap. Met deze techniek kun je je eigen gezicht plakken op dat van een acteur.’
Waar doet u onderzoek naar?
‘Met mijn team kijk ik wat er onder de motorkap van deze deepfakes schuil gaat. Hierdoor kunnen we ze sneller detecteren. Als er nu een beeld wordt gegenereerd met een bestaande deepfake methode dan kunnen wij dat snel en nauwkeurig herkennen. Deze deepfake-detectietechnieken maken ook gebruik van deep learning.
Helaas is de pakkans bij nieuwe deepfakes heel laag. Het is net als met een virus. Je moet het eerst analyseren voordat je het kunt detecteren. Hier zit dan ook het grote probleem: de technologie van het maken van deepfakes is altijd één stap voor op de technologie van het detecteren van deepfakes.’
De UvA en het Nederlands Forensisch Instituut (NFI) gaan samen onderzoek doen naar computermodellen om deepfakes en verborgen berichten te helpen herkennen. Waarom is dat nodig?
‘Het is goed als er meer bewustzijn over deepfakes komt. De meeste mensen kennen de werking van Photoshop inmiddels wel, en ze zijn zich ervan bewust dat je daarmee een beeld kunt manipuleren. Maar als het aankomt op deepfakes zijn mensen nog niet voldoende geinformeerd en daarom niet weerbaar genoeg.’
Dit voorjaar ontstond onduidelijkheid toen bleek dat Nederlandse Kamerleden met een neppe medewerker van de Russische oppositieleider Navalny had gesproken. Hoe kan je weten of de persoon waarmee je praat echt is of dat je te maken hebt met een deepfake?
‘Op dit moment is een live deepfake heel makkelijk te herkennen. Als je een goede deepfake wilt maken of een goede faceswap, dan zit er toch nog wel wat handwerk bij dat je van tevoren moet doen. Na het vrijgeven van de video op Youtube is duidelijk geworden dat het geen deepfake was, maar dat de Kamerleden in de maling zijn genomen door een Russische duo (Vovan en Lexus) dat ook andere westerse politici voor gek heeft gezet. In ieder geval kon het geen live deepfake zijn. De technologie is op dit moment gewoon nog niet zo ver. Dat zal overigens niet zo lang meer duren: ik denk dat het over ongeveer twee jaar wel mogelijk is om een realistische live faceswap te maken.’
Deepfakes worden vaak gebruikt door criminelen, maar wordt het ook wel eens gebruikt voor iets positiefs?
‘Absoluut. Op dit moment doen we onderzoek naar behandeling voor een posttraumatische stressstoornis (PTSS) met deepfakes. We proberen de therapie te ondersteunen door bijvoorbeeld de behandelaar de dader te laten spelen: een soort rollenspel. Zo kan het slachtoffer zich tijdens de therapie direct richten tot de dader.
Daarnaast worden deepfakes ook vaak gebruikt in de evenementensector. In Nederland hebben we vaak ondertiteling, maar in andere landen worden films en series vaak nagesynchroniseerd. Met een deepfake kun je ervoor zorgen dat het gezicht ook op de juiste manier meebeweegt bij een andere taal. Ook zie je het steeds meer in handleidingen en instructievideo’s. Deepfakes hebben inmiddels een grote economische waarde.’
Is er een mogelijkheid voor een leek om deepfakes te herkennen?
‘Deepfakes bestaan in verschillende vormen. Voor elke vorm zijn er dan ook weer andere manieren om ze te detecteren. De gan-beelden zijn bijna niet meer van echt te onderscheiden, maar er zijn wel een aantal dingen waar je op kunt letten. Zoals de ooglocatie, die zitten bij deepfakes altijd op dezelfde positie.
Verder kun je ook kijken naar het haar en de achtergrond. Beide zijn voor een computer erg lastig om te maken. Zo heeft de achtergrond van een gan-deepfake vaak vage en rare kleuren. Als je wilt testen hoe goed jij een deepfake kunt herkennen, heeft 3DUniversum3DUniversum is een spin-off van de UvA voor de ontwikkeling van software voor het detecteren van deepfakes. Deze deepfake detectie software wordt door verschillende partijen gebruikt zoals mediabedrijven, overheid en banken. een leuke quiz gemaakt.’
(Lees verder onder de video over het maken van deepfakes)
Hoe zit het met een faceswap? Hoe is dat te detecteren?
‘Bij een stilstaand beeld is dat erg moeilijk, maar bij een bewegend beeld is het juist een stuk makkelijker. Je kunt bijvoorbeeld kijken naar de belichting. Als de persoon beweegt, bewegen ook de schaduwen en reflecties mee. Bij een faceswap zijn deze meestal niet consistent. Ook kan het zijn dat de faceswap net niet helemaal goed op het gezicht past. Als laatste kun je nog kijken naar de micro-expressies, de hele kleine bewegingen die je met je gezicht maakt. Dit gaat bij een faceswap vaak niet helemaal goed.
Een huis-, tuin- en keukentip om testen of je tegenover een echt persoon zit of een deepfake: vraag je gesprekspartner om het gezicht snel van links naar rechts te draaien. Bij een faceswap zijn die extreme hoofdbewegingen bijna nooit soepel.’
