Bij NEMO helpen UvA-onderzoekers kinderen deepfakes te herkennen
Op sociale media worden kinderen dagelijks geconfronteerd met door AI gegenereerde content, die niet altijd even eenvoudig te herkennen is. Daarom kunnen zij nu terecht bij de AI Challenge van wetenschapsmuseum NEMO, waar ze zelfs de meest overtuigende deepfakes leren ontmaskeren.
Kai, Milan, Zoë, Naomi, Yuri en Renske spreken regelmatig samen af om online te gamen. Al babbelend via hun webcams zijn de zes tieners zo een hecht digitaal vriendengroepje geworden. Althans, zo lijkt het. In werkelijkheid blijken een aantal van hen namelijk helemaal geen echte mensen te zijn, maar met AI gegenereerde deepfakesEen deepfake is een vervalste video of foto die is gemaakt of aangepast met behulp van AI.
Deze verontrustende premisse vormt het uitgangspunt van de interactieve AI Challenge, die deze week bij wetenschapsmuseum NEMO is gelanceerd. Tijdens de twintig minuten durende demonstratie, die tot en met 25 oktober driemaal per dag te bezoeken is in het auditorium van het museum, worden kinderen uitgedaagd de AI-infiltranten te ontmaskeren, om zo beter te worden in het herkennen van deepfakes.
De AI Challenge, die is ontwikkeld in samenwerking met onderzoekers van de UvA en het Nederlands Forensisch Instituut, lijkt bij de vele bezoekers die deze herfstvakantie een bezoekje aan NEMO komen brengen wel tot de verbeelding te spreken. Het auditorium waarin de demonstratie wordt gehouden is goed gevuld met ouders en kinderen, die maar al te bereid zijn de uitdaging aan te gaan.
Schaduw
En dus worden gedurende de demonstratie de verschillende AI-infiltranten één voor één betrapt, aan de hand van een aantal praktische tips. Zo wordt de kinderen in het publiek op het hart gedrukt altijd de bron te controleren wanneer ze twijfelen of ze online met een echt persoon of met AI te maken hebben, en benadrukt de presentatrice dat je vooral extra alert moet zijn wanneer een filmpje zich niet aan de natuurwetten lijkt te houden: ‘Let bijvoorbeeld op hoe de schaduwen eruitzien. Hoe dat precies werkt, is voor ons heel logisch, want wij leven in de echte wereld, maar voor AI geldt dat niet.’
Ter illustratie wordt een verlegen jongetje het podium op gehesen, waarna hij een grote spotlight op zich gericht krijgt. De fictieve schaduw die op de foto op het grote scherm te zien is, gedraagt zich duidelijk anders dan de daadwerkelijke schaduw op het podium, zo blijkt nu. Zo wordt Zoë vrij eenvoudig door de bezoekers geëlimineerd, nadat eerder ook Kai al als deepfake is ontmaskerd.
Bloedstroomdetectie
Hoewel tot dusver dus sprake is van een succesvolle operatie, blijkt even later dat – alle praktische handvaten ten spijt – AI lang niet altijd meer met het blote oog te herkennen is. Daarom staat het tweede deel van de demonstratie in het teken van bloedstroomdetectie, een nieuwe technologie die zeer subtiele kleurverschillen in het gezicht analyseert, die worden veroorzaakt door het ritme waarmee het hart bloed door het lichaam pompt. Zo kan worden gecheckt of er wel daadwerkelijk bloed door de huid stroomt, of dat er sprake is van door AI gegenereerde beelden. Het is één van de technieken waarmee onderzoekers het mogelijk maken om ook zeer geraffineerde deepfakes als zodanig te identificeren.
De tekst gaat onder de afbeelding verder.
‘Er zijn wel meer methodes die we gebruiken om AI te herkennen, maar bloedstroomdetectie is vooral zo geschikt als voorbeeld in deze demonstratie omdat het heel intuïtief is uit te leggen,’ aldus Stijn van Lierop, PhD-kandidaat deepfake-detectie aan de UvA en betrokken bij de AI Challenge van NEMO. ‘Een computer heeft geen hartslag, dat snapt iedereen. Daarom werkt dit denk ik zo goed.’
De AI Challenge is tot en met zondag 25 oktober iedere dag om 11:30, 13:30 en 15:30 uur te zien in het auditorium van NEMO. Tijdens de kerstvakantie staat de demonstratie opnieuw op het programma.
Kat-en-muisspel
Volgens Van Lierop wordt er op dit moment op bloedstroomdetectie ingezet ‘omdat hartslag iets fundamenteels is dat modellen nu niet altijd goed kunnen imiteren.’ Maar dat de ontwikkelaars van detectietechnieken in een continu kat-en-muisspel verwikkeld zijn met de steeds verfijnder wordende AI-modellen, compliceert de zaak. ‘Daarom moeten we strategisch inzetten op technieken die bestand zijn tegen nieuwe ontwikkelingen, maar is het ook belangrijk dat we in de maatschappij meer alertheid creëren. De consument moet kritisch leren kijken, daar begint het mee. Zo kunnen we ons beter weren tegen de ondermijning van desinformatie.’
Ondertussen wordt in het auditorium de proef op de som genomen en maken ook de kinderen kennis met de bloedstroomdetectietechniek. Het gezicht van een blondharig meisje dat uit het publiek is gevist, wordt via een camera op het grote scherm geprojecteerd. Wanneer de computer z’n werk heeft gedaan en de analyse is uitgevoerd, volgt het verdict: het bloed stroomt op natuurlijke wijze door haar huid. Ze mag weer gaan zitten, het is de presentatrice wel duidelijk, dit is een écht mens, geen deepfake.
