‘Dialogen met chatbots kunnen helpen in strijd tegen terrorisme’
Hoe weet je of iemand zonder kwade bedoelingen een vliegtuig instapt? UvA-promovendus Bennett Kleinberg doet onderzoek naar methoden die leugenaars opsporen. Hiervoor gebruikt hij methoden die geen leugens zoeken in lichaamstaal, maar in geschreven tekst. ‘Stressmetingen werken niet om terrorisme te bestrijden. Ik wil dat mensen een dialoog hebben met een chatbot.’
Bennett Kleinberg is universitair docent Data Science aan University College London en promovendus aan de UvA. Voor zijn UvA-promotieonderzoek kijkt hij naar methoden die leugens over de toekomst kunnen detecteren. Leugens over de toekomst hebben bijvoorbeeld met terrorisme te maken.
Het gaat dus niet over leugens of iemand wel of niet een misdaad in het verleden heeft begaan – daar wordt al lange tijd onderzoek naar gedaan – maar of diegene misschien iets slechts van plan is. ‘Iemand die een vliegtuig instapt en van plan is om een aanslag te plegen, kan zeggen dat hij of zij voor zaken op reis gaat of familie gaat bezoeken,’ legt Kleinberg uit. ‘Je wilt weten of diegene de waarheid spreekt of liegt.’
Op een luchthaven zijn steeds heel veel reizigers aanwezig die allemaal kwade bedoelingen kunnen hebben. De luchthaven Londen Heathrow heeft bijvoorbeeld meer dan 70 miljoen reizigers per jaar. ‘Het lastige is dat je alle passagiers van een vliegtuig eigenlijk tegelijk wil screenen,’ vertelt Kleinberg. ‘Dit kan niet met een één-op-één-verhoor. Je moet een risico-inschatting maken. Daar heb je geautomatiseerde methodes voor nodig. Het mooiste is als je die al kunt gebruiken bij het inchecken, bijvoorbeeld bij het online inchecken thuis.’
Verbale leugendetectie
Een bruikbare methode die je op grote schaal kunt gebruiken is verbale leugendetectie. Deze is al redelijk goed getest voor leugens die over het verleden gaan, maar nog niet voor leugens over de toekomst. Kleinberg: ‘Bij verbale leugendetectie gebruik je alleen tekst. Hierbij bekijken onderzoekers hoe mensen spreken, of ze gedetailleerd spreken of niet. Mensen die de waarheid spreken gebruiken namelijk over het algemeen meer details.’
Als je die detectie automatisch wilt laten doen, heb je computersystemen nodig die informatie uit tekst kunnen halen, die automatisch herkennen of iets een specifiek stuk informatie is, zoals een naam, locatie of een datum is. Die systemen bestaan al, bijvoorbeeld bij Google, aldus Kleinberg. ‘Als jij in je Google-agenda typt “maandagochtend om 10.00 uur een ontbijt in Amsterdam”, herkent Google een dag, een tijd en een locatie. Dit soort systemen kunnen we gebruiken voor verbale leugendetectie. Een computer krijgt eerst verschillende teksten waarbij duidelijk is of die de waarheid spreken of liegen. Hierin probeert de computer zelf patronen te vinden die te maken hebben met waarheid of bedrog. Dit doet hij aan de hand van machine learning. Hierdoor kan hij uiteindelijk nieuwe teksten analyseren. Tijdens zo’n analyse telt een computer allerlei kenmerken van de tekst: hoeveel personen er worden genoemd, hoeveel locaties, hoeveel data. Maar je kunt hem ook het aantal werkwoorden laten tellen of hoeveel negatieve of positieve aspecten genoemd worden.’
Liegen over het weekend
In het onderzoek van Kleinberg moesten de proefpersonen online beschrijven wat hun weekendplannen waren. Sommigen vertelden de waarheid en anderen logen. ‘De mensen die logen kregen een of andere activiteit toegewezen, zoals naar het feestje van een buurman gaan. In de instructie stond dat als hun verhaal overtuigend was, ze een beloning kregen.’
Voor deze context, bepaalde feestjes in het weekend, werkt de verbale leugendetectie nu al redelijk accuraat. Kleinberg: ‘Bij deze tekstjes had de computer 80 procent goed. Maar gaat het over een andere context of andere taakinstructies, dan wordt het een stuk lastiger en heeft de computer maar 65 procent goed. Toch is dit nog steeds boven kansniveau.’
Geen lichaamstaal
Nu wordt voor leugendetectie vaak lichaamstaal gebruikt, maar volgens Kleinberg werkt dat niet goed voor leugenopsporing. ‘Als iemand zweet, kan dit bijvoorbeeld ook komen doordat diegene haast heeft omdat die een vliegtuig moet halen. Of omdat diegene zenuwachtig wordt omdat hij of zij op het vliegveld eruit wordt gepikt. In Amerika gebruikten ze wel stressmetingen op de luchthavens, maar het blijkt dat die niet werken om terrorisme te bestrijden. Mensen die geen intenties hadden werden juist aangehouden en mensen die mogelijk wel bedoelingen hadden, werden niet aangehouden. Daarom hebben we een andere manier nodig.’
De verbale leugendetectie is een eerste stap; het systeem is nog niet helemaal rijp. ‘Uiteindelijk wil ik dat mensen geen verklaring hoeven te typen, maar dat ze een dialoog hebben met een computer, zoals een chatbot die bijvoorbeeld ook de NS gebruikt,’ zegt Kleinberg. ‘Dat mensen bijvoorbeeld aan een chatbot vragen hoe ze van een luchthaven naar een hotel kunnen komen en je daar al kenmerken uit haalt. Idealiter heb je uiteindelijk een systeem dat de juiste vragen stelt om te bepalen of iets gelogen of waar is. Ik bekijk nu wat de goede vragen zijn om vast te stellen of iemand liegt of niet.’
Daar blijft het niet bij, zegt Kleinberg. ‘Ik ben een combinatie tussen mens en computer aan het onderzoeken. Als een computer over bepaalde verklaringen niet zeker is of het is gelogen of niet, dan kan een mens die nog nalezen. Een mens kan bijvoorbeeld heel goed snappen dat iets heel raar is opgeschreven. Voor een computer is dit moeilijk. Alle gevallen die een beetje in het midden blijven liggen kunnen dan door mensen worden bekeken. Op deze manier haalt de computer nog het grootste deel aan leugenaars eruit en wordt een klein deel door de mens gedaan.’
Bennett Kleinberg hoopt donderdag 17 januari om 10.00 uur in de Agnietenkapel te promoveren op zijn proefschrift Towards Detecting Deceptive Intentions on a Large Scale.
