Het Nederlands Forensisch Instituut (NFI) heeft een model ontwikkeld dat doodsbedreigingen filtert uit chats.

De chatdienst van de onderwereld, zo wordt de versleutelde berichtenservice EncroChat genoemd. Criminelen konden op zogeheten cryptotelefoons berichten naar elkaar versturen waarbij ze zich onbespied waanden op de server. Maar vorig jaar zomer slaagden Franse en Nederlandse opsporingsdiensten erin de chatdienst te kraken. Zo’n 25 miljoen berichten werden onderschept en die moet de politie nu allemaal doorspitten. Die monsterklus handmatig klaren, is geen doen en dus heeft het NFI een computermodel ontwikkeld dat de politie helpt voorspellen welke berichten een serieuze bedreiging bevatten.

Lees ook:

• Daniël Verlaan: ‘Er zat niet eens een wachtwoord op!’
• Cryptojacking: computers als geldmachines

‘Poppen’

Het computermodel is gebaseerd op deep learning. Met dit algoritme kunnen computers onder meer beelden, geluiden en taalgebruik herkennen. Ze worden met grote hoeveelheden data – in dit geval bepaalde signaalwoorden of hele lappen tekst – net zolang ‘getraind’ totdat ze op eigen kracht serieuze bedreigingen kunnen herkennen.

Medewerkers van het NFI hebben met politierechercheurs lijsten gemaakt van zulke signaalwoorden, die criminelen gebruiken om aan te geven dat iemand moet worden gemarteld, ontvoerd of vermoord. Ze gebruiken bijvoorbeeld de woorden ‘dood’, ‘slapen’, ‘poppen,’ ‘afknallen’, ‘verdwijnen’, meldt de overheidsinstelling. Daarbij werkte het NFI ook samen met Europol, het samenwerkingsverband van de politiediensten van de EU. Die leverde een lijst met vergelijkbare woorden in het Frans en Engels aan.

Labelen

Nadat het neurale netwerk met de resultaten kwam, gaven politierechercheurs ze het label ‘bedreigend’ of ‘niet-bedreigend’. Het woord ‘slapen’ kan namelijk ook in een niet-bedreigende context gebruikt worden. Door die gelabelde woorden opnieuw in het systeem te laden, werd het computermodel steeds slimmer.

Het algoritme is al in gebruik genomen door de politie dat een speciaal Threat To Life-team oprichtte. Dat heeft inmiddels tientallen personen kunnen waarschuwen voor eventuele liquidaties, zware mishandeling of ontvoering, aldus het NFI. De instelling meldt overigens wel dat ook het computermodel zogenoemde blind spots heeft: het kan bepaalde signaalwoorden missen. “Het model geeft nooit 100 procent garantie dat het klopt. De computer helpt de mens bij het zoeken.”

Bronnen: Nedelands Forensisch Instituut, NOS

Beeld: NFI

Ben je geïnteresseerd in de wereld van wetenschap & technologie en wil je hier graag meer over lezen? Word dan lid van KIJK!