Hoe kun je nepvideo’s herkennen die zijn gemaakt door kunstmatige intelligentie? Met een kunstmatig intelligent systeem.

Deepfakes zijn nauwelijks te onderscheiden van echt. Toen de nepvideo’s nog nieuw waren, was het maken van zo’n filmpje geen eitje. Inmiddels is de deepfake-technologie stukken verder en is die niet alleen maar aan whizzkids voorbehouden. En daarin schuilt natuurlijk een gevaar. Computerwetenschappers van de Universiteit van Buffalo zetten de tegenaanval in. Ze ontwikkelden een slimme tool die in 94 procent van de gevallen portretten terecht als deepfakes bestempelde.

Lees ook:

• Deepfakes maken wordt steeds makkelijker
• Driemaal net echt: machine learning
• A.I. creëert realistische mensen die niet bestaan

Deepfakes

Deepfakes worden gemaakt door kunstmatige intelligentie te combineren met machine learning: als je een computer hele bergen foto’s en video’s van iemand voert, leert hij de mimiek van die persoon kennen. Doe je dat met het gezicht van twee mensen, dan kun je vervolgens vrij eenvoudig de mimiek van het ene gezicht kopiëren naar het andere gezicht.

Maar die technologie schiet op een belangrijk punt tekort, zeggen de onderzoekers: de weerspiegeling in de ogen klopt niet. “Het hoornvlies is bijna een perfecte halve bol en is zeer reflecterend,” zegt onderzoeker Siwei Lyu. Als we in het echt naar iets kijken, verschijnt de reflectie ervan dan ook in allebei de ogen. Maar dat is niet het geval bij deepfakes, mogelijk door de vele verschillende beelden die worden gebruikt om ze te creëren.

Weerkaatsing bestuderen

Het team van de Universiteit van Buffalo ging met deze kennis aan de slag om een nieuwe tool te ontwikkelen die deepfakes kan herkennen. Het kunstmatig intelligente systeem bestudeert eerst het gezicht en kijkt dan naar minieme afwijkingen in de weerkaatsing van de ogen van nepfoto’s en -video’s. Het analyseert de verschillen in vorm, licht en intensiteit van de gereflecteerde lichtbron in beide ogen.

De onderzoekers testten het algoritme door het foto’s van bestaande mensen en nepbeelden (gehaald van de website thispersondoesnotexist.com) te laten zien. Alle foto’s waren portretten, waarbij de persoon recht in de camera keek. In deze opstelling wist het systeem in 94 procent van de gevallen correct aan te wijzen welk beeld niet echt was.

Knipperen met de ogen

Toch zitten er nog wel wat beperkingen aan de tool, geven de wetenschappers toe. Zo werkt hij alleen door de reflectie in beide ogen te vergelijken, waarbij die hetzelfde moet zijn. De tool houdt dus geen rekening met personen met een glazen oog of met één oog. En als iemands haar voor de ogen zit, is het algoritme ook al minder betrouwbaar.

Gelukkig zijn deepfakes ook op andere manieren te herkennen. Hoofdpersonen in de nepvideo’s knipperen bijvoorbeeld meestal niet met hun ogen. Bovendien gaat de ademhaling vaak niet gelijk op met de uitgesproken zinnen, stellen wetenschappers van de State University of New York. Iets om te onthouden.

Bronnen: Arxiv.org, University of Buffalo, New Atlas

Beeld: Buzzfeed

Ben je geïnteresseerd in de wereld van wetenschap & technologie en wil je hier graag meer over lezen? Word dan lid van KIJK!