In het midden van het digitale tijdperk krijgt de bezorgdheid over nepnieuws steeds meer de aandacht van publieke organisaties, de media en allerlei soorten persoonlijkheden. Niet voor niets heeft het nepnieuws een zeker gewicht gehad in belangrijke verkiezingsprocessen zoals de presidentsverkiezingen van de Verenigde Staten in 2016, het referendum over het vertrek van het Verenigd Koninkrijk uit de Europese Unie of de generaals van Brazilië die Bolsonaro de overwinning bezorgden.
Zonder zo ver te hoeven gaan, moest Facebook in ons land onlangs drie grote extreemrechtse netwerken sluiten die via 30 pagina's, groepen en dubbele accounts meer dan anderhalf miljoen volgers en meer dan 7 miljoen interacties verzamelden . Deze groepen waren toegewijd aan het verspreiden van hoaxes en valse beelden.
Maar nu worden we geconfronteerd met een ander type digitale dreiging dat nieuwe hoofdpijn veroorzaakt. We hebben het over de zogenaamde Deepfake, een term die voortkomt uit de combinatie van “Deep Learning” en “Fake”. In feite is het een vorm van kunstmatige intelligentie waarmee elke gebruiker nepvideo's en audio van mensen kan bewerken die echt lijken. Hiervoor worden antagonistische generatieve netwerken (AGR's) gebruikt , een soort algoritme dat nieuwe soorten data kan creëren uit andere sets die al bestaan.
Kortom, "deepfakes" zijn nog een vorm van digitale manipulatie , en in het beste geval een van de meest waarschijnlijke voor "trollen". Maar hoe kunnen we ze detecteren? En vooral: wat doen particuliere instellingen en bedrijven om de desastreuze gevolgen ervan te voorkomen? In deze special gaan we kijken naar de inspanningen die worden geleverd om deze nieuwe digitale plaag te stoppen.
Waarom zijn deepfakes zo gevaarlijk?
De "deepfake" -technologie stelt ons in staat om gemakkelijk het gezicht van de ene persoon te vervangen door dat van een andere, alsof het een soort digitaal masker of masker is, om ons te laten geloven dat hij bepaalde dingen heeft gezegd die nooit echt hebben plaatsgevonden . Zoals u wel kunt raden, hebben deze technieken een aantal behoorlijk belangrijke implicaties om de legitimiteit van de informatie die op internet circuleert te bepalen.
Hoewel ze vaak worden gebruikt om humoristische video's te maken, is de waarheid dat "deepfakes" een duister potentieel hebben om het publieke imago van een persoon te vernietigen of de publieke opinie te beïnvloeden door het gebruik van desinformatie. Helaas moeten we u zeggen dat dit misbruik meer wijdverbreid is dan we zouden willen, en met enorm succes moeten we hieraan toevoegen.
Een duidelijk voorbeeld hiervan is de DeepNude app, waardoor het uploaden van het beeld van een persoon met kleding en het creëren van een nieuwe van dezelfde naakte persoon . Gelukkig is het al gesloten, maar we moeten het gebruiksgemak van dit soort tools benadrukken waarvoor geen bewerkingskennis vereist is, aangezien het algoritme zelf al het werk doet.
In het geval van DeepNude bood het platform ongelooflijk realistische resultaten en was het volledig toegankelijk via zijn website voor Windows en Linux . En zoals verwacht, duurde het niet lang voordat de montages met beroemdheden zoals Katy Perry of Gal Gadot op het netwerk verschenen, tot het punt dat de druk van de advocaten van deze actrices niet stopte totdat belangrijke websites met inhoud voor volwassenen de video's verwijderden .
Dit is slechts het topje van de ijsberg van de verwerkingscapaciteit die dit soort toepassingen kan hebben. Laten we ons nu de gevolgen voorstellen van een campagne van dit type gericht tegen een bepaalde politieke figuur om een verkiezingsproces in een land of regio te manipuleren. Het kwaad kent geen grenzen.
Hoe worden deepfakes bestreden?
Een van de eerste bedrijven die zich uitsprak, was niemand minder dan Google, die aankondigde dat ze diepfakes wil bestrijden en, zoals ze in deze gevallen zeggen, vuur blust. De technologiegigant bevestigde de lancering van een volledige database van maximaal 3.000 video's die zijn gemanipuleerd met kunstmatige intelligentie (deepfakes) die speciaal zijn gemaakt om de detectietools van onderzoekers te helpen verfijnen.
Om dit te doen, heeft Google echte acteurs ingehuurd om hun gezichten op te nemen en deze te gebruiken als referentiepunt om te bepalen of een video kunstmatig is gewijzigd. Met behulp van methoden voor het genereren van deepfakes die voor iedereen beschikbaar zijn, worden duizenden deepfakes gemaakt van deze opnames.
De resulterende video's, echt en nep, worden geüpload naar het samenwerkingsplatform GitHub zodat onderzoekers volledig begrijpen wat het systeem produceert. Deze database is, zoals we zeggen, volledig toegankelijk, al zullen ze je eerst toestemming moeten geven .
Facebook van zijn kant is ook van plan om tegen het einde van dit jaar een vergelijkbare database te creëren. Volgens de CEO, Mark Zuckerberg, is het grootste probleem dat de industrie geen gestandaardiseerd systeem heeft om ze te detecteren . Daarom werkt het samen met de Association of AI, Microsoft en academici van Cornell Tech, MIT, Oxford, UC Berkeley, University of Maryland, College Park en de University of Albany-SUNY om de Deepfake Detection Challenge op te zetten. (DFDC voor zijn acroniem in het Engels).
Dit macroproject zal een uitgebreide database en een gedetailleerde classificatie bevatten , naast financiële hulp en donaties om zoveel mogelijk medewerkers aan te moedigen. Het idee is om een soort community te creëren die helpt bij het detecteren en vermijden van gemanipuleerde video's via een AI.
Het lijdt geen twijfel dat de verspreiding van "deepfakes" een zeer ernstig probleem is geworden, met ernstige gevolgen die niet kunnen worden genegeerd. Hoewel de maatregelen die zijn voorgesteld door de belangrijkste actoren die zich inzetten voor deze zaak op de lange termijn misschien onpraktisch of zelfs contraproductief lijken, zijn ze misschien wel de enige manier om deze misdaad uit te roeien. Hoewel het misschien contra-intuïtief lijkt, zal het bestrijden van ‘deepfakes’ met meer ‘deepfakes’ detectietools helpen om meer gegevens te absorberen, zodat ze dit soort montages gemakkelijker kunnen vinden .