De evolutie van kunstmatige intelligentie (AI)
Dit artikel beschrijft Adobes werk rond deepfakes omstreeks 2020. Detectie is inmiddels niet de enige aanpak: herkomst, bewerkingsinformatie en controle van de context tellen ook mee. Controleer actuele functies en initiatieven in de officiële documentatie.
Wat zijn deep fakes?
Deep fakes zijn videoclips die eruitzien en klinken als een volledig normale video, behalve dat ze niet echt zijn. De vooruitgang in AI heeft het mogelijk gemaakt om fotorealistisch video- en audiomateriaal van iemand te maken die een computer vervolgens kan gebruiken om een gloednieuwe video te maken die bijna onmogelijk te onderscheiden is van een echte video.
Deep fakes werden voor het eerst een probleem toen ze werden gebruikt voor neppe pornografie. Beroemdheden en actrices zagen hun eigen gezicht terug in foto’s en video’s van echte pornosterren, dit zag er echter niet heel realistisch uit. Toch veroorzaakte dit veel leed en leidde tot een verbod op deep fakes op sites als Facebook. Sindsdien is deze technologie verder ontwikkeld en kan het nu overtuigende, levensechte valse video’s maken met behulp van echt beeld- en geluidsmateriaal van mensen.
Hoe worden deep fakes gemaakt?
Deep fakes werken het beste op mensen waarvan al veel verschillende stemfragmenten, foto’s en video’s beschikbaar zijn. AI wordt gevoed door duizenden audio- en visuele voorbeelden. Hiermee bouwt het een model van hoe een persoon eruitziet en klinkt. Op basis van dit model kan een niewue video worden gemaakt.
Hoe helpt Adobe bij het bestrijden van deep fakes?
Adobe gebruikt AI om te helpen bij het identificeren van deep fake video’s. Computers zijn in staat om een video te analyseren en een hash (digitale naam) te genereren voor dat bestand, gebaseerd op de inhoud ervan. Als een video eenmaal is gehasht wordt er bij elke poging om dat bestand te veranderen van hash, een waarschuwing aan de computer gegeven dat de video waarschijnlijk nep is.
Adobe neemt de leiding door AI te gebruiken bij het tegengaan van deep fakes. Ze helpen bij het analyseren, identificeren en verwijderen van deep fakes op het web, om zo de verspreiding van desinformatie online tegen te gaan.
Verwar herkomst niet met waarheid
Herkomstinformatie kan de bron of bewerkingen van een bestand beschrijven, maar bewijst niet dat de inhoud waar is. Controleer bron, datum, context en onafhankelijke bevestiging. Ontbrekende metadata bewijzen evenmin dat media vals zijn.
Wat doen Content Credentials wel en niet?
Content Credentials kunnen herkomst- en bewerkingsinformatie aan media koppelen. Daarmee kan een kijker bijvoorbeeld zien welke maker of tool informatie heeft toegevoegd en welke bewerkingen zijn vastgelegd. De open C2PA-standaard vormt hiervoor een technische basis.
Het systeem is geen universele leugendetector. Betrouwbare metadata kan bij misleidende inhoud horen, terwijl legitiem beeld zonder zulke gegevens kan circuleren. Gebruik herkomst daarom als één controlesignaal naast omgekeerd zoeken, vergelijking met de oorspronkelijke publicatie, controle van datum en locatie en onafhankelijke bevestiging. Wees bovendien precies in formuleringen: AI kan manipulatie helpen ontdekken, maar automatische detectie kent fouten en veranderende aanvalstechnieken. Presenteer een waarschijnlijkheid nooit als bewezen vervalsing.
