Kan Deepfakes upptäckas?

Med tillräckligt många källbilder är det inte så svårt att göra Jordan Peele till president Obama, Jimmy Fallon till John Oliver, eller Jon Snow blir talesman för besvikna Game of Thrones-fans. Till en början var det inte så svårt att fånga deepfakes – även de bästa hade visuella giveaways som suddighet, distorsion och kusliga ansiktsskillnader som gjorde att de bara verkade ”off”.

Det är dock ett katt-och-råtta-spel och det verkar som att så fort vi lär oss en metod för att upptäcka djupförfalskningar så åtgärdar nästa generation felet. För att bekämpa det, finns det några pålitliga lösningar för att ta reda på vilka videor som försöker lura oss?

Visuella ledtrådar

Artefakter är inte bara saker som Indiana Jones placerar på museer — de är också små avvikelser som lämnas kvar efter att en bild eller video har manipulerats. I tidiga deepfakes kan dessa ofta fångas med det mänskliga ögat och dåliga deepfakes kan fortfarande ha några varningstecken, som suddiga kanter, ett överutjämnt ansikte, dubbla ögonbryn, problem eller en allmänt ”onaturlig” känsla för hur ansiktet passar in. .

För det mesta har dock teknikerna nu förbättrats till den punkt där dessa artefakter endast är synliga för andra algoritmer som kammar igenom videodata och undersöker saker på pixelnivå. Vissa av dem kan bli ganska kreativa, som en teknik som kontrollerar om näsans riktning matchar ansiktets riktning. Skillnaden är för subtil för människor att uppfatta, men maskiner visar sig vara ganska bra på det.

Biometriska ledtrådar

Ett litet tag verkade det som om nyckeln till att avslöja deepfakes var deras brist på naturliga blinkande mönster tack vare den relativa bristen på ”ögonslutna” källbilder. Det tog inte lång tid för nästa generations deepfake-teknik att införliva bättre blinkning, vilket snabbt minskade teknikens effektivitet.

Andra biometriska indikatorer har dock inte blivit helt knäckta än, som enskilda egenheter som algoritmer inte lätt kan automatisera till en deepfake eftersom de kräver viss kontextuell förståelse av språket som används. Små vanor som att blinka snabbt när du blir förvånad eller höja på ögonbrynen när du ställer en fråga, kan plockas upp och användas av en deepfake, men inte nödvändigtvis vid rätt tidpunkt eftersom de (ännu) inte automatiskt kan ta reda på när de ska använda dessa rörelser.

AI att kunna läsa hjärtslag med videobilder har många applikationer utöver deepfake-detektion, men att leta efter de periodiska rörelserna och färgförändringarna som signalerar hjärtfrekvens kan hjälpa till att identifiera AI-genererade bedragare. Den mest uppenbara giveaway är när en deepfake inte har något hjärtslag alls, men deepfakes har ofta pulser. Trots det kan oregelbundenheter (som olika delar av ansiktet som visar olika hjärtfrekvenser) fortfarande hjälpa till att identifiera en djupförfalskning.

AI-projekt

Många stora namn är väldigt intresserade av att lösa problemet med deepfake. Facebook, Google, MIT, Oxford, Berkeley och många andra nystartade företag och forskare tar itu med detta problem genom att träna artificiell intelligens för att upptäcka falska videor med hjälp av metoderna som listas ovan, bland annat.

En sak båda Facebook och Google arbetar med är att skapa en datauppsättning av högkvalitativa videor av skådespelare som gör saker, som de sedan använder för att skapa deepfakes. AI utbildad på dessa kan sedan ta reda på vilka tecken på djupförfalskningar är och få i uppdrag att upptäcka dem.

Naturligtvis fungerar detta bara så länge som forskarna fortsätter att generera deepfakes med den mest uppdaterade tekniken, vilket innebär att det alltid kommer att finnas lite fördröjning mellan de nyaste deepfake-tricken som upptäcks och att dessa algoritmer kan fånga dem. Men med lite tur, experimenten med faktiska möss för att identifiera deepfakes kommer att gå ut och ge oss ett försprång.

Autentisering

Detektionsteknologier är dock inte det kompletta svaret på deepfakes, eftersom de förmodligen aldrig kommer att ha en 100-procentig framgång. Deepfakes som har lagt ner lite tid och pengar på sig skulle förmodligen klara en hel del sniff-tester och aktuella AI-metoder. Och låt oss komma ihåg hur Internet fungerar: även om dessa förfalskningar fångas, kommer de sannolikt att återcirkuleras och tros på av någon delmängd av människor ändå.

Därför är det också viktigt att ha någon form av verifieringsmekanism – något bevis på vilken video som är originalet eller något som kan indikera om en video har modifierats. Det är vad företag gillar Faktum, Ambervideo, och Axiom gör genom att koda data om videor till oföränderliga blockkedjor.

Grundtanken bakom många av dessa projekt är att data som finns i en videofil eller genererad av en viss kamera kan användas för att generera en unik signatur som kommer att förändras om videon manipuleras. Så småningom kan videor som laddas upp till sociala medier komma med ett alternativ för att generera en autentiseringskod som den ursprungliga uppladdaren kunde registrera på en blockchain för att bevisa att de var de ursprungliga videoägarna.

Dessa lösningar har sin egen uppsättning problem, naturligtvis, som videokodningar som ändrar data i filen och ändrar signaturen utan att videoinnehållet faktiskt ändras, eller legitim videoredigering som förstör signaturen. I situationer med hög insats, som kommersiella transaktioner där bilder används för att verifiera leverans eller få investerarstöd, kan ett autentiseringslager som detta hjälpa till att förhindra deepfake-relaterat bedrägeri.

Är deepfakes farligare än Photoshop?

Vid det här laget antar vi alla bara att bilder kanske inte är verkliga eftersom vi är fullt medvetna om att tekniken finns för att få nästan allt att se verkligt ut i en stillbild. Så småningom kan vi börja närma oss videor med samma sorts skepsis som att fejka dem blir lika enkelt och övertygande som Photoshop för närvarande gör bildredigering. Även med allmän medvetenhet är det dock lätt att föreställa sig att många händelser i verkligheten får sin början med en vältajmad, högkvalitativ deepfake inom en inte alltför avlägsen framtid.

Bildkrediter: Google/FaceForensics, Facebook AI, Ambervideo