Med den snabba utvecklingen av AI-baserad teknik har det blivit enklare än någonsin att lura massorna med djupupplösta bilder och videor. Med hänvisning till dess potentiella risker för samhället har företag som Facebook, Reddit och Microsoft kommit på sätt och verktyg för att upptäcka djupt falskt innehåll på sociala plattformar. Nu har ett team av datavetare utvecklat en ny AI-baserad deepfake-detekteringsmotor. Den upptäcker en bild med djup genom att undersöka ljusreflektioner på motivets ögon.
AI Deepfake Detector Tool Mäter reflektionen i ögat
Det nya verktyget, utvecklat av datavetare från University of Buffalo, är ett relativt enkelt system. Det har dock visat sig vara 94 % effektivt för att upptäcka djupt falskt innehåll.
Till att börja med skapas djupfalska bilder och videor av AI-baserade applikationer som analyserar tusentals foton och videor av olika verkliga individer. Efter sin analys kan verktygen sedan skapa bilder och videor som ser ut som verkligheten om en person som inte ens existerar. Dessutom kan de användas för att skapa falska ansikten av kända kändisar för att sprida desinformation och vilseleda allmänheten online.
Så för att generera deepfake-resultat kommer AI-verktyg att analysera olika resurser för att förstå hur en person rör sig, ler eller rynkar pannan. De kan sedan använda informationen för att på ett intelligent sätt skapa digitala kopior av andra individer som ser ut som den äkta varan.
Hur det fungerar?
Generiska verktyg för deepfake-detektion kommer nu att analysera innehållet för alla onaturliga element som oregelbundna ansiktsrörelser eller överdriven utjämning av huden. Det nya verktyget förlitar sig dock på ljusreflektioner i motivets ögon för att upptäcka djupupplösta bilder och videor.
Enligt forskare beror detta på reflektionen av ljuskällan på motivets ögon är något som ett AI-baserat verktyg inte tar hänsyn till samtidigt som du skapar djupt falskt innehåll. Som ett resultat avbildar ögonen i djupbilden olika reflektioner på varje hornhinna medan det borde vara samma på båda ögonen om motivet var verkligt. Du kan kolla in jämförelsebilden nedan för en bättre förståelse.
Forskarna tillade att deepfake-motorer inte heller helt förstår människans anatomi och hur vissa element förändras när de interagerar med den fysiska världen. Reflektion i ögat är en av de faktorer som förändras beroende på ljuskällan framför motivet när bilden eller videon tas.
Så denna deepfake-motor drar fördel av denna inkonsekvens i deepfake-innehåll för att upptäcka dem framgångsrikt. Den analyserar en bild och genererar ett likhetspoäng. Ett högt likhetspoäng betyder att bilden sannolikt inte är djupt rotad, medan en låg poäng betyder att bilden är mer sannolikt att vara en falsk.
kända problem
Nu är det värt att nämna att det här verktyget har några egna problem. Det fungerar till exempel inte om motivet inte tittar in i kameran eller om motivets ena öga inte syns i bilden. Men forskarna hoppas kunna eliminera dessa problem genom att vidareutveckla verktyget under de kommande dagarna.
För närvarande kan det här verktyget enkelt upptäcka mindre komplexa deepfakes. Men för högre kvalitet på deepfake-innehåll kan verktyget kämpa lite och kanske inte vara lika exakt.
