Tjuvar använde audio deepfake-teknik för att kopiera en affärsmans röst och krävde en överföring på 35 miljoner dollar till ett offshorekonto, enligt ett domstolsdokument som erhållits av Forbes. Det är det mest framgångsrika “woofer”-ruppet hittills, även om det kanske bara är en liten del av en växande trend.
Deepfake-tekniken är ganska känd vid den här tiden. I grund och botten tränar människor AI för att återskapa någons ansikte, vanligtvis ansiktet på en skådespelare eller annan känd person. AI:n kan sedan animera och klistra in detta ansikte i referensvideon och därigenom infoga det klonade motivet i en scen.
Men du kan inte bara sätta någon i en video utan att återskapa deras röst. Och det är där ljudfärdigheterna kommer in i bilden – du tränar AI:n att återskapa någons röst och berättar sedan för AI:n vad den ska säga med den personens röst.
När deepfake-tekniken når en viss nivå av realism tror experter att det kommer att sporra till en ny era av desinformation, trakasserier och galna omstarter av filmer. Men det ser ut som att “deep voice”-tekniken har slagit igenom.
Redan 2020 fick en bankman i Förenade Arabemiraten ett telefonsamtal från direktören för ett stort företag. Enligt direktören görs ett större förvärv, så han behöver banken för att tillåta överföringen av 35 miljoner dollar till flera konton i USA. Direktören pekade på mejl från en advokat som bekräftade överföringen, och eftersom allt verkade lagligt godkände bankmannen.
Men det här företagets “direktör” är faktiskt en “djup röst”-algoritm tränad för att låta som sitt offer. Förenade Arabemiraten söker för närvarande amerikansk hjälp för att återvinna de förlorade medlen, som smugglades in på konton globalt av en grupp på 17 tjuvar.
Detta är inte den första djupa ljudstölden, men återigen, det är den mest framgångsrika hittills. Liknande operationer kommer att förekomma i framtiden, möjligen i mycket större skala. Så vad kan företag och regeringar göra för att mildra hotet? Tja, det är svårt att säga.
Eftersom deepfakes ständigt förbättras, kommer de så småningom att bli för övertygande för människor att identifiera ordentligt. Men tränad AI kan upptäcka djupa fel, eftersom klonade ansikten och röster ofta innehåller små fel och misstag, som digitala brus eller små ljud som människor inte kan skapa.
Källa: Forbes
