Deepfake eller äkta vara – kan du se skillnaden?

Är deepfakes hotet mot trovärdigheten?

Röst, video, bild, text, människor… Allt i det digitala går att manipulera idag. Nyheter, personer, konton – you name it. Deepfake börjar nu bli ett problem inom annonsering. Användandet av kända personer som gör sponsrade samarbeten av produkter – allt genom deepfakes. Det mest skrämmande är förstås ändå telefonbedrägerier, där en AI-bot agerar människor och lurar mottagaren.

Vi ser också fler och fler influencerkonton som sprider missvisande och ibland skadlig information, där personen bakom kontot inte ens existerar på riktigt. Ja, tekniken utnyttjas allt mer av kriminella verksamheter och det gäller att vi hittar sätt att sätta stopp för att tekniken används för olagliga handlingar.

För att komma till bukt med det alltmer utbredda problemet krävs det att vi dels sprider information som uppmärksammar fenomenet som är här för att stanna, men även att vi pratar om och börjar utveckla nya verktyg för att upptäcka och hantera deepfakes.

Vad betyder deepfake?

Deepfake är en teknik som bygger på AI, maskininlärning, som tränas upp för att manipulera bild, video eller röst deepfakes av hög kvalitet kräver ofta timmar av material från personen den ska imitera.

Mest känt används det inom film för att bland annat föryngra skådespelare. Ett exempel är att vi nu kan se en föryngrad Harrison Ford i nya Indiana Jones filmen. Ett annat häftigt exempel är att man i filmen Fast and Furious 7 lyfte in den avlidne Paul Walker i slutscenerna eftersom han tragiskt gick bort innan filmen producerats färdigt.

Den mörka sidan av deepfakes

En viral bedrägeriannons som ser extremt verklig ut är denna med Joe Rogan där han pratar gott om ett specifikt märke av testosteronpiller. Den är helt AI-genererad utan Rogans medverkan eller godkännande (OBS! videon har plockats ner från flera konton som återpublicerat scam-annonsen)

Referens: SturdyDigital

En annan känd deepfake-video som cirkulerat i sociala medier är denna där Volodymyr Zelensky kapitulerar för Rysslands attack mot Ukraina. 

Även telefonbedrägerier använder AI och Voice deepfakes för att ringa folk och behöver inte mer än 3 sekunder av en röstinspelning för att återskapa ett trovärdigt resultat.

Ett känt fall från 2019 där tjuvar använde denna teknik för att stjäla drygt 2,500 000 kr genom att imitera en verkställande direktörs röst, med tonläge och accent, finns att läsa mer om på Vice.

Deepfakes inom marknadsföring och sociala medier 

Många bolag har använt tekniken för att också skapa kreativa annonser, alltså inte bedrägeriannonser utan riktiga annonser. Bland annat Lay’s har använt det för en kampanj med fotbollsspelaren Lionel Messi där du kan skapa personliga meddelanden från stjärnan.

Det finns även deepfake influencerkonton, bland annat detta ”med” Tom Cruise. Galet!

Se en av videorna här:

@deeptomcruiseHigh and tigh then… eyebrows ✂️ #footloose♬ Footloose – Kenny Loggins

Men är det här lagligt med deepfake?

Deepfakeprogram är lagliga och tillgängliga för alla och att producera deepfakes är lagligt fortfarande. Vi har redan sett det användas inom film, nyheter och underhållning, men även för att sprida falska nyheter där kända politiker används för att sprida falsk information och potentiellt farliga uppmaningar.

Lösningar som finns

Sensity är ett av många bolag som hjälper dig att identifiera om något är deepfake media och fungerar som ett antivirus som visar dig när något är genererat och använder samma mjukvara för att identifiera deepfakes som man använder för att också skapa deepfakes. Misstänker du att media du tittar på är AI-genererad kan du använda mjukvaran för att veta säkert.

Här finns en länk till en Google Chrome extention från V7 som du kan installera för att upptäcka fakeprofiler på bland annat LinkedIn.

Här har vi listat fem tips på hur du kan upptäcka om någon är en deepfake eller AI-genererad:

• Rösterna låter (än så länge dvs) inte helt pålitliga och nyanserade, men det är fortfarande svårt att höra.

• Kolla avsändaren, vem har publicerat informationen, kommer det från individen som är med i bild, är personens officiella konton taggade? 

• Ser bilden i videon lite hackig ut eller är rörelserna aningen stela?

• Ser du något som inte stämmer i bilden, en hand som ser konstig ut, ett örhänge som saknas mm. 

• VAR KÄLLKRITISK, ett stort problem vi sitter med generellt idag när det kommer till AI producerat innehåll, är att det som produceras inte alltid stämmer. All AI genererad information stämmer inte, men personer tar det för sanning och använder det som underlag för publiceringar i de flesta kanaler. Ingen källhänvisning eller egen research görs innan publicering. Samtidigt som ett vanligt format för fakta och nyttig informations-innehåll används för att sprida materialet. 

Lita inte på allt du ser och läser online, gör din egen research, var källkritisk och håll dig uppdaterad <3

/ Teamet på Salgado