Vad är deepfake? Så här känner du igen AI-genererade bilder

Föreställ dig att du får ett video­meddelande från din chef där hen ber dig att över­föra pengar eller att du ser en video av en kändis eller en influencer som marknads­för en ny krypto­valuta. Oavsett om du lägger märke till att dessa videor är falska eller inte, kan det vara oroande att bevittna en person som du litar på göra något som är helt olikt dem. Detta kan sudda ut gränsen mellan äkta och falskt innehåll.

Hur läskigt det än låter blir bedrägerier som dessa allt vanligare på grund av de senaste fram­stegen inom utvecklingen av artificiell intelligens. Denna typ av syntetisk media kallas för en deepfake.

Deepfakes är falska men otroligt realistiska bilder, videor eller ljudfiler som är genererade med artificiell intelligens. Även om deep­fakes ofta är lätta att upptäcka när de används som skämt på sociala medier, kan de även utnyttjas för att lura människor, stjäla pengar och sprida desinformation.

Läs vidare och lär dig hur deepfakes fungerar samt hur du kan upptäcka dem utan att bli lurad.

Vad är deepfakes?

En deepfake är oftast en bild, video eller ljudfil som har manipulerats med hjälp av artificiell intelligens.

Syftet med deepfakes är att få det att verka som om någon har sagt eller gjort något som aldrig verkligen hände. Ibland är deep­fakes ofarliga och lätta att upptäcka, till exempel i form av roliga filter som ändrar din röst eller ditt utseende.

Men det blir knepigt när en AI-genererad bild, video eller ljudfil inte längre går att skilja från det äkta. Bedragare och andra farliga aktörer vet detta och har börjat använda deep­fakes för att utföra bedrägerier och manipulera människor.

Hur fungerar deepfakes?

Deepfakes drivs av djup­inlärning (på engelska ”deep learning”), som är en typ av maskin­inlärning som gör att datorer kan analysera och upptäcka mönster i stora mängder data. Det är från detta som deep­fakes har fått sitt namn; det är en kombination av orden ”deep learning” och ”fake”, som betyder djup­inlärning och förfalskning.

En av de viktigaste teknologierna bakom deep­fakes är GAN (Generative Adversarial Network), det vill säga generativt konkurrerande nätverk. Det är en komplex process som kan förenklas så här:

• En del av AI:n (”generatorn”) skapar falskt innehåll, till exempel en bild eller video.

• En annan del (”diskriminatorn”) utvärderar hur realistiskt det AI-genererade innehållet ser ut.

• Dessa två system tävlar med varandra tills det falska innehållet är nästan omöjligt att skilja från det äkta.

Dessa system kräver data för att fungera och förbättras, såsom video­klipp, bilder eller röst­inspelningar. Ju mer data systemet har, desto mer realistiska AI-genererade bilder, videor eller ljudfiler kan det skapa. Efter­som folk ständigt delar bilder och videor på sig själva på sociala medier, finns det massor av tillgängligt material som AI:n kan lära sig av.

Nästan alla har dessutom tillgång till deepfake-teknik efter­som nya appar och verktyg har gjort det enkelt att skapa över­tygande bilder, videor och ljud­inspelningar med hjälp av AI. Det som tidigare krävde avancerade tekniska kunskaper är idag tillgängligt för så gott som alla — även bedragare.

Farorna med deepfakes

Deepfakes medför flera risker om de används med dålig avsikt. Riskerna med deep­fakes inkluderar bland annat:

• Identitetsstöld och att låtsas vara någon annan person: Bedragare använder AI-genererade bilder, videor och röst­inspelningar för att det ska verka som att offret kommunicerar med någon bekant person, till exempel en familjemedlem, vän eller en offentlig person.

• Ekonomiska bedrägerier: Deepfakes används som del av bedrägerier via telefon- och video­samtal för att lura människor att över­föra pengar. Bedragare kan till och med använda röst­meddelanden eller korta ljud­filer från sociala medier för att förfalska en persons röst.

• Desinformation och falska nyheter: Falska bilder och videor kan sprida politisk propaganda eller felaktig information. Deep­fakes används numera för att påverka människor i politiska val.

• Deepfake-pornografi och sextortion: Med så kallade face swap-verktyg är det möjligt att skapa känsligt material där en persons ansikte kopplas till vuxen­innehåll. Deep­fakes används också i hämnd­porr och sextortion-bedrägerier.

Undvik deepfake-bedrägerier

Deepfake-bedrägerier är långt ifrån den enda formen av bedrägerier på nätet och därför är det viktigt att vara uppmärksam när du surfar online. Lär dig känne­tecknen för deepfakes så att du kan upptäcka förfalskade videor eller vilse­ledande ljud­inspelningar på sociala medier.

Deepfake-videor: Verkliga exempel på bedrägerier

Deepfakes är inte längre bara ett teoretiskt hot, utan de kan också orsaka verklig skada. Ett exempel är deepfake-bluffen från 2023:

I denna bluff använde bedragare i Hongkong deepfake-videor i ett Zoom-samtal. De fick sitt utvalda offer att tro att han talade med företagets ekonomi­chef och andra anställda. För­falskningarna var så pass realistiska att företagets med­arbetare över­förde 25 miljoner dollar till bedragarna.

Offret började misstänka att något var fel när han fick miss­tänkta meddelanden från bedragarna. Men de bekanta ansiktena som han såg i Zoom-samtalet var så över­tygande att hans miss­tankar försvann.

Det är inte bara företag och offentliga institutioner som blir offer för deep­fakes — alla som har en internet­uppkoppling kan bli offer för ett deep­fake-bedrägeri. Ett extremt exempel är en fransk kvinna som förlorade 11 miljoner kronor på en deepfake-bluff. I det här fallet trodde offret att hon hade en relation med den berömda skåde­spelaren Brad Pitt.

Bedragarna lyckades övertyga offret att skicka pengar med hjälp av AI-genererade bilder av Pitt i en sjukhus­säng. Offret insåg till slut att något var fel när hon såg en video av skåde­spelaren tillsammans med hans nya partner.

Dessa bedrägerier har gjort många oroliga för deepfakes och deras skadliga effekter under de senaste åren. Deep­fakes, ansikts­byten och andra deep­fake-tekniker är dock inget nytt fenomen. Till exempel rapporterade BBC redan år 2017 om en deep­fake-video som forskare hade skapat som före­ställde Barack Obama.

Idag kan nästan vem som helst använda deep­fake-verktyg för att skapa över­tygande ljud, bilder och videor utan någon större teknisk kunskap.

Så här upptäcker du deepfakes

Deepfakes blir allt svårare att upptäcka i takt med att tekniken utvecklas. Dess­utom bidrar den enorma mängden inne­håll som vi dagligen utsätts för på sociala medier till att det kan vara svårt att upptäcka även en dålig AI-bild i informations­flödet. Lyckligtvis finns det några varnings­signaler som hjälper dig att upptäcka deepfakes:

• Onaturliga ögonrörelser och brist på blinkningar: Deep­fakes miss­lyckas ofta med att imitera människans naturliga ögon­rörelser.

• Rösten och läpparnas rörelser hör inte ihop: Mun­rörelserna i en deepfake-video matchar sällan ljudet perfekt.

• Suddiga eller flimrande kanter: Deepfakes baseras ofta på att man byter ut en persons ansikte, vilket kan göra att karaktärens konturer ser konstiga eller suddiga ut.

• Onaturlig belysning och skuggor: Deepfakes kan miss­lyckas med att efter­likna en naturlig belysning eller en persons verkliga hudton.

• Konstigt ljud: Röstbaserade deepfakes låter inte vanligtvis särskilt över­tygande. En robot­liknande, förvrängd eller ostämd röst kan avslöja bluffen.

Om du är osäker kan du använda verktyg för omvänd bild­sökning för att skilja deep­fakes från äkta innehåll.

Om du ser en offentlig person säga eller göra något upprörande, kontrollera alltid inne­hållet från en pålitlig källa innan du drar slut­satser. Stanna alltid upp innan du reagerar på en miss­tänkt video eller meddelande, särskilt om du uppmanas att skicka pengar eller lämna ut personlig information.