🤯⚡️Lär dig avslöja en deepfejkad video

Adobe tänjer på sanningen. Detta förändrar ju allt!

Det här är nyhetsbrevet där Tomas Seo, innovationsstrateg på Phorecast, avslöjar händelser, upptäckter och ny teknik som får honom att utbrista: Detta förändrar ju allt! Du prenumererar på det här för att fortsätta vara steget före med de senaste trenderna och få konkreta tips för att framtidssäkra dig och din organisation. Har du fått det här av en vän? Då vill du kanske starta en egen prenumeration?

---

Bilden är inte AI-genererad. Men den är förstås inte sann heller.

Vad har hänt?

- Adobe lanserar generativ AI-video inbyggd i redigeringsappen.  

I måndags var det Adobe Max, Adobes konferens där de presenterar nyheter. Även i år handlade det mycket om AI och Adobe Premiere Pro som kommer att börja skeppas med inbyggd AI-video. Detta presenterades redan förra året som en teaser, men nu finns funktionen att testa på riktigt (om du laddar ner beta-versionen). 

Den första AI-generering som släpps är scenförlängning (Generative Extend), så det enkelt går att förlänga redan befintliga videoklipp med två extra sekunder. 

Adobe kommer också släppa sin AI-generering av helt nya klipp för allmänheten kommande månad. Förutom den vanliga typen av AI-videogenereringar så visar de att modellen kan användas för att förändra vad som ursprungligen hände i videon.

Till vänster är det ursprungliga klippet, till höger med prompten: A gloved astronaut hand enters the shot and unplugs one of the yellow cables. Cinematic.

På sikt kommer även denna typ av verktyg finnas integrerat i Adobe Premiere Pro och alla andra videoredigeringsappar.

Detta förändrar ju allt

När AI-video blir inbyggt i videoredigeringsverktygen sänks tröskeln för att använda AI-genererat foto drastiskt och det är lätt att se att det här kommer bli en hit. 

Alla som klippt video vet att ibland saknas bara några extra filmrutor för att klippet ska kännas bättre och nu kommer det bli enkelt att AI-generera två till extra sekunder bara genom att dra lite i klippet. För fiktion är det här ju jättebra, men gränsen för vad som är dokumentärt foto kommer att naggas i kanten. För även om det bara är några obetydliga sekunder av fotot precis i skarven till nästa klipp som inte är äkta foto så är det här ju bara första AI-genererade video-funktionen i ett av världens mest använda appar för video-skapande.

Senaste månaden har jag fått ett ökat antal förfrågningar om jag kan göra deepfejkvideos, de flesta från journalister och underhållningsmedia. Vinkeln är alltid någonstans mellan att vara fascinerad över det och att föra fram hur rädda vi ska vara över att bli lurade. Fortsätt gärna att komma med förfrågningar men jag känner att det jag egentligen skulle vilja att media lyfte fram är hur vi kan få herd-immunity mot att bli lurade av deepfejks. Sedan kom jag på, att vänta jag kan ju skriva om det själv! Det är bara upp till dig som läser det här om du vill sprida det vidare så att alla kan bli vaccinerade innan de ens kommer stöta på en deepfejk som inte är gjord i underhållningssyfte.

Veckans nyhetsbrev handlar därför om att avslöja en deepfejk-video. Det finns två sorter som oftast blandas ihop i medier, jag tänkte separera dem. De deepfejks som är förinspelade, det har funnits tid att efterbearbeta och trixa så de ser bra ut och realtids-fejks där du själv interagerar med deepfejken.

Avslöja deepfejks – Förinspelad video

Vi kommer lätt att kunna undvika de flesta skurkar/underhållare som vill lura oss eftersom de kommer använda de mest tillgängliga verktygen. Så här upptäcker du dem.

1. Titta på munnen.

Om någon pratar men inte rör på läpparna så ser vi antingen en buktalare eller något fejk. Det är enkelt att förstå. Om rösten är i osynk med läpparna så är det också ganska lätt att förstå att något inte stämmer. Men de som försöker luras kan vara bra på att få till läppsynkade videos. Det gick att göra redan innan AI. Kommer ni ihåg bad lip reading?

2. Titta inte på munnen.

Att endast titta på läpparna räcker inte längre, eftersom AI kan skapa deepfejks där ljud och bild är läppsynkade. Men AI-deepfejks rör inte på adamsäpplet på ett naturligt sätt. Det kommer att dröja innan det läggs tillräcklig med forskningstid på att få AI-video att synka halsrörelser med det som sägs. Så om du studerar folks halsar när de pratar kan du lära dig hur det ser ut när halsrörelse är i synk med ljudet och därmed kunna avslöja deepfejks en lång tid framöver. (Dina vänner kommer tro att du har blivit vampyr som letar efter ett bra ställe att bita på, men det kommer vara värt det)

Du kan också kolla om personen på film säger något medan deras bröstkorg blir större, för det betyder att de pratar medan de andas in, vilket inte heller är särskilt vanligt bland icke digitala personer. Så kan personen prata på en inandning så är det förmodligen en deepfejk.

Det sista du kan titta efter, som idag är enklare att se men som kommer vara fixat inom något år, är handgester. Idag klarar inte AI-modeller att synka det som sägs med rätt handgester. Men det är så pass framträdande att vi kan vara säkra på att nästa versions AI-video löser det. Just nu blinkar också AI-genererade personer antingen ovanligt mycket eller ovanligt lite. Det är alltså det lättaste att se, men det rådet gör dig bara immun en kort tid.

Överkurs: Titta i munnen

Många sämre AI-lipsync-verktyg har också problem med att göra det svarta inne i munnen i samma färgskala som resten av bilden så en för svart insida i munnen är ett kännetecken på deepfejk. Du har säkert hört att AI har problem att generera händer, men det börjar vara löst, men att generera tänder klarar inte AI än. Så om personens tänder ser märkliga ut så kan det vara ytterligare ett tecken på att något är fel.

Om du gått igenom dessa tips så kommer du inte bli lurad av en förinspelad AI-genererad deepfejk på flera år. Och har vi inte uppnått flockimmunitet innan dess så skriver jag ut ett nytt recept på vaccin då.

Avslöja deepfejks – Live-video

Just nu är det mycket ovanligt att någon faktiskt råkar ut för bedragare som klonat en vän eller närståendes utseende med AI för att göra live-deepfejks. Men det är ju det här som media vill skrämma oss att tro att det mycket snart ska bli väldigt vanligt. 

Möjligheten att tekniskt sett göra live-deepfejks finns och det är ganska lätt att få tag i data för att göra en trovärdig deepfejk om man vill. Men då kan man inte längre använda sig av de bästa AI-tjänsterna för de kräver alla att man spelar in sig själv när man läser in ett kontrakt. Det betyder att bedrägeriförsök kommer ha lägre teknisk kvalitet eftersom de bästa AI-modellerna inte går att använda för massbedrägeri på det här sättet.

Det finns två vägar att gå för att köra AI-baserade deepfejks i realtid. Helautomatiskt eller människoopererad. Den helautomtiska kontrolleras av en chattbott, medan en människoopererad är ungefär som ett snapchat-filter där skådespelarens (skurkens) ansikte byts ut i realtid. Oavsett vilken av dessa tekniker som används så kan du avslöja dessa enkelt.

1. Kan du snurra ett varv?

AI-modeller är främst tränade att visa upp ansiktet framifrån, så om du ber dubbelgångarbedragaren att sakta vända sig om så att du ser bakhuvudet så kommer de hitta på ursäkter för varför det inte går. Har du inte avslutat videosamtalet redan innan det så gör det nu.

2. Kan du hålla för höger öga med vänster hand?

Helautomatiska AI-avatarer kan knappt lyfta händerna, och har definitivt inte koll på hur man håller för ögonen. Ännu mindre vad som är höger och vänster i kors. Så de helautomatiska kommer inte klara det här testet. De som är människostyrda kommer inte heller klara det efter som handen kommer blockera kameran som styr var AI ska lägga på masken. 

3. Kan du ta av dig tröjan?

Har du inte avslutat samtalet än? Då måste du verkligen tro att bedragaren skulle kunna vara din vän, är det viktigt för er båda att verifiera att det inte är fejk så be då personen ta av sig tröjan. Det skulle krävas både rörelser som inte är intränade och förändring av andra element av bilden som inte är ansiktet.

Men tänk på att

De flesta tror att de kan avslöja bluffar men studier visar att vi har en övertro på vår förmåga att se igenom deepfejks. Jag tror själv att kvaliteten på deepfejks idag är för dålig för att lura någon som läser det här nyhetsbrevet, och jag vet också att resurserna som krävs för att få till trovärdiga AI-kopior är för stora för att skurkar ska välja den vägen för att luras. 

Så även om att lära sig se om något är en AI-deepfejk är en bra vaccinering, så glöm inte att grundskyddet ligger i att vara källkritisk. För om vi bara försöker se om något är AI-genererat så öppnar vi oss för att bli lurade av traditionella sätt att skapa fejkvideo som look-a-likes eller vanlig klippteknik. 

Så om något är för bra för att vara sant, så är det det. Om någon oväntat ber dig om pengar så lägg på och ring upp igen, eller förklara att du gärna vill ge pengar men du har dem inte just nu. (Du ska bara få dem från en ättling till en prins från Nigeria först.)

Det är extra viktigt om vi blickar framåt, för då kommer tillgänglig AI-teknik vara billigare än att gå ut och köpa teatersmink för att kopiera någons ansikte. Dessutom kommer gränsen mellan fiktion och verklighet vara mer utsuddad.

Med mer inbyggd AI i alla verktyg för bild, ljud och video kommer allt som inte är möten i köttvärlden inte vara sant eller osant utan mer och mer en grå massa. När videomötet hackar så kanske några frames som tidigare skulle fallit bort istället byts ut mot några som genereras. Bara så mötet flyter på. Det är väl okej? När det vi säger hörs dåligt i telefon för att det går på en skolklass på bussen, och AI fyller i några ljud som inte hördes så de blir lite tydligare. Det är väl okej? Varje hack och klipp kan fyllas i och förlängas. Vad som räknas som dokumenterad sanning kommer definitivt att förflyttas och detta förändrar ju allt!

Vad kan du göra idag?

Förstå

Det är troligt att vi kommer att acceptera vissa AI-genererade videoklipp som sanna. Som jag tidigare tagit upp så är ju egentligen alla bilder du tar med mobilkamera AI-genererade baserat på sensordata snarare än en korrekt avbildning av det ljus som strömmar in i en lins och träffar en ljuskänslig film. Så egentligen gör vi redan det eftersom i princip all dokumentär film idag är baserad på digitalt foto. Men vi uppfattar ändå digital video som en korrekt avbildning av ungefär vad som hände. Likadant blir det med förlängda videoklipp. De kommer innehålla för lite avvikande information från det vi tänker är sanningen för att räknas som att de försöker luras.

Dessutom har det alltid gått att luras och om vi fokuserar på teknik är det lätt att vi glömmer bort att de som vill luras inte gör det för att de gillar att experimentera med nya AI-modeller. De kommer fortsätta göra det som går enklast. Och det är fortfarande enklare att bara ringa och låtsas än att gå igenom besväret med att träna AI-modeller. 

Men precis som med allt annat så sänks trösklarna för hur snabbt det går att skapa fejk med nya AI-verktyg. Så det vi har kvar är det vi alltid haft, källkritik. Om vi tillämpar normalt sunt förnuft så är det inte lättare att bli lurad idag än det var förr. Snarare svårare.

Planera

Flera techbolag (till exempel Zoom) tänker erbjuda AI-avatarer av oss själva för att dessa ska kunna vara med på möten istället för oss inom en snar framtid. Det kan snart vara dags att tänka igenom när och hur din organisation ska dra nytta av dem. Vilka typer av möten som kan skötas av AI och vilka som kräver mänsklig närvaro? Och innan ni säger att alla möten ska vara mellan människor, tänk igenom det en gång till.

För det är skillnad på bottar och bottar. En AI-avatar som inte bara liknar mitt utseende utan även har specialistkunskap som jag har baserat på till exempel rapporter jag skrivit kanske är en bra kollega att ha med på ett möte även om jag själv skulle vara dubbelbokad?

Kunskapsföretag har en mängd samlad expertis och det finns många situationer där det räcker med att ha med en person som lyssnar och kan svara på de enklaste frågorna som en expert kan få. För alla specialistfrågor kräver inte full expertis.

Som när din bästa ingenjör behöver vara med för att ge rådet att starta om systemet. Det skulle kunna räcka att konsultens dokumenterade kunskap är med på mötet i form om av en AI-avatar. Om avataren under mötets gång bedömer att den riktiga person behöver konsulteras så får hen ett meddelande om att hen behöver hoppa in i mötet. 

På så sätt kan personen vara med på flera möten samtidigt, istället för bara ett. Frågan ni kommer behöva besvara är kommer er personal att få det?

Mitt råd är att planera hur ni kan utbilda och anpassa er verksamhet för att dra full nytta av den här tekniken utan att kompromissa med kvaliteten på viktiga beslut eller samarbeten.

Gör

Prata med en live-deepfejk av mig (välj Swedish först innan du sätter igång den om du vill prata svenska). Tror du att du skulle bli lurad av den här tekniken?

Tryck här för att börja prata med mig (eller är jag en bott?)

Den här live-klonen av mig gjorde jag förra månaden. Det svåraste med att träna den var att spela in när jag skulle vara tyst och verka lyssnande. Jag tänker att nästa generation också kommer att analysera vad du säger redan under tiden du pratar så fejk-tomas kan se mer ledsen ut om du berättar något sorgligt och lyssna glatt när du berättar något kul. Snart lanserar Meta en liknande funktion för content creators på Instagram och Facebook. Så det är bra om du börjar öva dig på möten med digitala kloner.

Länkar

Adobes egen bloggpost om AI-video
https://main--blog--adobecom.hlx.page/en/drafts/julia/generate-video-beta-on-firefly-web-app

The Verge skriver om nyheten
https://www.theverge.com/2024/10/14/24268695/adobe-ai-video-generation-firefly-model-premiere-pro

Jag skrev själv om Adobes AI-video redan efter förra Max, så det tar ett år från att de visar något tills dess att vi får leka med det.
https://dettaforandrarjuallt.substack.com/p/vill-du-bli-last-skicka-en-video-istallet

Studie från 2021 visar att många som tror på sin förmåga att avslöja en deepfejk inte kan det. (jag tror och hoppas att det här är övergående)
https://www.ncbi.nlm.nih.gov/pmc/articles/PMC8602050/

Zoom kommer att införa fotorealistiska avatarer som kan gå på möten nästa år.
https://techcrunch.com/2024/10/09/zooms-custom-ai-avatar-tool-may-come-with-risks/

Sedan sist vi hördes

Många gillar att göra om artiklar till podcast med Googles NotebookLM (som jag skrivit om tidigare), men ReCast.ai som gjorde det för redan för några år sedan skickade i veckan ut att de lägger ner. Det är svårt att vara startup i AI-branschen när de stora aktörerna kan lägga på en funktion som helt dödar ens affär. NotebookLMs podcastfunktion har dessutom fått konkurrens av en annan Googleprodukt. Google Illuminate adderade i veckan samma motor för podcast som NotebookLM. Jag gissar att funktionen kommer spridas vidare inom alla Googles produkter. En skillnad är att man kan kontrollera podcasten mer, men å andra sidan kan man inte skicka in vilka artiklar som helst (tjänsten är till för att förenkla att lära sig mer om avancerad AI-forskning).

Det var flera andra nyheter på Adobe Max, en som jag kanske återkommer till när det finns något att testa är Project Concept som jag tycker verkar vara ett intressant sätt att tänka på hur workflow för kreatörer kommer att förändras med AI.

Är du en insiktsdelare?

Känner du någon som är intresserad av deepfejks? Eller kanske någon som tycker det är spännande med tankar kring den flytande gränsen mellan fiktion och verklighet? Vem tänkte du på? Skicka vidare!

🎉 Kommande onsdag 23 oktober kl 12 är det föreläsning för betalande prenumeranter. Som vanligt blir det en inspirerande dragning om något rykande aktuellt, med möjlighet att fråga och dela med sig av egna erfarenheter.

Det var många som blev intresserade av att gå min kurs i AI-bildgenering! Kul med så stort intresse! Det var dock flera som hört av sig och sagt att de inte kunde just idag. Vilket är rimligt för det var ju bara en veckas framförhållning. Jag har därför lovat att hålla samma kurs igen den 14de november. Här är kursbeskrivningen om du är intresserad:

”Övertyga med AI - Bilder till presentationer” är en grundkurs i AI och bildskapande som ett alternativ till bildbyråbilder. Kursen fokuserar på Midjourney men kommer även att ta upp andra alternativ. Kostnad 750 kr ink moms på faktura (600 kr ex moms).
Tid: 14de nov kl 08:00-09:00
Plats: Remote videomöte

Anmäl dig här:
https://forms.gle/5pTJd7EKBXovncCt5

Fortsätt utforska så ses vi nästa vecka!
Tomas Seo

Har du fått dagens nyhetsbrev utan att vara prenumerant?
Gillade du det här och vill ha mer så är det bara att skriva upp sig här
(du väljer själv om du vill betala):