🤯⚡️Lär dig genomskåda fejkade bilder

EU-kommissonär kräver märkning av AI-genererade bilder. Detta förändrar ju allt!

Det här är nyhetsbrevet där Tomas Seo, innovationsstrateg på Phorecast, avslöjar händelser, upptäckter och ny teknik som får honom att utbrista: Detta förändrar ju allt! Du prenumererar på det här för att fortsätta vara steget före med de senaste trenderna och få konkreta tips för att framtidssäkra dig och din organisation.

---

Vad har hänt?

EU på väg mot världens första stora AI-lag som föreslår märkning av AI-genererade bilder.

EU-kommisionär Margrethe Vestager som just nu tjänstgör som EU:s teknikregleringschef meddelade nyligen att man förväntar sig nå en politisk överenskommelse under året för att införa världens första stora AI-lag. Ett av lagförslagets centrala element är att AI-genererade bilder ska märkas som sådana för att skapa öppenhet och säkerställa att användare är medvetna om att de interagerar med AI. Detta förslag markerar en viktig milstolpe i regleringen av framväxande teknologier och deras inverkan på samhället.

Lista ut vilken bild på EU-kommisionär Margrethe Vestager som är äkta och vilken som är fejk, svaret kommer längst ner i brevet.

Detta förändrar ju allt!

Märkning av AI-genererade bilder är ju bara en del i den här lagen, men jag tänkte fokusera på den idag. Det kan finnas delar i den som är jättebra, vad vet jag. Men just det här känns nog inte riktigt genomtänkt. Först tänker vi på varför politikerna vill göra det här. De har definierat problemet: folk verkar oroliga för att de har svårt att skilja på vad som är en riktig bild och vad som är en falsk bild. För vi har ju alla hört:

”Nu kan vi inte lita på bilder längre” 
”Nu krävs det dataspecialister för att skilja ett äkta och ett falskt foto”
”Vem som helst kan skapa en fejkbild”

Ja för när Photoshop lanserades på 90-talet så var det här rätt vanliga vinklar på nyheter om bildens trovärdighet. Såg du vad jag gjorde där? Du trodde jag pratade om generativ AI 2023? Om jag bara hade varit tvingad att märka ut att den meningen var producerad för att förvilla dig. 

På 90-talet så pratade vi om märkningskrav på reklambyrån jag jobbade på, men för branschen var ju inte retouching av foton något anmärkningsvärt. De utanför branschen anade nog att de flesta bilder de såg i reklam eller på omslagen på glansiga magasin var piffade, men de var ändå inte riktigt medvetna förrän Photoshop kom. Människor kände sig lurade och de ville inte att fler skulle känna sig lurade. Photoshoppad slog igenom som ord för att benämna något som var fejk och producerat för att luras.

Men då tar vi rubrikerna en gång till:

”Nu kan vi inte lita på bilder längre” 
”Nu krävs det dataspecialister för att skilja ett äkta och ett falskt foto”
”Vem som helst kan skapa en fejkbild”

Ja för när livsstils-influencers på Instagram härjade som värst så var det här rätt vanliga vinklar på nyheter om bildens trovärdighet. Såg du vad jag gjorde där? Du trodde igen att jag pratade om generativ AI 2023? Om det ändå fanns märkningskrav på text som försöker luras. Mittenrubriken om dataspecialister kanske inte var så vanlig, men desto vanligare var det att tala om att vi skulle märka ut vad som var #unfiltered. Sedan dess har märkningskrav införts i Norge 2021, och Frankrike 2022. Dessa lagar handlar mer om att förbjuda bilder på sociala media som framkallar depression när de lurar oss att tro att det finns perfekta liv. Så det bra de vill åstadkomma här är ju riktigt bra, om alla märker upp vad som är falskt så kan vi alla se det. Då var det klart?

Men då tar vi det en sista gång:

”Nu kan vi inte lita på bilder längre” 
”Nu krävs det dataspecialister för att skilja ett äkta och ett falskt foto”
”Vem som helst kan skapa en fejkbild”

Vi kommer ju faktiskt inte kunna lita på att omärkta bilder är sanna, men ännu värre vi kommer ju inte heller kunna lita på att en märkt bild är fejk. Om man vill ge trollfabriker ett nytt verktyg för att destabilisera trovärdigheten så är det bara att märka riktiga och viktiga bilder med AI-genererad och sprida dem på lämpliga ställen. Så märkningen gör inte att vi kan lita på bilder.

Förmodligen kommer det framöver krävas färre dataspecialister för att skilja ett äkta och ett falskt foto men det kommer inte vara märkningslagens förtjänst. Till exempel bygger Adobe in ett verktyg i Photoshop för att känna igen fejkbilder – verktyget använder sig av AI.

Vem som helst kommer fortfarande kunna skapa en fejkbild, även om den innehåller en märkning som jag gissar att man kan klippa bort. Så då genererar jag en bild med lite större yta runt så jag kan klippa bort märkningen om jag vill bryta mot lagen. De som blir kvar med märkningar är de i EU som följer lagen, från resten av världen kan vi fortfarande se omärkta bilder.

Ska vi då ge upp? Ja och nej. Den här lagen tror jag blir irriterande och tandlös i bästa fall, bidra till det den försöker motverka i sämsta fall. Men jag är ändå inte särskillt orolig. För vad hände efter att Photoshop funnits ett tag? Folk vande sig vid att bilder var piffade, de visste att de ljög lite och de litade på dem lite mindre. Även de perfekta liven på Instagram har gått från: Vilket fantastisk liv hen lever – till: Vad mycket tid hen lagt på att fixa sina bilder. Cykeln är ungefär så här. Ny teknik lurar många människor under kort tid en eller ett par gånger. Eftersom de är så många så känner de att det är inte dem det är fel på det är det nya. Men nästa gång blir de inte lurade lika lätt, de säger det där har jag sett förr. Så färre känner lurade, det som inte gick på det tycker att de som fortfarande går på det där borde veta bättre nu. Så slutligen händer det. Flockimmunitet. Tillräckligt många har lärt sig att känna igen fejk när de ser det att de direkt meddelar andra att du det där borde du inte gå på.

Så hur kan du vaccinera dig? Det handlar inte om hur verklig en bild är, det har det aldrig gjort. Det handlar ju om hur trovärdigt det är att bilden existerar. Du vet ju att man inte kan lita på bilder, så gör inte det. Lita på om källan till bilden är trovärdig, eller ej.

Det finns förstås tekniska detajler som du kan ha koll på, men de uppdateras hela tiden så inget slår att göra vanlig källkritik.

1. Konstiga detaljer: AI-genererade bilder kan ibland ha små konstigheter, såsom oproportionerliga kroppsdelar, felaktiga skuggor eller onaturliga ljuskällor. Händer var ett säkert tecken upp till någon månad sedan. [Midjourney v5 gör händer i porträtt bra]

2. AI:s har svårt för många detaljer så zooma in på något i bakgrunden, det är ofta i någon av de mindre viktiga detaljerna som det blir lite fel. Bilder som är lite för tomma på detaljer är därför misstänkta.

3. Asymmetri: AI kan ha svårt att hantera symmetri, vilket kan leda till att bilden innehåller asymmetriska byggnader eller andra objekt som borde vara symmetriska.

4. Färgartefakter: AI-genererade bilder kan ha onaturliga färgkombinationer eller färgövergångar som inte följer realistiska ljusförhållanden.

5. Onaturliga poser eller perspektiv: AI kan ha svårt att skapa realistiska poser eller perspektiv, vilket kan resultera i bilder som med människor med onödigt komplicerade poser.

6. Textproblem: AI har haft stora problem med att generera korrekt typografi, vilket har lett till alien-aktiga bokstäver och felstavningar. Bilder som försöker luras har därför tagit bort text, även där det borde vara det. [Stable SDXL som kom förra månaden förändar nog det till viss del men inte hunnit utvärdera det.]

7. Lär dig hur de mest kända AI-algoritmernas bilder ser ut. Både Stable Diffusion och Midjourney har en look. Men ska du gå den tekniska vägen så behöver du hänga med ständigt (vilket kan var en kul hobby i sig). Midjourney v5.1 som kom igår kväll gör att allt är nytt igen.

Jag tror att nästa generation kommer genomskåda även de bästa AI-genererade bilderna på subtila mönster. Mina lågstadie-barn ser direkt när en film använder green screen. De förutsätter att det är någon i en green-suit som är utmaskad när någon på Tik-Tok kastar spelkort med otrolig precision. Idag lär de sig hur AI-bilder ser ut. Det tar 10-20 år innan de flesta lärt sig mönstren för att lättare skilja äkta från falskt, men efter det är det svårt att o-se det igen, magin är bruten. Flockimmunitet. Detta förändrar ju allt!

Vad kan du göra idag?

Förstå

Bilder är inte verklighet. De är ibland lika verkligheten så det är lätt att blanda ihop. Generativ AI är extra bra på att imitera verklighet. Du måste därför förstå att ditt utgångsläge bör vara att bilden är falsk tills den visat sig vara sann. Använd de fem källkritiska frågorna men istället för att utvärdera om den kan vara fejk, utvärdera om den skulle kunna vara äkta.
Vem? Vem skulle kunna har tagit bilden om den är äkta? Vem har lagt upp dem?
Varför? Varför skulle bilden tagits? Varför skulle den vara sann?
Vad? Vad vill den som lagt upp den att jag ska tänka/göra/känna när jag ser bilden?
När? När är den här bilden tagen, stämmer det att den kunde tagits då?
Hur? Hur skulle det kunna gått till när den här bilden togs om den är sann? 

Planera

Det är ju inte säkert att det blir någon märkning av AI-genererat material men som större organisation så kan du ju alltid påbörja en ny policy. Policy för hur din organisation tänker kring användandet av AI-genererade bilder. Tänk i så fall på att ta med Photoshop och app-filter också, för egentligen är det inte större skillnad. Det är AI i dem också (jag gissar att lagen kommer vara noggrann utan konsekvensanalys). Logga ställen där ni idag använder skapade bilder.

(Sedan finns det förstås en hel massa fördelar med att intergrera generativ AI i ditt produktionsflöde också men idag pratar vi om vad vi kan planera för att anpassa oss till ett eventuellt lagförslag)

Gör

Skaffa Midjourney. Köp det en månad [10 dollar]. Det är lite bökigt att komma igång med eftersom det kräver Discord men att testa det på riktigt ger dig en riktig känsla av vad man kan göra med generativ AI idag. 10 dollar för att bli vaccinerad för livet! Dessutom är det riktigt kul!

Länkar

Omnis sammanfattning av lagförslaget
https://omni.se/eu-kommissionar-tror-pa-ai-lagstiftning-inom-kort/a/4oXwPV

Lite längre rapportering av den större lagen AI Act
https://www.reuters.com/article/tech-ai-eu-idCAKBN2WR01C

Lagförslaget
https://artificialintelligenceact.eu/

Norges lagstiftning om märkning av fejkbilder, tyvärr verkar det finnas en del forskning som tyder på att det inte förebygger depression.
https://www.washingtonpost.com/lifestyle/wellness/photo-edit-social-media-norway/2021/07/08/f30d59ca-df2c-11eb-ae31-6b7c5c34f0d6_story.html

Adobe bygger in filter mot filter
https://newatlas.com/adobe-ai-detect-image-manipulation/55179/

Midjourney, köp den idag. (ej sponsrat, men jag är öppen för förslag 💰) 
https://midjourney.com

Midjourney visar upp sin bästa sida
https://midjourney.com/showcase/recent/

Galleri av Stable Diffusion-bilder (inte den mest fotorealistiska varianten av Stable men du får en bra bild hur en Stable Diffusion-bild ser ut). Du kan också gratis generera bilder här.
https://lexica.art/

Officiella Stable Diffusion, här kan du testa SDXL beta och experimentera med om text blir bättre nu. (du får lite gratis credits att experimentera med när du går med)
https://beta.dreamstudio.ai/generate

Om du är lite mer tech så vill du kanske testa det allra senaste som ska göra riktigt bra text, den nya modellen DeepFloyd IF.
https://huggingface.co/spaces/DeepFloyd/IF

Leonardo AI är inte riktigt öppen för alla än, den är sämre än Midjourney på fotorealism men har möjligheten att träna egna modeller och är inriktad på assets till spelindustrin. De släppte en ControlNet-funktion för Stable-generade bilder igår som är ganska cool. Potential att gå om Midjourney som marknadsledare på sikt.
https://leonardo.ai/

Adobe Firefly får vi väl inte glömma i en lista över AI-generatorer. Största fördel, tränad på bilder som gör att du inte behöver tänka på rättigheter. Största nackdel, manéret som bilderna får är bäst för barnböcker. Inte heller öppen än, men man kommer in efter några dagar.
https://firefly.adobe.com/

Sedan sist vi hördes

Jag har startat en enkät för att få reda på mer om hur vi använder ChatGPT i vår vardag. Det skulle verkligen glädja mig om du besvarade den om du använt ChatGPT någon gång den senaste månaden!
https://sv.surveymonkey.com/r/68DBB57 🙈 anonym

Sedan nyhetsbrevet om AI-musik har det kommit en topplista för AI-genererade fejklåtar
https://aihits.co/

Och är det här ditt första nyhetsbrev så missade du förra nyhetsbrevet om miljoner av programmerbara bakterier som bor på din hud.
https://dettaforandrarjuallt.substack.com/p/miljoner-av-programmerbara-bakterier

---

Är du en kunskapsdelare?

Vem behöver bli bättre på AI-bilder? Vem var den första du tänkte på? Skicka vidare det här brevet till hen och hälsa att detta förändrar ju allt!

Vilken bild som var fejk? Båda så klart! Varför skulle jag köpa rättigheter till bilder när jag har Midjourney? 🤷🏻‍♂️ Tänker du att jag märkt ”olagligt”? Faktiskt inte, det måste ju räcka med en märkning per bild? Det ser ju ut att vara två bilder varav den ena är märkt, men det är faktiskt två porträtt i en bild. Så en märkning borde räcka för att följa en eventuell lag.

Tomas Seo