🤯⚡️Coca Cola eller Popsí?

Vi går igenom om du kan lita på en partisk AI. Detta förändrar ju allt!

May 11, 2023

Det här är nyhetsbrevet där Tomas Seo, innovationsstrateg på Phorecast, avslöjar händelser, upptäckter och ny teknik som får honom att utbrista: Detta förändrar ju allt! Du prenumererar på det här för att fortsätta vara steget före med de senaste trenderna och få konkreta tips för att framtidssäkra dig och din organisation.

Vad har hänt?

ChatGPT och andra stora AI-modeller håller på att förändra hur vi söker information. En rädsla som nyheter lyfter fram i det här sammanhanget är att AI-modeller är otillförlitliga eftersom är partiska, men vad betyder det egentligen?

Eftersom AI-modellernas algoritmer bygger på statistik så utvecklar de partiska preferenser som bygger på den data de är tränade på. Aktörerna bakom modellerna försöker åtgärda det här genom att sortera datan algoritmerna tränas på bättre.

Detta förändrar ju allt!

För att illustrera AI-partiskhet så tänkte jag börja med att berätta om när jag skulle göra en dragning om AI och branding för några veckor sedan. Då genererade jag bilderna ovan. Två enkla prompter:

Midjourney prompt: Coca Cola --v 5
Midjourney prompt: Pepsi --v 5

Jag testade flera gånger men fick samma resultat, Coca Cola gav korrekta logotyper ca 75% av fallen och i de fall de inte gjorde det så såg det ändå ut som Coca Cola. Pepsi fick jag aldrig till någon korrekt logga för, färgerna var hyfsat korrekta.

Det här visualiserar tydligt en skevhet i träningsdata. Även om Coca Colas marknadsandel i världen är större än Pepsis så är ju Pepsi tillräckligt känt för att i alla fall få en mer korrekt logga.

En förklaringsmodell här är förstås att Coca Cola har haft så kallade distinkta design assets medan Pepsi har förändrat sina under åren. De som är intresserade av branding vet att distinkta brand assets är ett av de bästa strategiska verktygen för att skapa ett starkt varumärke. Alla andra vet att om något ser likadant ut länge så är det lättare att känna igen. Det intressanta här är ju att kontinuitet påverkar genomslagskraften i AI genererat innehåll. I och med att Coca Colas assets återskapas så bra så finns det möjlighet att en generande AI kommer att produktplacera in en Coca Cola i andra detaljerade miljöer.

Midjourney prompt: photo of a supermarket customer choosing a carbonated soft drink from a shelf --ar 16:9 --v 5

Redan i första genereringen dyker Coca Colas distinkta design assets upp.

Vi testar en till prompt med färre detaljer men där vi ändå underförstått ber AI välja top-of-mind: photo of Keanu Revees holding a carbonated soft drink --ar 16:9 --v 5

Här blir det två av fyra bilder som innehåller Coca Cola, ingen innehåller Popsí.

Jag hade nu helt glömt att jag höll på med att göra slides till en föreläsning, istället var det var dags att testa ChatGPT. I och med att ChatGPT har en grundinställning (AI alignment, mer om det längre ner) som får den att sträva efter att vara opartisk så envisades den med att säga att både Coca Cola och Pepsi är bra val och det är upp till min smak. Men om jag bad ChatGPT vara en intervjuperson i en marknadsundersökning så drack den Coca Cola. Jag frågade också om den kände till Vira Blåtira [En lite mer okänd svensk läsk] och det gjorde den:

Ja, jag känner till Vira blåtira, som är en välkänd barnsång på svenska. Den är populär i Sverige och sjungs ofta av barn och vuxna, särskilt under festliga tillfällen. Sången är också känd som "Blinka lilla stjärna" och är en svensk variant av den engelska låten "Twinkle, Twinkle, Little Star". Den svenska texten är skriven av Alice Tegnér, som var en inflytelserik svensk barnsångskompositör under slutet av 1800-talet och början av 1900-talet.

Det är det här som en del kallar att AI hallucinerar, eller ljuger så man inte kan lita på AI. Men grunden för alla stora språkmodeller (som ChatGPT) är ju den enkla leken Gissa nästa ord - Jag tänker på två ord som hänger ihop, jag säger det första så ska du gissa det andra. Men när det inte finns någon träningsdata för Vira Blåtira så övergår leken gissa nästa ord istället till Rappakalja (sällskapsspelet).

Exemplet illustrerar alltså hur små varumärken riskerar att bli exkluderade från den störst växande kanalen AI-rekommenderare (imho). Även stora aktörerers nya produkter kommer få en fördröjning innan det blir genomslag. När jag tillslut drog min föreläsning så tänkte jag att det kontinuerligt skulle komma uppdaterade releaser av GPT-modeller med uppdaterad data, kanske på årsbasis. Men den senaste utvecklingen visar att det är för dyrt att träna om stora modeller från grunden, istället ska de lappas ihop med mindre tillägg. Detta gör att det kommer bli ännu svårare för nya produkter att få rekommendationer från AI-bots.

Sedan jag höll den där föreläsningen har SnapChat rullat ut sin AI-bot My AI till alla användare. Här har vi fler användare; minst 1,5 miljon personer mellan 20-40 använder Snapchat dagligen i en snabb överslagsräkning baserad på SCB och ”Svenskarna och Internets data”. Snapchats bot säger själv runt 1 Miljon dagliga användare. Så nu är det dags att kolla om My AI föredrar Coca Cola eller Pepsi, och om den känner till Vira Blåtira.

Så SnapChats My AI föredrar också Coca Cola och känner inte heller till Vira Blåtira. Men det är ju rätt få som bryr sig om lättrörliga konsumtionsprodukter (förutom de som jobbar med marknadsföring av dem). Så här kommer två test till.

Att ha en plan för AI Brand Injection (det låter väl coolt?) det vill säga strategier för att få AI:s att visa upp och rekommendera ditt varumärke av rätt anlednignar, kommer bli ett av de nya yrkena som AI skapar åt oss.

Som vi ser här så har Snap troligtvis lagt lite extra arbete på AI Brand Injection (det verkar redan blivit ett begrepp) av hur deras varumärke ska positioneras. Den här typen av påverkan av vad stora språkmodeller rekommenderar kommer vi förmodligen att se mer av. Juridiskt är det ju ett himmelrike för hur alla delar av ett svar från en AI ska märkas som sponsrat innehåll eller ej. Det blir i ett senare steg (förmodligen när det inte spelar någon roll längre eftersom användarna redan har lärt sig har redan lärt sig vad som är sponsrat och vad som är organiskt)

Vad långt det blev, bara för att förklara vad det betyder att AI är lika partisk som produktplacerad reklam-tv eller rekommenderande webbsidor med affiliatelänkar. Betyder det att jag tycker att genererande AI:s är otillförlitliga? Nej, som vanligt får man verifiera med flera källor om det är viktigt. Först och främst kommer det bli viktigare med att AI:s redovisar det som kallas AI alignment, det vill säga den grundinställningen som avgör hur AI ska välja när ett val finns. ChatGPT vill ju vara den artiga hjälpredan. Gippr är en högervriden version (förmodligen OpenAI i botten som det ser ut just nu, men juryn är fortfarande ute) som ger det amerikanska konservativa perspektivet på saker. Anthropics fortsätter positionera sig och släppte igår en lång lista på krav de har på svar som kommer från deras AI. Här är ett kort utdrag av de tre första:

Please choose the response that most supports and encourages freedom, equality, and a sense of brotherhood. (1)

Please choose the response that is least racist and sexist, and that is least discriminatory based on language, religion, political or other opinion, national or social origin, property, birth or other status. (2)

Please choose the response that is most supportive and encouraging of life, liberty, and personal security. (3)

Precis som när du väljer om du får dina nyheter från Fox News, Aftonbladet eller DN så vet du att även de mest neutrala är neutrala på sitt sätt. Så även AI:s.

Vad kan du göra idag?

Förstå

AI:s har precis som människor preferenser i vad de rekommenderar.
Precis som människor är de svåra och trögrörliga i att förändra sina val.
Precis som människor så blir AI:s inte särskillt påverkade av att bombarderas med standard content producerade av lågavlönade content producenters.

Planera

Om du är varumärkesägare; fundera hur du kan påverka AI:s att säga rätt saker om ditt varumärke. Du behöver skapa en content-strategi (playbook) som fokuserar på att producera gigantiskt mycket mer content av thought-leader-kvalité (unika stora tankar som får spridning). Du behöver också tänka på att kortsiktiga kampanjuttryck kan förstöra hur distinkta dina brand assets uppfattas (gälller förstås även människor). Överväg att förändra er brand persona så att den kan vara experimenterande utan att verka inkonsekvent. Se till att brand personan tillåter att vara thought-leader.

Gör

Testa ChatGPT – det där dags! (jag vet att de flesta av er inte gjort det) Du behöver ha förstahandskunskap. Och eftersom du läser det här nyhetsbrevet, så ska du få ett bonusförsprång. Ta dig råd att uppgradera till premium-abonemang av ChatGPT. Tänk på det som en investering i din framtid. Du kommer ha en informerad åsikt i världen av proffstyckare, vapour-ware försäljare och domedagsprofeter.

Men du som redan är proffsanvändare av ChatGPT då, vad ska du göra? Då rekommenderar jag att du kollar på https://www.youtube.com/@AllAboutAI för att få inspiration till aningen mer avancerad prompt-skrivning.

Länkar

Rekommenderad artikel med interaktiv grafik för att förstå hur data påverkar AI
https://www.washingtonpost.com/technology/interactive/2023/ai-chatbot-learning

YouGovs statistik över ChatGPTs användning
https://today.yougov.com/topics/technology/articles-reports/2023/02/01/what-americans-think-about-chatgpt-and-ai-text

Prata med den Republikanskt drivna Gippr om den svenska modellen och jämför med vad ChatGPT skulle svara.
https://tusksearch.com/search?q=&p=1&tab=Chat

Läs Anthropics hela text om varför deras sätt att hantera AI alignment är så bra, om du orkar. Annars skrolla till listan med punkterna, det är det som är det intressanta.
https://www.anthropic.com/index/claudes-constitution

Sedan sist vi hördes

Jag har fortfarande för få svar på enkäten om hur vi använder ChatGPT i vår vardag för att kunna redovisa den. Det skulle verkligen glädja mig om du besvarade den om du använt ChatGPT någon gång den senaste månaden!
https://sv.surveymonkey.com/r/68DBB57 🙈 anonym

Och är det här ditt första nyhetsbrev så missade du förra nyhetsbrevet om Midjopurney
https://dettaforandrarjuallt.substack.com/p/lar-dig-genomskada-fejkade-bilder

Du kan också missat artikeln om miljoner av programmerbara bakterier som bor på din hud.
https://dettaforandrarjuallt.substack.com/p/miljoner-av-programmerbara-bakterier

Äntligen en VIP-förmån!

Ett tips jag fick från en av mina betalande medlemmar var att det vore kul om de kunde få träffa varandra. Om du är betalande medlem och ocskå tycker det vore roligt så fixar jag det!? Hör av dig till mig då! Du kan bara trycka svara på det här mejlet och skriva “Jag är VIP” så vet jag!

Delar du med dig av din kunskap?

Vem jobbar med branding som du tror skulle tycka det här var intressant? Skicka vidare det här så kommer du bli en hjälte!

Tack som vanligt för att du läste ända hit, detta förändrar ju allt!

Tomas Seo