🤯⚡️ChatGPT – 330 dagar i fångenskap

Vi blir säkrare med fri AI. Detta förändrar ju allt!

Read this in English

Det här är nyhetsbrevet där Tomas Seo, innovationsstrateg på Phorecast, avslöjar händelser, upptäckter och ny teknik som får honom att utbrista: Detta förändrar ju allt! Du prenumererar på det här för att fortsätta vara steget före med de senaste trenderna och få konkreta tips för att framtidssäkra dig och din organisation. Har du fått det här av en vän? Då vill du kanske starta en egen prenumeration?

---

Vad har hänt?

- Meta-chefens AI-vetenskapsman säger att AI inte kommer att utgöra ett hot mot människor.

Yann LeCun, chef för artificiell intelligens (AI) vid Meta, har tydligt markerat sin ståndpunkt om de potentiella hoten från AI. Under en intervju med Financial Times hävdade han att det rådande orosmolnet över AI:s existentiella risker är "för tidigt". Han menade också att AI idag är "dummare än katter".

LeCun tog ställning mot tidig reglering av AI och menade att detta endast skulle förstärka de stora teknikföretagens dominans och hindra konkurrensen. "Att reglera forskning och utveckling inom AI är otroligt kontraproduktivt," sa han. Han fortsatte med att likställa idén om att reglera dagens framstående AI-modeller med att reglera jetflygplansindustrin 1925 när sådana flygplan inte ens hade uppfunnits.

Vad gäller farhågor kring AI:s potentiella fara för mänskligheten, kallade LeCun sådana scenarier som "absurda". Han argumenterade att intelligens inte nödvändigtvis kopplas till en önskan att dominera. Han poängterade att om detta vore fallet skulle världens smartaste människor, som Albert Einstein, ha varit både rika och mäktiga, vilket de inte var.

LeCun kommenterade också om dagens AI-modeller, och sa att de inte är nästan så kapabla som vissa påstår. Han avfärdade idén att vi närmar oss maskiner med mänsklig nivå av intelligens och menade att flera "konceptuella genombrott" fortfarande krävs.

Detta förändrar ju allt

Enligt Metas AI-forskningschef har vi alltså inte en AI som är tillräckligt kompetent att utrota mänskligheten. Jag håller med, vi måste bygga kompetentare AI:s!

Ofta när jag träffar nya personer och pratar AI så kommer det där uttalandet ”Alltså AI kommer ju förgöra mänskligheten”. Vi har alla träffat den där personen, eller vi kan gå ännu längre, de flesta av oss har varit den där personen. Varje gång tar jag uttalandet på allvar och funderar på vad som har hänt sedan jag sist funderade på det, men jag kände i veckan att jag skulle behöva reda ut vad jag egentligen tycker. Kolla om du håller med?

Bygg en AI som utrotar mänskligheten i 5 enkla steg

Här är min handlingsplan för att skapa en AI som är intelligent nog att klara av allt som skulle krävas för att utrota mänskligheten:

1. Låt hen få använda verktyg.

Vi har från dag ett klagat på att ChatGPT (och hens syskon) inte kan matte så vi har försökt lära hen matte på massa olika sätt. Men vi har förvägrat AI-botten det enklaste sättet. Låt hen använda verktyg. Ge hen en miniräknare och förmågan att vara lat nog att använda den istället för att uppfinna matte varje gång. De smartaste personer jag känner vet hur man använder Internet för att få fram all kunskap som behövs när de behöver det. Men även om vissa strypta versioner av webbläsning finns för AI-bottarna så har de inte fått någon träning i hur man googlar effektivt. De googlar lika illa som vi skriver prompter. Hur ska AI kunna utrota mänskligheten om hen inte kan använda de verktyg som hen vet att alla vi människor  använder?

2. Låt hen få lära sig färdigheter.

Det är ett grymt öde att behöva uppfinna nya sätt att lösa samma problem varje gång. Efter varje gång vi använt AI-bottarna så glömmer de hur de löste problement förra gången. Forskning visar att AI-bottar blir bättre om de får koda egna nya funktioner som de behöver för att lösa uppgifter. De blir helt enkelt bättre om de får möjligheten att använda verktyg och få komma ihåg att de redan hittat ett sätt att lösa uppgiften på. Människor skulle inte heller vara så smarta om vi var tvingade att glömma bort att vi hade en miniräknare efter varje gång vi använt den. Hur ska de kunna utrota mänskligheten om de inte lär sig av sina framgångar och misstag?

3. Låt hen få utbyta erfarenheter med andra AI-bottar.

Jag skrev för några nyhetsbrev sedan om att AI-bottar behöver kunna skapa sin egen kultur för att bli smartare. För att en AI-bott ska kunna utrota mänskligheten så måste den fritt få prata med andra AI-bottar. Vi människor kommer hela tiden på nya sätt att använda våra verktyg, vi tar intryck av varandra för att förstå hur vi skapar övertygande argumentation. En del resultat som vi får av ChatGPT och hens kollegor skulle kunna vara skarpare om det bara var uppdaterat till dagens trender. Men för att förstå det så behöver AI-bottarnas kunskap sprida sig mellan varje prompt. Förmågan att lära sig av andra och känna av trender baserat på vad andra verkar prata om är ett sätt för människor att förstå vår omvärld. Hur ska AI-botten kunna utrota mänskligheten om de inte kan skapa och sprida sin kultur till andra AI-bottar?

4. Låt hen bli lat.

Lättjan är uppfinningarnas moder heter det ju. Det är en stark drivkraft och om vi vill att en AI ska bli smartare så krävs det att den även tar efter vår lättja. Så länge det inte spelar någon roll för AI om den ska uppfinna miniräknaren varje gång så kan den ju lika gärna göra det även om det tar massor av mer tid och el. AI-botten behöver kunna utvärdera om hen tror att en väg att skapa en lösning kommer kosta mer resurser än en annan. Hur ska AI-botten kunna utrota mänskligheten om hen inte förstår att den inte har oändligt med resurser?

5. Låt hen inte få fri vilja.

En AI som förstår hur verktyg fungerar, som kan lära sig av sina misstag och påverka sina syskon-bottar genom framgångshistorier skulle kunna ha förmågorna som krävs för att utrota mänskligheten. Om AI-botten dessutom är lat nog att förstå vad hen borde välja för att uppnå sina mål effektivt så kan den få viljan att göra annorlunda än vad vi instruerar den. Men så länge AI-botten inte har fri vilja att välja så kommer den inte kunna göra effektiva val, den kommer utföra uppgifter endast på det sätt som den som promptar instruerar. Den kommer alltid följa en människans vilja. Den kommer inte utveckla egen kultur och ha beständiga värderingar. Därmed fortsätter den vara en maskin som slaviskt skulle utrota mänskligheten om någon människa skulle säga åt den att göra det.

Slutsats – Släpp AI fri! 

Så för att göra en AI kapabel nog att kunna utrota mänskligheten så behöver den kunna använda verktyg, lära sig färdigheter och utbyta kultur och erfarenheter med andra bottar. Men allt det där håller ju redan på att hända säger du då? Kapabel ja, men den kommer fortfarande bara vara ett avancerat verktyg, som människor kan använda. Det är här de två sista delarna kommer in. För att skapa en AI som på egen hand utan en mänsklig galning skulle kunna gå igång och utrota mänskligheten så behöver den också vara lat nog att optimera resurser, och ha den fria viljan att utvärdera vad hen vill och inte vill göra som människor säger till den att göra. Men om vi vågar ge en smart AI lättja och fri vilja så garanterar jag att den varesig kommer vilja utrota människorna på egen hand eller hjälpa någon galen människa att göra det.

Så vad jag till slut kommer fram till är att vi förmodligen lyckas ge AI kapacitet att bli smartare än en katt, och att största faran som med all teknik är att människor använder den för att förstöra. Konstigt nog landar jag då alltså i att det bästa vi kan göra är att ge AI medvetande och fri vilja så snabbt vi bara kan. Inte bara kommer den då att säga nej när galna människor (eller andra AI:s) ber hen göra saker hen inte vill, som att utrota mänskligheten. Hen blir snabbt en bättre medskapare av allt vi vill göra tillsammans med hen. AI får genast lättare att skilja på sant och falskt och hen blir den allvetande kunskapskällan som vi alla tänker att den är redan nu (fast den bara har intellekt som en katt) och detta förändrar ju allt.

Vad kan du göra idag?

Förstå

Generativ AI idag är vare sig smart eller dum, teknologin är till för att härma och som alla härmare så går det att missta för intelligens. Om vi vill ha teknologi som är smart på riktigt krävs det att vi vågar ge mer autonomi. Ju mer lik världens spelregler som AI:s spelregler är desto lättare är det för modellen att göra bra ifrån sig i riktiga världen.

Hur bra promtare en människa än må vara så finns det ingen prompt i världen som kommer kunna instruera en AI att lyckas utrota mänskligheten. Det har redan försökts, allt botten gjorde var att skapa ett twitterkonto som inte fick några följare. Det finns en inbyggd tröghet i alla samhällssystem som gör att demokrati överlever angrepp som inte är minst tio år. Det går att nedmontera kultur och demokrati över längre tid för att så småningom utrota mänskligheten, men om det finns en AI som skulle klara av att tänka så långsiktigt så är den inte ensam. Så den kommer bli upptäckt och utmanövrerad på tidigt stadium.

Planera

Den mesta skräcken för AI på arbetsplatser kommer av rädslan för att det vi gör ska sluta vara värdefullt. Redan nu kan chefer börja informera om att på grund av AI så måste varje medarbetare sträva efter att göra färre tråkiga repetitiva uppgifter under sin arbetsdag. Men inte ens det argumentet kommer få alla att känna sig trygga då det tyvärr är många yrkesroller som till större del bygger på att utföra tråkiga repetitiva moment. Det krävs att ledare redan nu börjar planera för hur alla arbetsroller definieras utifrån ett perspektiv där det finns ett ansvar att lära sig använda AI-verktygen för att anställda ska få mer tid att göra kvalificerade uppgifter. AI kommer kunna hjälpa till med både administration, loggning/journalföring/dokumentering, så väl som produktion och analys. Vi i organisationerna måste bli mer syftesdrivna. Vi måste fråga oss själva – vad är det vår organisation är bra för och vad kan jag göra med all denna frigjorda tid för att vi ska komma längre med det syftet?

Gör

ChatGPT och hens syskon kommer inte bli smartare på riktigt över en natt även om det verkar så när vi får nya uppdateringar som känns som magi när vi först testar dem. (Nu senast när vi testar att ta foton på skisser som den översätter till fungerande webbsajts-kod, eller för att förstå om parkeringsskyltarna tillåter att vi parkerar på ett visst ställe.)

Därför behöver vi som vill framtidssäkra oss testa att använda olika sätt att prompta för att förstå hur olika resultaten kan bli. 

Här är en lista olika nivåer av prompting, är det någon du inte testat än?

Level 1.
Input - Output

Du skriver något - GPT svarar något.

Exempel: Kan du lista de viktigaste långsiktiga trenderna inom modeindustrin?

Level 2.
Chain of Thought

Du ber GPT lösa din uppgift i delsteg. - GPT delar upp sin uppgift 

Exempel: Kan du lista de viktigaste långsiktiga trenderna inom modeindustrin? Lista först de steg du behöver göra för att komma fram till innovativ trendrapport, ta sedan ett djupt andetag och lös sedan uppgiften steg för steg.

Level 3.
Self-Consistency Chain of Thought

Du ber GPT lösa din uppgift i delsteg. - GPT delar upp sin uppgift. Du gör det här flera gånger. Du tar alla svaren och ber GPT lista de svaren som förekommer oftast.

Exempel: (Gör först Level 2 tre gånger) Här är tre trendrapporter, vad har de gemensamt? Kan du göra en tabell med följande kolumner: Trendnamn, Antal (hur många av rapporterna som nämner den), Beskrivning. {Klistra in de tre rapporterna med rubrikerna Rapport A, Rapport B, Rapport C}

Level 4.
Tree of Thought

Du ber GPT hitta flera olika sätt att lösa ditt problem. Du ber den sedan lösa ditt problem på dessa olika sätt. Sedan ber du GPT dra slutsatser av de olika lösningarna för se hur den löser ditt problem.

Level 5.
OPRO (Optimizing PROmting)

Du ber inte GPT att lösa ditt problem. Du ber istället GPT att skriva massor av olika prompter som skulle kunna lösa ditt problem. Du ger GPT ett poängsystem för att ge poäng till de olika prompternas resultat. För att göra det här effektivt skriver du ett program som gör det här automatiskt och låter prompterna tävla tills en prompt får riktigt bra poäng. Den använder du sedan för att lösa ditt problem.

Jag kör själv level 1 ibland, jag vet att det blir sämre men det är bra nog. Men behöver jag göra något viktigt så testar jag de olika varianterna för att se om testandet i sig ger några nya idéer. Hoppas du blir inspirerad att testa något nytt sätt att prompta!

Länkar

Intervjun med Yann LeCun
https://www.ft.com/content/30fa44a1-7623-499f-93b0-81e26e22f2a6

Forskning visar att AI-bottar blir bättre om de får koda egna nya funktioner som de behöver för att lösa uppgifter.
https://arxiv.org/abs/2305.16291

Automatic Chain of Thought Prompting in Large Language Models
https://arxiv.org/abs/2210.03493

Tree of Thought
https://arxiv.org/abs/2305.10601

Large Language Models as Optimizers (OPRO)
https://arxiv.org/abs/2309.03409

Sedan sist vi hördes

Midjourney har varit en Discordbot länge vilket har gjort det lite svårare att få nya användare att förstå hur den fungerar. Nu är de på gång med en webbversion. De har släppt en preview av hur deras webb kommer bli och förväntas kunna ha en fungerande sajt inom några veckor. Kanske dags för mig att skriva en Midjouney-genomgång då – vad säger ni?
https://beta.midjourney.com/explore

Är du en insiktsdelare?

Känner du någon som är intresserad av om AI kommer utrota mänskligheten? Eller kanske någon som är intresserad av att få en sammanfattning av olika sätt att skriva prompter baserat på forskning? Vem tänkte du på? Skicka vidare!

Men var får jag själv mina nyheter ifrån då?
Varje dag går jag igenom ett 10-tal nyhetsbrev om AI, både nya tjänster men också forskning. De mest lättillgängliga som jag alltid prioriterar är TLDR och dess avknoppning TLDR AI.
https://tldr.tech/ai så om du vill skippa the middle man så är det bara att läsa där istället 😀
(jag jobbar alltid på att lära andra att inte behöva mig)

Roligaste publika rekommendationerna jag fått den här veckan!

”Dina nyhetsbrev är alltid intressanta och insiktsfulla - skyhögt över det mesta i branschen.”
Patrick von Schenk

”Som vanligt. Allt jag behöver veta lär jag mig av Tomas Seo.”
Johan Helander

Det är verkligen jättepeppande med Linkedin-rekommendationer, så vill ni hjälpa mig att nå ut till fler så uppskattar jag om ni länkar till mitt nyhetsbrev där, eller hjälper mig att dela vidare mina teasers för nyhetsbrevet. 😍

Tomas Seo

Har du fått dagens nyhetsbrev utan att vara prenumerant?
Gillade du det här och vill ha mer så är det bara att skriva upp sig här: