🤯⚡️AGI är ute

2025 lämnar vi nutiden bakom oss och lever i scifi. Detta förändrar ju allt!

Det här är nyhetsbrevet där Tomas Seo, innovationsstrateg på Phorecast, berättar om händelser, upptäckter och ny teknik som får honom att utbrista: Detta förändrar ju allt! Du prenumererar på det här för att fortsätta vara steget före med de senaste trenderna och få konkreta tips för att framtidssäkra dig och din organisation. Har du fått det här av en vän? Då vill du kanske starta en egen prenumeration?

---

Vad har hänt?

2024: Målet är AGI (Artificial General Intelligence)
2025: Målet är ASI (Artificial Super Intelligence)

Flera av ledarna för de stora techbolagen som utvecklar AI anser nu att de vet hur de ska utveckla AGI - AI som är lika bra som människor på allt. Det målet är historia. Istället sätter de nu siktet på ASI - AI som är väsentligt bättre än människor på allt.

I söndags skrev OpenAIs Sam Altman en kort story på X:
”I always wanted to write a six-word story. here it is: near the singularity; unclear which side.”

Singularitet refererar till en framtid där AI inte bara kan lösa alla problem som människor kan utan också utveckla och förbättra sina egna förmågor utan mänsklig inblandning, vilket snabbt leder till att ASI utvecklar sig själv.

Mr Altman följde upp det med en längre essä om hur OpenAI blev utskrattade när de sa att deras mål var AGI. OpenAI anser förmodligen att deras testresultat på sin nya modell o3 som demonstrerades strax innan jul bevisar att de har knäckt hur AGI ska byggas.

Sam Altman är inte ensam om att tycka att AGI är ett avklarat mål som behöver bytas ut för att företaget ska anses ha visioner. Produktchefen för Googles AI Studio Logan Kilpatrick uttalade sig också på X om att AGI inte längre var målet utan att även Google istället siktar direkt mot ASI.

Detta förändrar ju allt

Nytt år, nya löften. I och med att vi nu lämnar nutiden bakom oss och helt rör oss mot en techvärld som flyter ihop med scifi tänkte jag att det kan vara dags att vi fördjupar oss i simuleringshypotesen eftersom Sam Altman nämner den i sin tweet strax efter den om singulariteten. (Som vanligt kommer jag gå igenom praktiska tips och insikter som följd av det jag skriver längre ner.)

Simuleringshypotesen föreslår att både vi och vår verklighet kan vara en datorgenererad simulering skapad av en avancerad civilisation, där allt vi upplever är en del av den simulerade miljön. Kanske är vi bara ett vetenskapligt projekt i den riktiga världen, där forskare testar vad som skulle hända om människor, snarare än delfiner, var den dominerande arten? Eller kanske är vi ett krigsspel eller en lifesim, typ The Sims, i den riktiga verklighetens datorer som bara råkat vara igång lite för länge utan att någon bryr sig om det?

Vi svenskar kan vara extra stolta över att perspektivet att vi inte finns utan är datorsimulerade är en svensk uppfinning. Filosofen Nick Bodström skrev en studie om den idén 2003. Numer är Nick en AI-doomer och jag antar att han förfasar sig över att hans idé istället för att avskräcka används av missionerande tech-ledare som en religion. Elon Musk sa 2016 att det bara är en chans på miljarden att vi inte är simulerade.

I onsdags stod NVIDIAs chef Jensen Huang på scen på teknikmässan CES och visade upp deras nya världssimuleringsmodeller. Det börjar bli riktigt svårt att se skillnaden på vad som är vår verklighet och vad som är simulerade miljöer inuti en dator, och det är också poängen. Syftet med NVIDIAS simuleringsmiljöer är att träna virtuella robotar och självkörande fordon så att när de sedan byggs i den fysiska världen direkt ska kunna tillgodogöra sig all träning de har fått i den simulerade verkligheten.

Tänk om det är en sådan värld vi lever i? Vi är bara crashtest dummies i en simulerad värld för att lära fordon att navigera.

Enligt simuleringshypotesen så kan vi filosofera att om vi människor klarar att bygga en datorsimulerad värld som perfekt simulerar vår verklighet så är sannolikheten att det redan har hänt tidigare och att vi faktiskt är simulerade i princip 100%. Så ju bättre våra simulerade verkligheter och AI-bottar beter sig desto större sannolikhet att vi är simulerade. Trippy.

Utvecklingen går i rasande takt. I början av förra året såg vi hur AI kunde användas för att skala upp gamla pixelbilder till realistisk fotokvalitet. I slutet av förra året började vi fundera över datorspel som inte kodas utan där varje bild AI-genereras. Nu visar NVIDIA att extremt avancerad grafik går att generera i realtid. Det ryktas om att Nintendo Switch 2 kommer använda sig av NVIDIAs AI-uppskalning. De som kodar spelen kan då i princip bara koda streckgubbar som springer runt, men när du spelar spelet så AI-uppskalas streckgubbarna till cineastisk kvalitet.

Är det kanske så vår värld är uppbyggd? Min fru är en streckgubbe men processorn skalar upp så jag upplever henne i både färg och form.

Singularitet innebär att tekniken kan lära sig själv och utvecklas i så hög hastighet att det är att likna vid big bang. Först var det inget, sedan var det allt. Jag tror att Sam Altman skulle veta om vi var på andra sidan singulariteten, men visst kan vi förpacka nästa steg i AI-utveckligen som ett steg på vägen dit. Speciellt om vi vill ha uppmärksamhet.

Jag älskar själv idén om singulariteten. Det är ett härligt tankeexperiment att fundera över att allt som är teoretiskt fysiskt möjligt att uppfinna och upptäcka plötsligt bara finns. Det är också en vattendelare mellan de som direkt ser det som en mardröm och de som ser det som ett utopiskt mål. Men om vi är en simulering så har förmodligen singulariteten redan hänt bara inte inne i vår simulering utan i den riktiga världen. Den som ligger utanför vårt förstånd.

Jag påminns om kosmologen Carl Sagans berömda citat "If you wish to make an apple pie from scratch, you must first invent the universe." Kanske är det det som något har gjort med oss. Skapat sitt eget universum för att utforska det som ligger bortom vårt förstånd?

I år kommer vi få höra många fler stora uttalanden från de stora techjättarna om hur bra deras nya modeller är eller kommer bli. Men en skillnad blir att vi vanliga NPC:er (vi som bara är statister i det här dataspelet) inte kommer att komma i närheten av att få testa de bästa modellerna. OpenAIs nya modell o3 som klarar de allra svåraste testfrågorna bättre än människor kostade dem runt 30.000 kronor per fråga. Inget du vill betala för att få ett julklappsrim precis. Så även om AGI puttrar på i labben för att en dag ge oss singularitet i en stor smäll, så blir det inte i år. Men 2025 är det viktigt att ha stora visioner! Välkommen tillbaka till framtiden och Detta förändrar ju allt!

Vad kan du göra idag?

Förstå

När futurologer föreläser om singulariteten är det underhållning, men när techledare börjar prata om den som att den är nära föreliggande kommer många bli väldigt oroliga. Redan förra året var det för snabb utveckling för de flesta att lägga ihop hur alla landvinningar inom alla yrkesområden kommer påverka samhället i stort över tid. Om AIs utvecklingstakt dubblas, först varje år, sedan varje månad, varje dag, timme, sekund. Det är mycket lätt att se hur människor kommer känna att vi tappar kontroll.

Det finns två dominerande hypotetiska scenarion för vad som händer när utvecklingen går så rasande snabbt som du kommer höra mer om i samband med att AI och singularitet börjar bli samtalsämnen utanför futurologernas föreläsningssalar. Kapitalets betydelse ökar och kapitalets betydelse minskar. Här är en kort beskrivning av logiken för de två scenarierna.

Kapitalets betydelse ökar

När AI förbättrar sig själv så blir det den som har bäst AI som tjänar pengar. Om du har en människa som är världsbäst på att forska fram bättre, till exempel kretskort, så behöver du vänta på att hen gör färdigt nästa uppfinning eller så kan du försöka hitta en till forskare som är lika världbäst, vilket tar tid. Men har du en AI som klarar att forska fram bättre kretskort, så kan du kopiera den AIn och på det sättet direkt skala din verksamhet. Allt som behövs är dubbla driftskostnaden. Det gör att endast de företag/länder/personer som är rikast idag kommer ha en möjlighet att konkurrera med varandra och skiften mellan klasser kommer bli omöjliga.

Så när alla arbetsuppgifter går att utföra bättre av AI än människor så vinner de med mest pengar.

Så när alla arbetsuppgifter går att utföra bättre av AI än människor så vinner de med mest pengar.

Kapitalets betydelse minskar

När AI förbättrar sig själv så kan ingen längre tjäna några pengar. I och med att AI förbättrar sig självt så blir den korta stunden då en AI skulle vara bättre än en konkurrerande AI så liten att det inte kommer finnas någon marknadsobalans att tjäna pengar på. Pengar kommer fortfarande att finnas för att underlätta byten av varor och tjänster, men eftersom det finns kapacitet att producera överflöd av allt vi vill ha så sjunker priserna mot noll. Samtidigt så demokratiseras all kunskap eftersom även de sämsta modellerna av AI är tillräckligt bra för att producera vad som helst med hög kvalitet. Så behöver du ett bättre kretskort så kan vilket gratis open source AI som helst fixa det. När det mediokra har superkvalitet så nöjer sig de flesta med det och drivkraften att konkurrera avtar. Så när alla arbetsuppgifter går att utföra bättre av AI än människor så behövs egentligen inte pengar. (Jag har gått igenom världssynen med överflöd i ett tidigare nyhetsbrev)

Det mesta av det här är retorik och jag tror att när vi närmar oss att AI faktiskt kan ta över kvalificerade arbetsuppgifter så kommer det mesta av det här vara överspelat. Precis som att AGI sågs som en stor skrämmande grej som skulle göra att vi fick singularitet över en natt men nu när vi är här så visar det sig att det känns rätt naturligt att vi kan fråga en chatbot och få Nobelprisvärdiga svar.

Det viktiga att förstå är att ASI och singularitet är ett villospår. De viktigaste frågorna som vi behöver fundera igenom just nu handlar inte om hur en viss specifik teknik (AI) tar över utan hur vi som människor kan bygga ett samhälle som hittar nya sätt att definiera värde och mening i en värld där allt optimeras till perfektion.

Planera

OpenAI har en roadmap för sin AI-utveckling som de följer:

Level 1 - Chatbots ✅
AI med konversationsspråk, designade för att kommunicera med människor genom text eller tal.

Level 2 - Reasoners ✅
AI som kan lösa problem på mänsklig nivå genom att resonera och analysera information.

Level 3 - Agents
System som inte bara kan förstå och resonera, utan också vidta åtgärder baserat på sina slutsatser.

Level 4 - Innovators
AI som kan bidra till innovation och hjälpa till med att skapa nya idéer eller lösningar.

Level 5 - Organizations
AI som kan utföra arbetet av en hel organisation, från beslutsfattande till praktiska åtgärder.

OpenAI skulle ha lanserat level 3 med sina agenter redan förra året, men rykten säger att de tvekat lite då de inte uppnått den säkerhet de vill än (de var inte tillräckligt säkra för prompt injection). Den första delen av OpenAIs agenter som kommer att lanseras sägs vara tidsinställning så att du kan schemalägga promptar. Liknande funktionalitet kommer finnas för alla tjänster innan året är slut. Så organisationer kan redan nu börja planera för hur schemalagd AI-prompting kan underlätta arbetsuppgifter.

Från det enkla att varje morgon göra en webbsökning efter en viss typ av nyheter för att sätta ihop en personlig morgonbrief, till att varje månad bearbeta ett excel-dokument och göra en analys för att sedan sammanställa resultatet i en rapport.

Min erfarenhet är att det snarare är medarbetarnas inspiration än deras tekniska kompetens som är det största hindret till att de börjar effektivisera sin produktivitet med hjälp av AI. Så se till att skapa en miljö där folk gärna delar med sig av hur de använder AI istället för att göra det i smyg.

Gör

Avdramatisera singulariteten. Reflektera istället över vad som ger dig mening – vad i ditt arbete, din vardag eller dina relationer skulle vara värt att bevara även om tekniken kunde göra allt bättre?

Själv skulle jag hänga mer med mina barn, spela mer sällskapsspel och skapa mer content som gör att andra känner sig stärkta och underhållna.

Länkar

Sam Altmans tweet
https://x.com/sama/status/1875603249472139576

Sam Altmans bloggpost
https://blog.samaltman.com/reflections

Genomgång av varför Googles Logan Kilpatrick’s tweet på X har cred.
https://www.businessinsider.com/google-ai-leader-artificial-superintelligence-agi-test-time-compute-2024-12

Basal genomgång av simuleringshypotesen
https://en.wikipedia.org/wiki/Simulation_hypothesis

Elon Musk sa 2016 att det bara är en chans på miljarden att vi inte är simulerade.
https://www.vice.com/en/article/elon-musk-simulated-universe-hypothesis/

En bra genomgång av hur en AI-doomer ser på hur ASI kommer öka kapitalets betydelse.
https://nosetgauge.substack.com/p/capital-agi-and-human-ambition

NVIDIAs nya världsmodell Cosmos
https://research.nvidia.com/publication/2025-01_cosmos-world-foundation-model-platform-physical-ai

NVIDIAS Cosmos för dig som hellre tittar än läser

Sedan sist vi hördes

Vi har större framtidsproblem än att AI tar jobben vi inte vill ha. Jag har tidigare skrivit om hur polariseringen mellan unga män och kvinnor ökar i världen. Nu bekräftar en studie att det gäller även i vårt grannland Norge. https://osf.io/preprints/osf/7z2va Hur kan vi få kommande generation Beta att sluta fokusera på binär könstillhörighet som identifikation? För det kommer behövas en rejäl motpol till Gen Z och Alphas indoktrinering.

Är du en insiktsdelare?

Känner du någon som är intresserad av hur AI förändrar arbetsplatser? Eller kanske någon som behöver få koll på unlearning? Vem tänkte du på? Skicka vidare!

Nu tar jag jullov, men du är välkommen att höra av dig om du behöver boka föreläsningar inför uppstarten av nyåret! Jag får förfrågningar om en text för att skicka vidare om vad jag kan föreläsa om, varsågoda:

Detta förändrar ju allt!
Tomas visar upp forskning som du inte trodde bara var science-fiction, går igenom långa trender så som AI och knyter på ett pedagogiskt och underhållande sätt ihop hur allt detta resulterar i en spännande och väldigt annorlunda framtid.

Detta förändrar ju allt! - För er bransch
Tomas berättar om ny forskning och ny teknik (som AI) används inom andra branscher för att på ett pedagogiskt och underhållande sätt knyta ihop det till möjliga scenarion för hur er egen bransch kommer förändras både på kort och lång sikt.

Detta förändrar ju allt! - För din organisation
Tomas berättar om ny forskning och ny teknik (som AI) används inom andra branscher för att på ett pedagogiskt och underhållande sätt knyta ihop det till konkreta tips på hur er organisation kan använda AI-teknik som redan finns för att bli mer kreativa på jobbet.

Oavsett vilken ni väljer så kommer publiken att inspireras att tänka på världen med helt nya ögon och själva utbrista: Men detta förändrar ju allt!

Jag gör också personliga AI-coaching sessions för dig som vill diskutera dina utmaningar enskilt (oavsett tidigare erfarenhet av AI). Hör av dig om du är intresserad så bokar vi en tid.

Fortsätt utforska så ses vi nästa vecka!

Tomas Seo

Har du fått dagens nyhetsbrev utan att vara prenumerant?
Gillade du det här och vill ha mer så är det bara att skriva upp sig här
(du väljer själv om du vill betala):