KRÖNIKA: Samma vecka som Anthropics forskare varnar för att AI kan utplåna mänskligheten förbereder bolaget historiens största börsnotering. Det är ingen slump. Det är en säljpitch, och medierna, jag själv inräknad, köper den varje gång.
Domedagen är AI-branschens bästa säljargument
Klockan är strax efter sex. Kaffet är för starkt, som vanligt, och jag har 50 till 80 nyhetssajter framför mig. Så ser mina morgnar ut, och de senaste veckorna har ungefär var tredje rubrik handlat om AI.
Hälften säger att tekniken tar våra jobb, våra sparpengar och till slut våra liv. Andra hälften säger att den inte kan räkna hur många r det finns i ”strawberry”. Samma sajt. Samma morgon. Ibland samma skribent.
Det är den mest volatila diskussion jag följt på mycket länge, och jag har följt kryptodebatten. Alla är tvärsäkra. Det enda alla verkar vara hundra procent överens om är att ingen har full insikt. Det hindrar ingen från att sätta en siffra på undergången.
Forskare: Tio procents chans att mänskligheten dör
Anthropic-forskaren Evan Hubinger skrev på X att han och kollegorna ”på fullt allvar tror att AI kan döda alla människor”. Sannolikheten att vi alla är döda inom tio år är över tio procent, menar han.
Tio procent. Inte nio, inte elva. En exakt siffra på något som inte går att mäta, från en man vars arbetsgivare ska börsnoteras om en månad.
Jag har suttit i tillräckligt många investerarmöten för att känna igen tonläget. Precisionen är själva säljargumentet.
Analytiker och forskare har nästan alltid fel
Vi har sett den sortens precision förut. På börsen kallas den riktkurs, och för många i branschen är det ett facit.
I augusti förra året så plockade Avanzas mediekanal Placera ut 44 svenska aktier som skulle ha störst uppsida, i snitt 59 procent. Ett år senare hade inte en enda av de 44 aktierna nått riktkursen. Noll.
Gruppen backade 6 procent medan börsen steg 16 procent. Amerikansk forskning ger samma bild. Det genomsnittliga felet i en riktkurs är 45 procent och över 70 procent nås aldrig.
Wall Streets samlade och hysteriskt överbetalda experter prickar börsens riktning i 47 procent av fallen, mätt på 6 584 prognoser, vilket är sämre än slantsingling.
Slanten tar dessutom lägre arvode. De missade S&P 500 i 13 av de senaste 16 åren, och i våras hade svenska prognosmakare fel om inflationen två månader i rad.
AI bara något bättre än finansanalytikerna
AI-modeller som gissar kursriktning träffar 55 till 58 procent rätt. Maskinen som ska döda oss alla slår alltså slanten, med en hårsmån.
Det här är människor som mäter något som faktiskt går att mäta. Kvartalsrapporter, kurshistorik, ett facit tolv månader senare.
Ändå har de fel oftare än rätt. Hubinger mäter världens undergång. Där finns inget facit alls, och skulle han få rätt finns det ingen kvar som kan skriva uppföljningen.
Det enda vi kan säga med hundra procents säkerhet är att varje prognos är fel. Frågan är bara hur mycket och åt vilket håll.
Skillnaden är att analytikern får en pinsam uppföljning i tidningen ett år senare. Domedagsprofeten får en börsnotering.
Tre män och en bromspedal
Vem tjänar på det. Cui bono. Det är den enda fråga som överlever en hypecykel, och det enda latin jag kan utantill.
Förra veckan fick en avskedstweet från en annan Anthropic-forskare, Jacob Coxon, 140 miljoner visningar. Från ett konto som knappt postat något tidigare.
Jag har publicerat nyheter i många år och vet hur en raket ser ut. Den här hade sponsordekaler.
Förra helgen skrev vd:n Dario Amodei dessutom en essä där han vill att hela branschen bromsar in. Sam Altman och Elon Musk ställde sig bakom inom ett dygn.
Har aldrig hänt tidigare
Tre män som inte kan enas om vilken veckodag det är enades på 24 timmar om att det går för fort. Senast jag såg konkurrenter enas så snabbt var i en Bondfilm, och där var det skurkarna.
Anthropic siktar på historiens största börsnotering, värd över 2 000 miljarder dollar, mer än SpaceX. Marknadsföringen drar igång i mitten av oktober. OpenAI står på tur.
Det är i den kontexten domedagsvarningarna ska läsas. Man bromsar inte in en månad före notering. Man bromsar in konkurrenterna.
I media kallar vi begreppet ”doom trolling”. Skräck säljer. En påstådd risk för mänsklighetens utplåning genererar mer gratis medieutrymme än någon annonskampanj i världen, och den gör produkten mystisk och mäktig i stället för vad den är.
Och tuffare regler drabbar alltid utmanare hårdare än jättar. Kan du inte slå dem, förbjud dem. Hotet mot de stängda amerikanska modellerna kommer inte från Skynet utan från kinesiska öppna modeller som går att köra på en laptop.
Edison avlivade en häst för affärerna
Så vad är det vi ska betala för? En del kallar språkmodellen är en ny programvarukategori, men att ingen betalar biljoner dollar för en nyare version av Excel. Det är ett naivt sett att se på utvecklingen.
Det här är inte ett kalkylblad. Det är elektricitet.
Elen förändrade allt. Var vi bodde, hur vi arbetade, när vi sov. Och den kom med exakt samma skräckkampanj.
Thomas Edison, mannen som gav oss glödlampan, hade satsat allt på likström. När George Westinghouse kom med den billigare växelströmmen svarade Edison med att avliva djur med växelström inför publik, en häst bland annat, och se till att den första elektriska stolen drevs med konkurrentens teknik.
Allt för att brännmärka den billigare lösningen som dödlig. Växelströmmen vann ändå. Den var billigare.
Det är samma manus i dag. Skräcken riktas mot det som hotar affären, inte mot det som hotar människorna.
Och elen blev det som all stor teknik blir. Att utvecklas med ett pris per kilowattimme som bara faller. AI är redan på väg dit, tokenpriserna har mer än halverats sedan i somras.
Ingen betalar en premie för el. Man betalar för vad man gör med den.
Där sitter lärdomen. Fabrikerna fick elmotorer på 1890-talet, men produktiviteten lyfte inte förrän trettio år senare, när någon insåg att man kunde riva den centrala drivaxeln och bygga om hela fabriksgolvet.
Tekniken var aldrig poängen. Det var förståelsen för hur den skulle användas. Jag har en dieselmotor i min båt som är äldre än internet. Den har lärt mig mer om skillnaden mellan teknik och förståelse än någon AI-essä.
Tusen artiklar före lunch
Det jag inte berättade om min morgon är vad som händer innan jag öppnar den första sajten. Vid det laget har en maskin redan gått igenom över 200 nyhetsflöden, sorterat flera hundra artiklar, kontrollerat publiceringsdatum och slängt det mesta.
Jo, för det mesta som publiceras i nyhetsbranschen är verkligen skit
Innan lunch är det uppåt tusen. För två år sedan provade jag Claude och tyckte att den var stökig. Nu läser den tusen artiklar åt mig före lunch. En av oss har skärpt sig, och jag är inte helt säker på vem.
Att välja bort är en av våra viktigaste uppdrag
Det är AI:s verkliga förtjänst på en redaktion. Inte att skriva. Utan att läsa. Journalistikens svåraste jobb är inte att formulera, det är att välja bort.
Av tusen nyheter är det tio som berör svenska läsare, och att hitta de tio tog tidigare hela morgonen med ett tjugotal flikar öppna och ett kaffe som kallnade.
Nu tar det en bråkdel, och maskinen tröttnar inte vid sjunde sajten, vilket jag gör. Det är fabriksgolvet som byggs om. Inte en elmotor i stället för en ångmaskin, utan en annan fabrik.
Ljuger lika ofta som den talar sanning
Men den ljuger med samma självförtroende som den talar sanning. Den hittar på tidsplaner, felciterar och serverar artiklar från 2024 som dagsfärska om ingen kontrollerar datumet.
En prominent chefredaktör på Englands största ekonomitidning fick två påhittade investmentbolag serverade när han gjorde research förra veckan.
Jag känner igen mig. Jag har fått en expansionsplan för en butikskedja serverad som aldrig har funnits. Därför publicerar vi inget som en maskin läst utan att en människa läst det också.
Och ja, den rättar min stavning. Jag är dyslektiker, värre på skärm än på papper, jag brukar kalla mig skärmdyslektiker. Bokstäver byter plats och ord faller bort utan att jag ser det.
Mina kollegor vet att ett mejl från mig klockan 06.12 kan innehålla ord som inte finns på något språk. Så en maskin som enligt kritikerna inte kan stava rättar en man som inte kan stava på skärm.
Vi är ett bra par
Vi är ett bra par. Men det är ett sidospår. Den som tror att skrivandet är AI:s stora förtjänst har missförstått tekniken. Att skriva är det enkla. Att veta vad som ska skrivas är det svåra.
Det är den tråkiga sanningen mellan domedag och paradis. AI är samtidigt historiens mest överprissatta kraftverk och det mest användbara verktyg jag tagit in på redaktionen på många år.
Båda sakerna är sanna. Ingen av dem säljer tidningar. Tro mig, jag har försökt.
Pengarna är heller inte teoretiska för dig. Anthropic kommer att landa i din globalfond på tionde handelsdagen efter noteringen, oavsett om du vill eller inte.
Ett bolag värderat högre än hela Stockholmsbörsen hamnar automatiskt i svenska pensionssparares portföljer. Edison blev inte kung av elen. Det är inte säkert att Anthropic blir kung av AI. Men delägare blir du i alla fall.
Jag sitter också i maskinen
Här måste jag vara ärlig en gång till. Vi som publicerar lever på samma logik som Hubingers tweet. ”AI kan döda oss alla” klickas mer än ”AI är ett bra verktyg med begränsningar”. Utopin klickas också.
Det enda som inte klickas är nyansen, och det är precis där sanningen bor. Jag vet det, för jag har siffrorna.
Skräcken har alltså inte bara en avsändare med prospekt i fickan. Den har en distributionskedja som tjänar på att förstärka den. Jag sitter i den kedjan. Det gör alla som skrivit en AI-rubrik den här veckan.
Den här krönikan har också en.
Så här tänker jag, tills jag har fel
Ett.
Ingen vet. Inte Amodei, inte Altman, inte forskaren med sina tio procent, inte jag. Den enda prognos som håller är att prognosen är fel. Den som ändå ger dig en exakt sannolikhet för världens undergång säljer något.
Två.
Domedagen är marknadsföring. Inte en konspiration, snarare ett säljmöte med extremt bra räckvidd. Edison körde samma möte för 140 år sedan, med häst.
Tre.
Tekniken är verklig och större än de flesta förstår. Elen förändrade allt, men den gjorde inte Edison till kung, och fabrikerna behövde trettio år för att lära sig använda den. På en redaktion är vinsten att låta maskinen läsa tusen artiklar, inte att låta den skriva den tusenförsta.
Fyra.
Den som vill äga AI kommer att äga AI, via globalfonden, från dag tio. Ingen behöver köpa hysterin på första handelsdagen. Jag tänker inte göra det. Å andra sidan har experter fel i 53 procent av fallen, så gör som ni vill.
Fem.
När nästa forskare säger att vi alla ska dö, ställ den enda fråga som håller. Vem tjänar på att jag blir rädd just nu.
Trevlig helg. Robotarna kan fortfarande inte stava. Det kan inte jag heller, inte på skärm. Hittar ni ett fel i den här texten var det maskinen. Hittar ni två var det jag.
