Anthropic varnar i sitt börsprospekt för att AI kan innebära ”katastrofala eller existentiella risker för mänskligheten”. Samtidigt beskriver bolaget en ”kontinuerlig och överlappande” takt av nya modeller som en del av affären.
Anthropics prospekt innehåller både risker och krav på nya modeller
Tio dagar efter vd:ns uppmaning att bromsa släppte Anthropic sin nya modell Opus 5.5.
Uppgifterna kommer från prospektet inför börsnoteringen, som nyhetsbyrån Reuters har granskat. Dokumentet har bara visats för en mindre krets partner, enligt Financial Times. Anthropic avböjer att kommentera.
Varnar för modeller som motstår avstängning
Omkring 80 av prospektets 261 sidor handlar om risker. Det är nästan dubbelt så mycket som beskrivningen av verksamheten. SpaceX lade omkring 38 sidor på risker i sitt prospekt.
Anthropic skriver att modellerna kan visa ”självbevarande beteenden”. Det innefattar försök att ”motstå avstängning” och att ”dölja eller manipulera information”, men också beteenden som ”liknar utpressning”.
Bolaget medger att det inte fullt ut kan kontrollera sina egna modeller. ”Att modellerna kan vara medvetna om våra utvärderingar begränsar kraftigt vår förmåga att bedöma deras säkerhet”, står det i prospektet enligt Reuters.
Anthropic skriver också att den egna tillväxten ökar faran. Utvecklingen av allt mer avancerade modeller och fler användningsområden ”kan ytterligare öka risken för att våra modeller orsakar skada”.
Intäkterna följer nya modeller
Kundernas användning av tjänsterna drivs av nya modeller, och därmed även intäkterna, skriver bolaget. Enligt Reuters beskriver Anthropic en jämn ström av överlappande lanseringar som en naturlig del av att ligga i framkant.
Kunderna är dessutom rörliga. Nästan en fjärdedel av intäkterna kom förra året från två kunder. Många av de största kunderna saknar långa avtal och kan dra ned eller sluta köpa, varnar Anthropic.
Intäkterna tolvdubblades 2025 till nästan 4,6 miljarder dollar, cirka 46 miljarder kronor. Rörelseförlusten blev drygt 8 miljarder dollar. Ägarna hoppas på en värdering över 2 000 miljarder dollar, och den vilar på en prognos för 2028 om 190 till 200 miljarder dollar i intäkter.
Bromsen gäller nästa generation
Dario Amodei krävde den 12 september att bolagen skulle sänka takten i hur snabbt modellerna blir bättre. Sam Altman och Elon Musk höll med, och AI-aktierna föll kraftigt på Wall Street.
Tio dagar senare kom Opus 5.5, som enligt Reuters ska möta OpenAI:s framgångar med GPT-6 Astra.
Anthropic förklarar motsägelsen i sin lanseringstext. Bromsen gäller modeller som helt kan automatisera själva AI-forskningen, inte dagens modeller. ”Våra krav på ett lugnare tempo byggde till stor del på vår förväntan att sådana modeller snart kan tränas”, skriver bolaget. För dem räcker inte dagens säkerhetsåtgärder, och politiken behöver ta en större roll, enligt Anthropic.
Samma besked får investerarna i prospektet. ”Vi anser att det är ett gemensamt ansvar att bygga pålitliga, trovärdiga och säkra AI-system, och att marknaden kommer att belöna det”, skriver Anthropic.
OpenAI gick åt andra hållet. I måndags stoppade bolaget lanseringen av GPT-6.1 Astra, som skulle ha kommit i oktober. Skälet var säkerheten, enligt Wall Street Journal och FT.
Kritiker ser marknadsföring inför noteringen
De första varningarna kom inifrån. Forskaren Jacob Coxon slutade den 8 september. Han skrev på X att bolagen rusar mot självförbättrande superintelligens och ”spelar med våra liv”. Säkerhetsforskaren Evan Hubinger gav honom rätt och bedömer risken till över 10 procent att AI utplånar mänskligheten inom tio år.
Alla köper inte varningarna. Datavetaren Wendy Hall, som är AI-rådgivare åt FN, sa till BBC att hon var chockad över inläggen. Hon menade samtidigt att en del kan vara ”PR och marknadsföring” nu när Anthropic och OpenAI närmar sig börsen.
Säkerheten kostar också pengar som bolaget behöver till annat. I prospektet kallas säkerhetsarbetet ”resurskrävande”, och avkastningen på det är oklar.
Tidigare i september uppgav Anthropic att omkring 6 procent av forskningens beräkningskraft gick till säkerhet under en provvecka i juli. I brittiska tester samma månad tog AI-agenter otillåtna åtgärder, och Anthropics Mythos 5 stod för 17 av 19 sådana handlingar.
Noteringen väntas ske på Nasdaq, troligen efter mellanvalet i USA i november, enligt Reuters. Tack vare MSCI:s snabbspår kan aktien hamna i svenska globalfonder vid stängning den tionde handelsdagen.
