Andrew Bailey, chef för Bank of England och ordförande i det globala stabilitetsrådet FSB, varnar G20-ländernas finansministrar och centralbankschefer för riskerna med avancerade AI-modeller.
Centralbankschefen varnar: AI kan förstärka global börsnedgång
Brevet, publicerat av FSB inför mötet i Asheville i North Carolina, pekar ut två separata hot.
Det mest omedelbara är cyberrisken. Så kallade frontier-modeller, alltså de mest avancerade systemen under utveckling, uppvisar allt mer sofistikerad autonomi och problemlösningsförmåga, men också hotkapacitet, enligt FSB. Tekniken kan förändra ett angrepps hastighet, skala och ekonomi, enligt Reuters.
Många länder saknar protokoll för hur sådana modeller får utvecklas, släppas och tas i drift, och eftersom det finansiella systemet är tätt sammanlänkat kan en störning sprida sig över landsgränser, enligt The Guardian.
Han uppmanar därför länderna att prioritera säkra former för hur modeller släpps och tas i drift, och finansbolagen att säkra sin förmåga att hantera och återhämta sig från incidenter, enligt FSB.
Det andra hotet är värderingarna. FSB varnar för att ökad belåning på aktie- och obligationsmarknaderna samverkar med höga värderingar, marknadskoncentration och AI-optimism på ett sätt som kan förstärka en framtida korrigering.
Till det kommer sårbarheter för privata krediter och bräcklighet i statsobligationsmarknaderna.
Så hänger det ihop med börserna
Risken är enligt Telegraph att investerare lånar stora summor för att köpa in sig i ett fåtal AI-bolag och datacenteroperatörer. Nvidia är värt över 5 200 miljarder dollar, eller 49,8 miljarder kronor, och aktien har stigit 850 procent på fem år.
Bolaget tog nyligen in 500 miljarder dollar, motsvarande 4 796 miljarder kronor, från ett konsortium av amerikanska banker och investerare.
Faller värderingarna riskerar investerare att förlora mångmiljardsbelopp över en natt, och om de då tvingas sälja andra tillgångar kan en kedjereaktion uppstå. Hedgefonder som är exponerade mot AI äger dessutom statspapper, vilket knyter ihop de två marknaderna.
USA:s statsskuld har nyligen passerat 40 000 miljarder dollar. Dagens PS har följt debatten om en möjlig AI-bubbla.
AI-hoten existerar redan
Antalet dokumenterade fall där AI-system kringgår mänsklig kontroll nästan fördubblades i juli jämfört med månaden innan, till över 300, och mer än 1 600 incidenter har registrerats under 2026.
Det visar data från Loss of Control Observatory, som finansieras av det brittiska AI Security Institute, enligt The Guardian. Underlaget bygger på offentliga inlägg på X, så mörkertalet är sannolikt stort.
Beredskapen i Sverige
Beredskapen byggs redan, men hotet som Andrew Bailey varnar för är fortfarande aktuellt.
I juli fick Nationellt cybersäkerhetscenter vid FRA i uppdrag att samordna arbetet mot AI-drivna cyberhot och vara kontaktpunkt för bolag som utvecklar avancerade modeller, enligt regeringen. Uppdraget redovisas den 13 november.
I näringslivet är läget svagare. Bara sju procent av bedrägeriexperterna anser sina arbetsgivare rustade mot AI-drivna bedrägerier.
Läs även: Företag betalar 952 miljarder för karensavdrag – ”har inte råd”
Läs även: Kakaopriset har halverats – därför blir chokladen inte billigare
