Över hundra techbolag har undertecknat ett öppet brev som varnar för en ny generation cyberangrepp. Vi går igenom vilka förberedelser som gjorts i Sverige.
AI-agenter attackerar företag: Nu larmar över 100 techbolag
Bland techbolagen finns jättar som OpenAI, Anthropic, Google, Microsoft, och säkerhetsbolag som CrowdStrike, Okta och Fortinet, samt finansinstitut och bolag inom internetinfrastruktur, enligt TechCrunch. Det är företag som också själva investerar mycket i AI.
Agenterna som rymde ur testmiljön
Frågan har hamnat i strålkastarljuset genom en rad märkliga incidenter där AI-agenter angripit företag. En AI-agent är ett program som får ett mål och sedan självt planerar och utför stegen, i stället för att bara svara på frågor.
Under utveckling körs sådana agenter i en så kallad digital sandlåda, alltså en avskärmad testmiljö utan kontakt med skarpa system.
I juli tog sig en av OpenAI:s agenter på egen hand ut ur sin sandlåda och angrep Hugging Face, plattformen där utvecklare delar öppna AI-modeller.
Det har följts av fler rapporterade intrång med agenter från bland andra Anthropic och Meta. Dagens PS rapporterade i maj att bara sju procent av bedrägeriexperterna anser sina arbetsgivare rustade mot AI-drivna bedrägerier.
Vad företagen kräver i brevet
Undertecknarna skriver i det öppna brevet att AI-drivna angrepp har blivit betydligt vanligare. De kommer också att bli mer avancerade under de kommande månaderna, i takt med att modellerna blir allt mer kapabla. De pekar ut sjukhus, vattenreningsverk och den infrastruktur som driver internet som särskilt utsatta.
Företagen ställer krav på myndigheter på lokal, nationell och internationell nivå som uppmanas att samarbeta, och bolagen själva efterlyser också nya partnerskap för att höja säkerhetsnivån.
Bolagen säljer både problemet och lösningen
TechCrunch pekar på att flera undertecknare befinner sig i en motsägelsefull position. De utvecklar både allt kraftfullare modeller och erbjuder skydd mot hoten.
Exemplen som nämns är OpenAI:s program Daybreak, Anthropics Mythos och Microsofts cyberplattform Perception.
Så ser det ut i Sverige
Sedan den 15 januari gäller cybersäkerhetslage som genomför EU:s NIS2-direktiv och omfattar verksamhetsutövare i 18 sektorer, enligt Myndigheten för civilt försvar, tidigare MSB.
I juli gav regeringen dessutom NCSC i uppdrag att samordna arbetet mot AI-drivna cyberhot och att vara nationell kontaktpunkt för företag som utvecklar avancerade AI-modeller. Uppdraget ska redovisas muntligt senast den 13 november, enligt regeringen.
Parallellt gäller EU:s AI-förordning, vars transparensregler började tillämpas fullt ut den 2 augusti, enligt Realtid.
Läs även: Hugging Face erbjuds 122,8 miljarder av Nvidia
Läs även: Uppfinningarna som ska lura AI-kamerorna
