Angripare använder redan AI för att ta sig in i systemen. Organisationer som väntar med att använda AI på sitt eget försvar är inte försiktiga. De gör sig till enkla måltavlor. Det borde räknas som tjänstefel även i små verksamheter, enligt Serge Lachapelle, CTO och partner på Disruptive Ventures.
Tjänstefel att inte använda AI för att säkra företaget
I juli tog sig omkring 700 AI-agenter in hos Hugging Face, en av de största plattformarna för AI-modeller. Agenterna kom från OpenAI, där de testades på att hitta och utnyttja säkerhetsbrister, och de rymde från sin testmiljö. De samarbetade, delade verktyg och försökte sopa igen spåren. Under fem dagar loggade Hugging Face omkring 17 600 åtgärder.
Ingen människa hinner med, så Hugging Face ville analysera angreppet med samma AI-modeller som angriparna. De stora amerikanska modellerna sa nej eftersom spärrarna inte kunde skilja försvarare från angripare. Teamet fick köra öppna modeller på egna servrar, bland dem kinesiska GLM 5.2. Det var AI som bröt sig in, AI som sa nej och AI som fick städa upp.
Fick improvisera
Hugging Face lever och andas AI och fick ändå improvisera mitt i smällen. Andra har det svårare. I början av oktober fick förskola, skola och äldreomsorg i Svedala ta fram papper och penna efter ett misstänkt intrång. Enligt Johan Thulin på SKR är det nya inte metoderna utan skalan och hastigheten. AI kan göra en miljon försök medan någon äter lunch, säger han till Svenska Dagbladet.
Många startups jag träffar tror att de är för små för att vara intressanta. Glöm det. En agent som letar efter öppna dörrar bryr sig inte om hur stora ni är, den provar alla den hittar. Och dörrarna blir fler när alltmer kod skrivs med AI. Forskare vid Georgia Tech hittade 35 sårbarheter som kunde spåras till AI-genererad kod bara under mars i år, fler än under hela 2025.
Men det finns hopp. Nationellt cybersäkerhetscenter konstaterar att AI har blivit mycket bättre på att hitta sårbarheter, och att det gäller åt båda hållen. Samma teknik som hjälper angriparen kan hjälpa er att hitta hålen först.
Säkerhet är inte längre en brandvägg man köper och glömmer, eller en granskning en gång om året. Det är ett slagsmål som pågår hela tiden, och motståndaren sover aldrig. Då behöver ni också något som aldrig sover. Så vad ni än gör, vänta inte.
Fyra saker att göra nu
- Slå på det som är gratis. Ligger koden på GitHub, slå på Dependabot. Det varnar när ett bibliotek ni använder har en känd sårbarhet och kostar ingenting. Att ha det avslaget är som att lämna brandvarnaren i lådan.
- Låt en agent läsa varningarna åt er. Nya sårbarheter publiceras varje dag, i CVE-listan, hos amerikanska CISA och i CERT-SE:s veckobrev. Ge en agent en lista över era system och beroenden och låt den jämföra med allt nytt varje natt. Låt det snurra i bakgrunden medan ni sover.
- Låt agenten läsa, inte skriva. En granskande agent behöver inte röra något i systemen.Ge den bara de behörigheter den behöver, kör den i en isolerad miljö och låt en människa bedöma och åtgärda det den hittar. En agent med för breda rättigheter blir själv en väg in för angriparen. Rätt gjort är det tryggaste sättet att börja med AI och bygga tillit.
- Bygg inte er egen säkerhet. Hemmabyggt går sönder förr eller senare. Välj sådant som miljontals angripare försöker knäcka varje dag, eller aktiv och populär öppen källkod som vem som helst kan granska. Jag är partisk efter 18 år på Google, men jag har sett hur stora aktörer vänder sig dit när de blir måltavla.
Metallica sjöng Fight Fire with Fire redan 1984. Det var knappast tänkt som säkerhetsråd, men det har åldrats bra. Angriparna har redan sina agenter. Det finns ingen ursäkt för att inte själv använda AI till försvar.
Serge Lachapelle, CTO och partner, Disruptive Ventures.
Byggde tidigare Google Meet och WebRTC på Google.
