AI:s nya säkerhetshål oroar techjättarna

En växande risk

I maj varnade Storbritanniens nationella cybersäkerhetsmyndighet (NCSC) för att dessa injektionsattacker utgör ett ökande hot. Miljontals företag och privatpersoner som använder chattbotar och AI-verktyg riskerar att drabbas av avancerade nätfiskeattacker och bedrägerier.

Och prompt injection är inte det enda problemet.

Forskningsrapporter från Anthropic, Storbritanniens AI Security Institute och Alan Turing Institute visar att det även är lättare än man trott att genomföra så kallade data poisoning-attacker, där angripare smyger in skadligt material i AI-modellernas egen träningsdata.

Hackarna ligger steget före

Samtidigt som AI-företagen försöker stärka skydden växer hotet i rasande fart. AI används redan för att skriva skadlig kod, skapa realistiska deepfakes och automatisera bedrägerier.

“Försvarssystemen lär sig snabbare, anpassar sig snabbare och går från att vara reaktiva till att bli proaktiva”, säger Ann Johnson, vice vd på Microsoft och ansvarig för cybersäkerhet.

Men trots framstegen ligger angriparna ofta ett steg före. En studie från MIT visar att 80 procent av de granskade ransomware-attackerna använde AI. Under 2024 ökade antalet phishing-bedrägerier och deepfake-relaterade brott med 60 procent.

”Det krävs inte mycket för att bli kriminell”

AI-verktyg gör det dessutom enklare för amatörer att bli hackare.

Jake Moore, global cybersäkerhetsrådgivare på ESET, säger att språkmodeller nu kan generera ny, oupptäckt skadlig kod på några få sekunder.

Samma teknik används för att kartlägga offer – samla information från sociala medier, bilder och ljudklipp – för att genomföra mer trovärdiga bedrägerier.

”Det krävs inte mycket för att bli kriminell nuförtiden”, säger Paul Fabara, säkerhetschef på Visa. ”Du skaffar en laptop, betalar 15 dollar för att ladda ner en billig piratkopierad version av generativ AI på dark web och så är du igång”.