När AI-utvecklingen dundrar fram skapas en dragkamp mellan organisationer som helst gömmer sig i mörkret.
Så används AI-spioner mot företag och regeringar
Till vardags pratar vi om AI-agenter som teknik som förhållandevis självständigt kan utföra vissa uppgifter, exempelvis för att öka effektiviteten hos ett företag.
Men bland de ljusskygga spionorganisationerna som använder AI till att infiltrera, hacka och samla hemlig information, ja där har AI-agenterna nästintill 007-status.
CIA implementerar hemligstämplad AI
Amerikanska underrättelsetjänsten CIA har redan anammat AI för vissa uppgifter och testade cirka 300 AI-projekt förra året, bland annat inom bearbetning av stora datamängder och språköversättning, framgår det när CIA:s biträdande direktör Michael Ellis intervjuas av Tradingview.
Ellis berättar också att CIA nyligen skapade sin första underrättelserapport med AI samtidigt som han förutspådde att teknikens roll i myndighetens arbete skulle fortsätta att växa.
”Inom de närmaste åren kommer vi att ha AI-medarbetare inbyggda i alla myndighetens analysplattformar – en sorts hemligstämplad version av generativ AI som kommer att hjälpa våra analytiker med grundläggande uppgifter.”
Matade iransk spion med falsk AI-information
Men det behövs inte avancerade hemlighetsstämplade AI-tekniker för att utföra kontraspionage. I Israel har två unga män uppmärksammats medialt efter att de – med hjälp av ChatGPT, Gemini och Grok – matat en iransk spion med falsk information.
Enligt The Defence Post ska männen ha tjänat omkring omkring 300 000 kronor i kryptovaluta på informationsutbytet. I rapporter från slutet av mars uppges minst en av männen vara frihetsberövad av Israeliska myndigheter på grund av kontakt med den iranska agenten.
Företagens nya mardröm
För Microsoft, och alla de hundra tusentals företagskunder som använder tjänsten Azure, visade sig en integrerad AI-agent vara ett rejält hål i cybersäkerheten.
Azure-agenten strömmade sin aktivitet i realtid via en datakanal som inte skyddats ordentligt. En extern aktör med ett enkelt skript och ett gratis konto kunde ansluta och följa agentens arbete i realtid, och då få tillgång till kommandon och i vissa fall känslig information.
”Ny verklighet”
Och enligt underrättelseexperten Anders Spalding, tidigare underrättelseofficer vid Must och expert inom kontraspionage, utgör AI-agenterna en kritisk utveckling inom cybersäkerhet.
”Ur ett säkerhetsperspektiv bör man se AI-agenten som en aktör med operativ kapacitet som definitivt kan bli ett hot. Frågan vi måste ställa oss är vem är det som faktiskt kontrollerar och promptar agenten?”, säger han i en intervju med Dagens industri.
Deepfakes, alltså verklighetstrogna fakebilder eller -videos, kan användas i digitala möten för externa aktörer att tillskansa sig information – något Spalding menar att företag måste vara medvetna om. Han föreslår att mötesdeltagare ska kunna verifiera sina identiteter med kodord.
”Vi lever i en ny verklighet. Det är dags att vi alla steppar upp vår motståndskraft. Tekniken förändrar spelplanen, men i slutändan är det människans mod och vaksamhet som avgör.”
