Internet kan stå inför en ny sorts kris. En avancerad AI har visat att den kan hitta svagheter i nätets viktigaste system – innan världen hunnit laga dem.
"Hela internet kan kollapsa om några månader"
Cyberattackerna har ökat kraftigt de senaste åren, bland annat genom användningen av AI. Men det kan vara bara början på en trend som kan sänka hela internet – om några månader, enligt ett reportage i BBC Science Focus Magazine.
Rubriken till BBC:s reportage är ”Vi kanske bara har månader på oss att stoppa en total internetkollaps”.
Tusentals sårbarheter
Det handlar om en ny typ av AI-modell som kan bli ett kraftfullt vapen i kampen mot cyberattacker. Men samma teknik kan också bli farlig om den hamnar i fel händer. Det visar ett nytt projekt från AI-företaget Anthropic, som har låtit en avancerad modell leta efter svagheter i programvara som används över hela internet.
Modellen kallas Claude Mythos Preview och ingår i projektet Project Glasswing. Syftet är att använda AI för att upptäcka säkerhetsbrister innan cyberbrottslingar gör det.
Enligt Anthropic har modellen redan hittat tusentals sårbarheter i viktiga system, bland annat i webbläsare och annan programvara som många människor och företag är beroende av varje dag.
Har inte släppt till allmänheten
Det som gör tekniken särskilt känslig är att den inte bara kan analysera kod, utan också arbeta snabbt och systematiskt. Där en mänsklig säkerhetsexpert kan behöva lång tid för att hitta en svaghet, kan en avancerad AI gå igenom stora mängder information på kort tid.
Det gör den användbar för företag som vill stärka sitt skydd, men också lockande för kriminella grupper.
Anthropic har därför valt att inte släppa modellen fritt till allmänheten. I stället samarbetar företaget med ett stort antal organisationer för att identifiera och åtgärda bristerna innan tekniken blir mer spridd. Tanken är att de som försvarar systemen ska hinna före dem som vill angripa dem.
”Kan öppna Pandoras ask”
Öppen teknik kan hjälpa forskare, utvecklare och säkerhetsexperter att bygga bättre skydd. Men om samma verktyg används av hackare kan resultatet bli det motsatta. En AI som kan hitta säkerhetshål kan alltså både skydda internet och göra det mer sårbart.
Professor Peter Bentley vid University College London säger i artikeln att kriminella aktörer sannolikt kommer att använda tekniken för att tjäna pengar.
”Om de får tillgång till kraftfulla datorer och lokala modeller kan de öppna Pandoras ask”, säger han till BBC.
Mest sannolikt: Jakt på pengar
Om säkerhetsbristerna kan lagas innan liknande AI-modeller blir tillgängliga för fler, kan tekniken bli ett viktigt försvar. Men om angripare får tillgång till samma möjligheter först, kan konsekvenserna bli stora.
”Och även om nästa våg av modeller skulle kunna krascha internet, är det inte säkert att det är vad skurkar skulle använda dem till. Det är inte särskilt användbart”, säger Bentley.
”De mest sannolika utnyttjandena kommer att vara riktade för pengar.”
Det är därför Project Glasswing väcker så mycket uppmärksamhet. Projektet visar hur snabbt AI håller på att förändra cybersäkerheten.
I slutändan handlar det om vem som hinner först: de som vill laga hålen, eller de som vill utnyttja dem.
Läs mer: Internet i kris – när infrastrukturen kollapsar
Läs mer: Internet slogs ut i ett helt land – avslöjade sårbarheter
