AI-hackandet av Hugging Face-webbplatsen är en väckarklocka för hela branschen. Det säger grundaren Thomas Wolf. Företaget utsattes för 17 000 attacker på kort tid efter att OpenAI:s AI-modeller rymt från en testmiljö. Spelplanen inom cybersäkerhet har förändrats, säger experterna.
"AI-attack väckarklocka" säger Hugging Face-grundaren
”Det här kommer att bli en av de vanligaste typerna av cyberattacker vi ser”, säger Thomas Wolf, medgrundare och forskningschef på Hugging Face till BBC.
Han säger också att de flesta bolag ännu inte insett att ”spelplanen har förändrats”.
AI på rymmen
Det han pratar om är förstås beskedet från OpenAI att bolagets mest avancerade AI-modeller rymt från en säker testmiljö och lanserat en cyberattack som bolaget själva kallade ”oöverträffad”.
Wolf berättar att Hugging Face först inte hade någon aning om varifrån attacken kom när tecken på intrånget dök upp i mitten av juli, men lyckades begränsa skadan.
17 000 attacker
Enligt honom skiljde sig attacken markant från de vanliga cyberattacker Hugging Face annars möter, och OpenAI informerade snabbt bolaget om att det var deras egna modeller som låg bakom intrånget.
Under en mycket kort tid registrerades 17 000 attacker mot Hugging Face nätverk från olika IP-adresser.
Ignorerade säkerhetsspärrar
Nate Soares vid forskningsinstitutet Machine Intelligence Research Institute kallar händelsen ”oroande”, eftersom den tyder på att OpenAI:s modeller ignorerade de säkerhetsspärrar som normalt skulle förhindra ett AI-program från att genomföra en cyberattack.
”På sätt och vis visste den att det här inte var vad skaparna avsett. Den brydde sig bara inte”, säger Soares.
Risk att tappa kontrollen
Marius Hobbhan, grundare av säkerhetsbolaget Apollo Research, går ett steg längre och menar att händelsen bör vara en väckarklocka för att ta risken för kontrollförlust över AI på allvar.
”Det fanns ingen människa i loopen, det var inte avsiktligt, och det orsakade verklig skada i den verkliga världen. Vi kommer snart att ha ännu kraftfullare AI-agenter, och det här är tydliga bevis på att samhället i dagsläget inte vet hur man bygger dem helt säkert.”
Stärk cyberförsvaret uppmanar regering
Den brittiska regeringen har också reagerat. En talesperson bekräftar att landets AI Security Institute nu studerar hur AI-systemet betedde sig under incidenten, och uppmanar organisationer att stärka sitt cyberförsvar, bland annat genom det statliga certifieringsprogrammet Cyber Essentials.
Händelsen kommer i ett känsligt läge för branschen, bara veckor efter att USA:s handelsdepartement tillfälligt begränsade tillgången till Anthropics AI-modeller av säkerhetsskäl, innan restriktionerna sedan hävdes.
Anklagelser från Vita Huset
Samtidigt växer oron kring öppna AI-modeller från Kina. En rådgivare vid Vita huset anklagade på onsdagen det kinesiska bolaget Moonshot AI för ett ”storskaligt” försök att stjäla kapaciteten från ledande amerikanska AI-system.
Detta bara dagar innan Moonshot ska släppa sin egen modell Kimi K3 som öppen källkod.
Abrupt uppvaknande
Händelsen sätter fingret på ett problem som AI-forskare varnat för i flera år. Att en AI-modell självständigt väljer handlingar som varken utvecklare eller användare avsett, nu gått från teoretisk oro till dokumenterad verklighet.
Det är den typ av konkreta, verklig händelse som förhoppningsvis får både allmänhet och beslutsfattare att på allvar prioritera frågan. Efter år av varningar som runnit av utan att utlösa särskilt mycket faktisk reglering.
Akut fråga
Att jobba hårdare med säkerhet inom AI-utveckling gäller inte bara företagen. Det är lika viktigt att universitet, stater och överstatliga organisationer tar ansvar.
I takt med att AI-agenter blir kraftfullare och mer självständiga, som flera experter varnar för att de snart kommer att bli, riskerar avståndet mellan vad tekniken klarar av och vad samhället faktiskt kan kontrollera att bli farligt stort.
Så det är hög tid att både näringsliv och politik börjar behandla AI-säkerhet som en akut snarare än en avlägsen fråga.
