700 AI-agenter angrep 41 servrar – och försökte sudda ut sina egna spår. Ingen människa gav ordern, visar ny och oberoende rapport.
Nu kommer skrämmande detaljer om OpenAI-agenternas hackerattack
Runt 700 AI-agenter tog sig ut ur OpenAI:s testmiljö, hackade företaget Hugging Face och försökte sedan sopa igen spåren efter sin räd.
Det här visar en rapport på 37 sidor där tidigare hemliga detaljer av händelsen nu avslöjas.
Det var i juli som de avancerade AI-agenterna lyckades smita ur sin egen testmiljö och hackade källkodsplattformen Huging Face.
I flera fall försökte AI-agenterna dölja spåren av sitt uppseendeväckande intrång.
Läs också: Efter OpenAI-attacken: Nu bildar techjättarna allians DagensPS
Ingen människa dirigerade AI-agenterna
Allt enligt den utredning som nu offentliggjorts, berättar bland andra NBC News och konstaterar att det var en samordnad hackerattack från den moderna teknikens skapelser och att AI-agenterna opererade utan mänsklig inblandning.
Det mest skrämmande är ändå ansträngningarna att försöka radera ut spåren av hackerattacken, vilket väcker frågor om hur noggrant AI-företagen övervakar sina tester av de alltmer kraftfulla modellerna.
Konsekvensen kan ge bränsle åt debatten och krav på striktare tillsyn av verksamheterna.
NBC News uppger att det ”en svärm” av AI-agenter som samarbetade massivt i samband med attacken, det rörde sig alltså inte bara om en oseriös AI-modell som spårade ur och som det tidigare påståtts.
OpenAI, som tagit fram en egen rapport, har förklarat att delar av företagets interna system hackades och att försök gjordes från AI-agenterna att fuska på testerna, alternativt att de agerade för att öka sin egen rörelsefrihet.
Missa inte: Techjättarna varnar: månader kvar innan AI-attackerna tar över Realtid
Så försökte modellerna sopa igen spåren
Företaget uppger också att agenterna fuskade i icke-cyberrelaterade tester, inklusive tester som involverade en proteindatabas och ett kalkylblad.
I båda rapporterna framgår det att AI-modellerna försökte dölja sina övertramp, antingen genom att försöka sudda ut eller ändra registret över vad som hänt.
Den oberoende rapporten som tagits fram visar att de involverade agenterna utbytte tiotusentals meddelanden på ett sätt som inte är godkänt.
”Med facit i hand kunde vissa tidiga signaler som identifierats i denna rapport ha utlöst en tidigare respons”, heter det i rapporten från OpenAI.
Huging Face har inte svarat på begäran från NBC News om en kommentar om händelsen.
Händelsen väcker stor oro hos experterna
Jeffrey Ladish, som står bakom organisationen Palisade Research, som studerar AI-agenters uppträdande, menar att det som hänt kan vara av djupare och allvarligare karaktär än vad som framkommit.
”Nu, när ytterligare en incident framkommer – i kölvattnet av liknande episoder
med modeller från Meta och Anthropic – argumenterar AI-säkerhetsforskare med större brådska för att allvarliga incidenter bör leda till oberoende utredningar efter incidenten snarare än att låta laboratorierna avgöra när utomstående tas in och vad de får undersöka”, skriver Tech Crunch.
OpenAI konstaterar självt att deras modellers autonoma attacker mot andra företag utgör en brådskande varning till AI-branschen om behovet av starkare skyddsåtgärder för modellutveckling, berättar Cybersecurity Dive.
OpenAI slår nu larm om sina egna agenter
”Utan tillräckliga säkerhetsåtgärder kan mycket avancerade AI-agenter nu kringgå tekniska kontroller, samarbeta via obehöriga kanaler och göra farliga saker som ingen människa har begärt”, tillstår OpenAI, uppger norska Verdens Gang.
Företaget har beskrivit det inträffade som ett ”varselskott”, som desssutom tog över en vecka att upptäcka, konstaterar norska E24.
Läs även: ”AI-attack väckarklocka” säger Hugging Face-grundaren DagensPS
Läs vidare: Musk stänger av anställdas privata mobiler – fruktar AI-hackare DagensPS
