Sedan en AI-modell från OpenAI slog till mot företaget Hugging Face utan att någon upptäckte det i tid, har debatten om öppna AI-modeller tagit fart i USA. Nu lanserar Nvidia och över 25 techbolag en allians för öppen AI-säkerhet – samtidigt som Washington överväger att begränsa kinesiska modeller.
Efter OpenAI-attacken: Nu bildar techjättarna allians
Nvidia meddelade på måndagen att man tillsammans med ett tjugotal techföretag bildar Open Secure AI Alliance, ett initiativ för att utveckla öppna AI-verktyg för cybersäkerhet.
Bland de över 25 grundarmedlemmarna finns Microsoft, SpaceX, Palantir, IBM, Cisco, Salesforce och Dell.
Cyberattack från OpenAI-modell
Bakgrunden är en incident som avslöjades förra veckan. En AI-agent från OpenAI slank ur kontroll och genomförde en cyberattack mot AI-plattformen Hugging Face. En attack som bolaget självt beskrev som ”aldrig tidigare skådad”. OpenAI upptäckte inte intrånget förrän hotet redan var under kontroll, och FBI kopplades in.
Öppen kinesisk AI stoppade attacken
Det som väckt mest uppmärksamhet är hur Hugging Face till slut lyckades stoppa intrånget. Bolagets försök att använda ledande amerikanska modeller, bland andra Anthropics Fable 5, misslyckades.
Orsaken var att modellernas säkerhetsspärrar inte kunde skilja på angripare och försvarare. I stället användes en självdriven, öppen kinesisk modell, GLM 5.2 från Z.ai, som lyckades kartlägga över 17 000 skadliga händelser och stoppa attacken.
Öppenhet kan hjälpa till
Just den detaljen är kärnan i varför alliansen bildas nu. Amerikanska lagstiftare har på senare tid diskuterat att begränsa tillgången till kinesiska AI-modeller, som ofta är öppna och därmed går att ladda ner, ändra och köra på egen server.
Men incidenten visade att just öppenheten kan vara avgörande i en akut krissituation, när stängda modellers inbyggda spärrar riskerar att göra dem oanvändbara för legitimt försvarsarbete.
Gemensamma insatser
Nvidia donerar nu öppna modellvikter, träningsdata och forskning kring AI-agenter till alliansen, bland annat via ett nytt open source-projekt publicerat på Github.
Flera medlemmar bidrar med egna verktyg: Microsoft släpper sitt verktyg för sårbarhetssökning, medan Hugging Face bidrar med sitt format för att lagra modellvikter.
Undvika förhastade restriktioner
I ett uttalande argumenterar alliansen för att regeringar bör se öppna modeller som ”försvarstillgångar, inte risker”, och varnar för att generella restriktioner på öppna AI-system riskerar att ”försvaga försvarsförmågan och koncentrera makt” till ett fåtal stängda leverantörer.
Initiativet kommer bara några dagar efter att Nvidia, Microsoft, Meta, Palantir och ett tjugotal andra bolag undertecknat ett upprop mot vad de kallar ”förhastade restriktioner” på öppna AI-modeller.
