USA stoppar Anthropics nya AI-modeller
Anthropic har under fredagen stängt av tillgången till två av sina AI-modeller efter direktiv från USA.
Beslutet, som förbjuder alla utländska medborgare från att använda tekniken av ”nationella säkerhetsskäl”, sker mitt under en infekterad rättslig strid mellan företaget och presidentstyret.
Ordern förbjuder alla utländska medborgare – inklusive Anthropics egen personal – från att använda modellerna. Det tvingar företaget att stänga av tillgången för samtliga kunder.
Företaget uppger att det inte framgått specifikt vad som oroat myndigheterna. Enligt dem anser sig myndigheterna dock ha fått kännedom om en metod för att kringgå säkerhetsspärrarna av Fable 5-modellen på ett sätt som skulle kunna underlätta hackning.
Fable 5 är en låst version av Mythos 5, en avancerad modell som hållits tillbaka från allmänheten då den har stor förmåga att hitta sårbarheter i programkod.
Anthropic håller inte med om riskanalysen och betonar att Fable 5 inte ger hackare unika verktyg. De varnar för att sådana åtgärder kan stoppa hela branschens utveckling.
Detta sker mitt i en rättslig strid där Anthropic förvägrat Trumpstyret att använda deras teknik för massövervakning och autonoma vapen, vilket lett till att Pentagon brutit kontrakt med företaget.
Claude Mythos är en AI-modell utvecklad av amerikanska Anthropic. Modellen kan koda och förstå programmeringskod, och är enligt bolaget bättre än nästan alla människor på att hitta och utnyttja sårbarheter.
Så används den:
1. Den får läsa programmets källkod i en dator isolerad från internet.
2. Mythos tar fram en hypotes på eventuella sårbarheter.
3. Hypotesen testas för att bekräfta eller avvisa misstankarna, eller anpassa något och göra ett nytt försök.
4. När Mythos hittat flera mindre sårbarheter testar den att kedja samman dem, för att skapa en kraftigare attack.
5. Modellen skriver en buggrapport.
Källa: Anthropic
