I ett telefonsamtal mellan Amazon och Vita huset varnade bolaget för konkurrenten Anthropics säkerhetsrisker. Det har nu utlöst en kris för AI-bolaget.
Amazon-chefen varnade Vita huset – AI-modell stängdes direkt
USA beslutade nyligen att införa restriktioner mot AI-bolaget Anthropic.
Amazonforskare upptäckte en säkerhetsbrist i Anthropics nya AI-modell Fable 5, som lanserades den 9 juni.
Genom en så kallad jailbreak-metod kunde användare kringgå modellens skyddsmekanismer och få tillgång till information som potentiellt skulle kunna användas i cyberattacker.
Behövde begränsa modellen
Upptäckten rapporterades till Anthropic, men frågan fick snabbt politiska konsekvenser.
Amazons vd Andy Jassy tog upp säkerhetsproblemet under ett samtal med Vita huset och därefter informerades finansminister Scott Bessent, skriver Fortune.
Händelseförloppet ledde till att Trumpadministrationen agerade med ovanlig snabbhet.
Bara några dagar efter lanseringen införde handelsdepartementet exportrestriktioner som i praktiken tvingade Anthropic att stänga ned både Fable 5 och den mer avancerade modellen Mythos 5.
Beslutet markerar första gången som den amerikanska regeringen direkt begränsar spridningen av en avancerad AI-modell med hänvisning till nationell säkerhet.
Läs mer: Trumps stopp av Anthropic chockar hela branschen. Realtid
Har mötts av kritik
Myndigheterna bedömde att modellerna kunde utgöra ett hot mot kritisk infrastruktur och det finansiella systemet om deras cyberförmågor missbrukades.
Anthropic motsatte sig bedömningen och hävdade att den upptäckta säkerhetsbristen inte var unik för bolagets modeller.
Konflikten förvärrades av redan ansträngda relationer mellan Anthropic och Trumpadministrationen.
Tidigare tvister kring försvarsdepartementets användning av bolagets teknik och oenighet om AI-reglering hade skapat misstro mellan parterna.
Beslutet har samtidigt mötts av omfattande kritik från delar av tekniksektorn.
Läs mer: Anthropic jämförs med minfält: Investera inte i oss! Dagens PS
Intensiva diskussioner
Cybersäkerhetsexperter varnar för att exportrestriktioner kan hämma amerikansk innovation och ge konkurrenter i andra länder ett försprång.
Jurister har dessutom ifrågasatt den rättsliga grunden för åtgärderna och pekat på att befintliga exportregler inte är utformade för publikt tillgängliga AI-system.
Anthropic har under veckan fört intensiva förhandlingar med amerikanska myndigheter för att få restriktionerna hävda.
Samtidigt uppges bolaget och regeringen diskutera ett gemensamt ramverk för hur framtida säkerhetsbrister i avancerade AI-modeller ska bedömas.
Utgången kan få stor betydelse för hela AI-branschen. Många bedömare ser konflikten som ett vägskäl för hur världens mest avancerade AI-system kommer att regleras under de kommande åren.
Läs mer: Kina lyckas inte få invånarna att handla – nu börjar det bli bråttom. Realtid
