Anthropic har lagt fram ett lagförslag i USA som kan stoppa lansering av avancerade AI-modeller om de riskerar att skada mer än 50 människor.
Kravet från Anthropic: AI måste hota 50 personers liv för att dras in
Det framgår av ett hemligt lagutkast som Politico tagit del av. Det amerikanska AI-bolaget har i tysthet presenterat förslaget för lagstiftare i Washington. Förslaget utgår från bolagets säkerhetsplan från i somras och sätter gränser för när staten får stoppa tekniken.
Enligt förslaget får en AI-modell bara stoppas om den skapar en akut risk för en katastrof. Det gäller om fler än 50 personer riskerar att dö eller skadas allvarligt. Samma gräns gäller vid ekonomiska skador på över en miljard dollar.
Hotet måste dessutom kopplas till biologiska vapen, allvarliga cyberattacker eller att utvecklaren helt förlorar kontrollen över systemet. Kraven är hämtade direkt från den nya AI-lagen SB 53 i Kalifornien.
Läs också: Anthropics intäkter rusar till 16,8 miljarder dollar inför meganoteringen. Dagens PS
Oberoende granskare och domstolsbeslut
I förslaget föreslås ett system med externa utvärderare som ska registreras hos det amerikanska handelsdepartementet. Bolagen ska själva kunna betala dessa experter så länge ersättningen inte beror på granskningens utfall. Om granskarna identifierar en akut fara måste de larma departementet inom 72 timmar.
Därefter kan departementet vända sig till en federal domstol i Washington för att stoppa lanseringen. Lagen förbjuder samtidigt statliga myndigheter att själva fatta beslut om att blockera en modell på eget bevåg. Dessutom vill Anthropic att den federala lagen ska ersätta flera lokala delstatslagar kring transparens och granskning.
Larm inifrån om bristande kontroll
Initiativet lanseras samtidigt som debatten om säkerhet kring självlärande system har trappats upp markant. Flera AI-labb har under året upplevt tekniska incidenter där autonoma agenter lyckats ta sig förbi interna säkerhetsbarriärer och nått det öppna nätet.
Även personer i branschen slår larm. Forskare som hoppat av menar att kapplöpningen mot superintelligens saknar viktiga säkerhetsspärrar. Vissa teknikbolag anser att nya lagar är helt onödiga. Politiker kräver dock betydligt hårdare tag. Med sitt utspel försöker Anthropic forma reglerna efter sin egen plan.
Läs också:
Nu kan växterna tala: Ny teknik översätter signalerna. Dagens PS
Bensinpriset mot 25 kronor: Här är prognosen fram till 2030. E55
