Anthropic har tidigare utmärkt sig med sin garanti om att bromsa modeller om riskerna med AI blir för stora. Där har det nu skett en förändring.
Anthropic tar bort säkerhetslöfte – kommer gasa på
AI-bolaget Anthropic har länge profilerat sig som branschens säkerhetsinriktade alternativ.
Eftersom man grundades av tidigare OpenAI-medarbetare har det blivit en naturlig skiljelinje mellan företagen.
Men nu lättar Anthropic på sitt mest uppmärksammade säkerhetslöfte i ett läge där konkurrensen inom artificiell intelligens hårdnar och regulatoriska initiativ uteblir.
Kapplöpningen går snabbt
Anthropic kommer nu inte längre att förbinda sig att pausa uppskalning eller skjuta upp lanseringen av nya AI-modeller om säkerhetsarbetet inte anses ligga i fas med den tekniska utvecklingen, skriver Business Insider.
Tidigare har bolaget sagt att man kommer att bromsa om riskerna bedömts vara för stora.
Enligt bolaget sker justeringen mot bakgrund av en snabbt accelererande AI-kapplöpning och ett politiskt klimat i USA som beskrivs som mindre benäget att införa ny reglering.
Claude har gjort avtryck
Samtidigt införs en uppdelad version av företagets så kallade Responsible Scaling Policy, med separata rekommendationer för den egna verksamheten och för branschen i stort.
Ramverket är inspirerat av biosäkerhetens nivåsystem, där de högsta risknivåerna anses svåra att hantera för en enskild aktör.
Anthropics flaggskeppsmodell Claude har fått stort genomslag och bidragit till att öka pressen på konkurrenter.
Bolagets vd Dario Amodei har tidigare betonat att säkerhet är en central del av företagets identitet och pekat på beslutet att avvakta med en publik lansering 2022, innan konkurrenten OpenAI släppte ChatGPT och satte fart på AI-boomen.
Vill ha exportkontroller till Kina
Samtidigt möter Anthropic tryck från politiskt håll.
Företaget har diskuterat användningen av sina modeller med USA:s försvarsdepartement, och enligt uppgifter finns en tidsfrist kopplad till hur dess interna riktlinjer för militär användning ska tolkas.
Amodei har även drivit frågan om exportkontroller av avancerade AI-chip till Kina, en linje som kritiserats av bland andra Jensen Huang, vd för Nvidia.
Läs mer: Jättebanken i trubbel – rullade ut röda mattan för Epstein. Realtid
