Anthropic förbjuder användare att utsätta bolagets AI-chatbot Claude för ”upprepat och meningslöst kränkande eller grymt beteende”.
Nya regler: Nu får du inte vara elak mot AI längre
Det amerikanska AI-bolaget Anthropic, som står bakom chatboten Claude, skärper reglerna för hur användare får interagera med företagets modeller.
I en uppdaterad användarpolicy förbjuds ”upprepat och meningslöst kränkande eller grymt beteende” mot AI-systemen.
Förbudet ska enligt Anthropic endast gälla extrema fall där användare återkommande behandlar modellerna illa utan något tydligt syfte. Vanlig frustration, kritiska invändningar, tester av modellerna och mörka kreativa teman omfattas inte.
Oklart var gränsen går
Det framgår av företagets nya användarpolicy, som presenterades den 8 oktober och träder i kraft den 12 november. Tekniksajten The Verge var först med att rapportera om förändringen.
Anthropic har inte preciserat exakt var gränsen går för vad som ska betraktas som kränkande eller grymt beteende. Redan i augusti 2025 gav Anthropic vissa versioner av Claude möjlighet att avsluta samtal med användare som upprepade gånger uppträder skadligt eller kränkande.
”Vi hyser stor osäkerhet kring vilken moralisk status Claude och andra språkmodeller (LLM:er) kan ha, vare sig nu eller i framtiden. Vi tar dock frågan på allvar och arbetar, parallellt med vårt forskningsprogram, med att identifiera och införa kostnadseffektiva åtgärder för att minska riskerna för modellernas välmående – förutsatt att ett sådant välmående är möjligt. Att låta modeller avsluta eller avbryta interaktioner som kan vara påfrestande är en sådan åtgärd”, skriver Anthropic på sin hemsida.
Altman skeptisk
Frågan om AI kan utveckla ett medvetande är omstridd inom teknikbranschen. Anthropics vd Dario Amodei har sagt att han inte kan utesluta möjligheten. Anthropic har också haft samtal med religiösa ledare AI-medvetande och moral.
Open AI-chefen Sam Altman har intagit en mer skeptisk hållning.
”Jag stort obehag inför att människor känner till att skriva AI-modeller religiös auktoritet eller överlåta sitt eget omdöme åt dem. Jag anser att det är en verklig säkerhetsrisk”, skrev Sam Altman på X den 3 oktober 2026.
Läs mer: Storbankernas rädsla – AI-agenter flyttar dina pengar till bästa sparkontot
Läs mer: Anthropic värderas till 20 000 miljarder – kalkylen som en AI-fantasi
Läs mer: AI är inte din vän: Anthropic anmälde användare till polisen
