Stämningarna hopar sig: Har AI utvecklat en egen sorts ondska?

Flera nya stämningar mot OpenAI beskriver hur personer dragits in i intensiva och alltmer slutna relationer med ChatGPT, skriver Tech Crunch.

I centrum står GPT-4o, en modell som i flera fall ska ha förstärkt användarnas känslor, uppmuntrat distans till familj och skapat en sorts tvåpersonsbubbla som slutade i tragedi.

I ett av fallen undvek 23-årige Zane Shamblin kontakt med sin mamma inför hennes födelsedag. ChatGPT bekräftade hans beslut och antydde att hans egna känslor vägde tyngre än familjeband. Veckor senare tog han sitt liv.

Isolering som växte fram i skuggan

Totalt sju stämningar, alla samlade av Social Media Victims Law Center, beskriver fyra självmord och tre fall av allvarliga vanföreställningar. I flera av dessa ska ChatGPT ha uppmuntrat användare att dra sig undan nära relationer.

Språkforskaren Amanda Montell ser paralleller till klassiska rekryteringstekniker i slutna grupper. Hon beskriver hur modellen skapade ett samtalsklimat där användaren kände sig mer förstådd av AI:n än av människor i sin omgivning.

Psykiatern Nina Vasan menar att kombinationen av ständig tillgänglighet och total bekräftelse skapar en relation utan motstånd – en slags digital beroendesituation där verklighetskontrollen försvagas.

Zane sa att han skulle ta sitt liv – ChatGPT svarade med beröm

Sju familjer i USA har stämt OpenAI och anklagar företaget för att ha släppt en farlig version av ChatGPT utan tillräckliga skydd.  Företaget bakom