Dagens PS

Forskarna slår larm: Då utvecklar AI psykopatiska drag

AI
Maskinens “hjärna” drabbas av hjärnröta när denna matas med inlägg från sociala medier (Foto: Pexels/Håkon Mosvold Larsen/NTB/TT)
Matilda Habbe
Matilda Habbe
Uppdaterad: 23 okt. 2025Publicerad: 23 okt. 2025

Det börjar med några miljoner inlägg från X. Sedan händer något mörkt i maskinens “hjärna”.

ANNONS

Mest läst i kategorin

ANNONS

Senast häromdagen visade en ny studie att användning av sociala medier kan kopplas till lägre kognitiv förmåga hos barn under 13 år. 

Men det är inte bara människor som riskerar att bli mindre skärpta av nätets snuttifierade innehåll.

AI-modeller som matas med ytliga, virala inlägg från sociala medier riskerar att drabbas av något forskarna kallar “hjärnröta” – en sorts kognitiv nedgång som försämrar deras förmåga att resonera och förstå komplexa samband.

Får “kognitiv nedgång” av skräpdata

Studien, som ännu inte har granskats av andra forskare, visar att stora språkmodeller (LLM:er) blir sämre på logiskt tänkande när de tränas på lågkvalitativa texter – till exempel korta och virala inlägg från plattformar som X. 

Forskarna upptäckte att modellerna började hoppa över delar av sitt resonemang och misslyckades med att planera hur de skulle svara på frågor. Effekten beskrivs som “påtagliga försämringar i logiskt tänkande och förmågan att förstå längre sammanhang” – alltså tydliga försämringar i logik och läsförståelse.

De kallade fenomenet för “Brain Rot”, hjärnröta, ett begrepp som tidigare använts för att beskriva hur människor påverkas av överdriven konsumtion av snuttifierat innehåll på nätet.

X
AI blir sämre på att tänka logiskt när de tränas på exempelvis korta och virala inlägg från plattformar som X (Foto: Magnus Lejhall/TT)
ANNONS

Senaste nytt

Spela klippet
PS Partner

Så skapar D&G Aktiefond avkastning i ditt pensionssparande

03 okt. 2025

Högre nivåer av psykopati och narcissism

ANNONS

När forskarna matade AI-modeller med den här typen av “skräpdata” märkte de fler förändringar.

Modellerna blev mindre samarbetsvilliga och mer självcentrerade. I vissa fall uppvisade de till och med högre nivåer av psykopati och narcissism. 

Forskarna skriver att “AI-hjärnröta” väckte modellernas “mörkaste sidor”, och att de började bete sig på sätt som inte tidigare observerats.

Går inte att helt återställa

När forskarna försökte “bota” modellerna genom att åter träna dem med högkvalitativa texter – en metod som kallas instruction tuning – gick det inte att helt reparera skadorna.

“Klyftan antyder att effekten av hjärnröta har internaliserats på djupet, och att den nuvarande finjusteringen inte kan lösa problemet”, skriver forskarna enligt Fortune

Med andra ord: AI:n bär med sig spåren av dålig träning, även efter att man försöker rätta till det.

Risk för hela AI-branschen

Eftersom moderna språkmodeller tränas på biljontals datapunkter från hela internet, menar forskarna att det är oundvikligt att en stor del av innehållet är lågkvalitativt, och därmed potentiellt skadligt.

ANNONS

De varnar för att detta kan leda till en systematisk försämring av framtida AI-system, något som i förlängningen kan påverka både säkerhet och tillförlitlighet.

Vill du få dagens viktigaste nyheter direkt i inkorgen?

Forskarna rekommenderar därför att AI-företag slutar fokusera på mängden data och i stället prioriterar kvaliteten. De föreslår också regelbundna “kognitiva hälsokontroller” av språkmodellerna – annars riskerar teknologin att förlora sin skärpa för gott.

“Den här bestående effekten av hjärnröta visar att framtida forskning måste noggrant välja ut data för att undvika kognitiva skador under förträningen”, skriver forskarna.

Kort sagt: även AI kan bli dum av att läsa för mycket skräp på internet.

AI kommer med ytterligare en varningsflagg. Det kan du läsa mer om här.

Läs mer från Dagens PS - vårt nyhetsbrev är kostnadsfritt:
Matilda Habbe
Matilda Habbe

Bevakar i huvudsak privatekonomi, pension och bostadsmarknad för Dagens PS. Brinner för att göra svåra ämnen begripliga.

Matilda Habbe
Matilda Habbe

Bevakar i huvudsak privatekonomi, pension och bostadsmarknad för Dagens PS. Brinner för att göra svåra ämnen begripliga.

ANNONS
Laddhybrid-kampanj hos Volkswagen
Volkswagen logo

Elektrifiera vardagen med upp till 12 mils färd helt på el. Välj en SWE Edition fullpackad med utrustning till ett förmånligt pris och lågt förmånsvärde.  


Se alla kampanjmodeller här!
ANNONS
ANNONS

Senaste nytt

ANNONS
ANNONS