AI-forskarens varning: "Som att sälja alla våra hamnar till Kina"

Makt i händerna på några få

I dag kontrolleras de största språkmodellerna av ett fåtal amerikanska bolag. De äger datan, infrastrukturen och därmed också framtiden för hur vi talar och skriver.

“Vi sitter i knät på ett fåtal aktörer som tar både våra pengar och vår data. De styr inte bara tekniken, utan även berättelsen om vad intelligens är.”

Wärnestål ser även faran i att offentlig sektor och utbildningsväsendet redan anpassar sig till dessa modeller. När svenska myndigheter börjar generera texter med språkmodeller som till stor del bygger på engelska urvattnas språket och kulturen.

“Det är som att outsourca infrastrukturen för det svenska språket. Jag brukar säga att det är som att sälja ut alla våra hamnar till Kina.”

De största LLM-problemen enligt Pontus Wärnestål

• Bygger på stöld: Språkmodellerna använder stora mängder upphovsrättsskyddat material utan tillstånd.
• Maktkoncentration: Ett fåtal bolag kontrollerar datan, modellerna och infrastrukturen.
• Språkets utarmning: Svenska texter genereras på till stor del engelskspråkiga plattformar.
• Miljöbelastning: Hög energiförbrukning och kylning med färskvatten i utsatta områden.
• Mänskligt lidande: Underbetald och dold arbetskraft i globala syd filtrerar bort stötande innehåll.
• Desinformation: Modellerna förstärker användarnas felaktiga uppfattningar och utnyttjas av främmande makt för påverkan.
• Brist på transparens: Modellerna är svarta lådor, där det inte finns någon möjlighet att inspektera eller förklara utdatan. Detta gör det mycket svårt att bygga transparenta beslutsstöd där exempelvis offentlighetsprincipen kan upprätthållas.

De får betala priset för AI

Bakom den polerade ytan finns konkreta kostnader för samhället. Träningen av språkmodeller kräver enorma mängder el, och datacentren kyls ofta med färskvatten i områden där det redan råder brist.

“Det är ingen hållbar modell. De här systemen drar enorma resurser bara för att upprätthålla illusionen av intelligens.”

Utöver energin finns en mänsklig kostnad. Bakom skärmar i låglöneländer sitter tusentals människor och sorterar bort det oönskat material ur träningsdatan. De kallas moderatorer men arbetar under svåra förhållanden, ofta med psykisk ohälsa som följd. Ett fenomen kallat för moderator-trauma.

“De tvingas läsa och filtrera bort det värsta internet kan producera. Det är samma typ av problem som på sociala medier, men i ännu större skala.”

AI manipuleras av främmande makt

Wärnestål berättar att det redan pågår ett slags ”lingvistiskt krig” där stater försöker påverka språkmodeller genom att mata dem med manipulerat innehåll.

Han nämner Rysslands Pravda-nätverk, som enligt honom driver tusentals webbplatser fyllda med subversiv propaganda i hopp om att texterna ska ”infektera” de modeller som skrapar nätet.

”Ryssland är redan inne i ett lingvistiskt krig. De pumpar ut propaganda via uppåt tusen sajter med syftet att smitta språkmodellerna,” säger Wärnestål.

Han kallar fenomenet grooming. Organiserade försök att påverka modellerna i grunden. När AI tränas på sådan data kan det, menar han, få långtgående konsekvenser.

”Krig börjar ofta i språket, med propaganda. Nu har fronten flyttats till språkmodellerna.”

Efterfrågar reglering

Wärnestål tror att kunskap kan leda till förändring, men tvivlar på att det räcker. Problemen som han listar är väldokumenterade men fortgår ändå.

“Vi vet att vi borde flyga mindre och äta mindre kött, men många gör det ändå. Samma sak gäller här. Ser man en tydlig nytta för sig själv, rationaliserar man det.”

Därför menar han att samhället måste hjälpa människor att göra rätt genom reglering, precis som vi har gjort med rökning.

“Kombinationen av information, kampanjer och lagstiftning förändrade beteenden då. Det kan den göra igen.”

Missa inte:
Bankkontot i fara: Appen som spionerar på allt i mobilen. Dagens PS