De flesta använder AI men få vet när den ljuger, menar Ilse Svensson-de Jong, AI-expert och teknologie doktor.
AI kräver källkritik menar forskaren
När generativ AI på kort tid blev tillgänglig för alla stod både forskning och undervisning inför ett grundläggande skifte.
För Ilse Svensson-de Jong, började förändringen inifrån, när hon själv integrerade ChatGPT i sitt vetenskapliga arbete och bevittnade hur studenter snabbt tog efter. Inte alltid med samma vaksamhet.
Källkritik är en förutsättning
Ilse Svensson-de Jong började använda ChatGPT i forskningsmiljö för textbearbetning, idéutveckling och strukturering. Snart såg hon studenterna göra detsamma. Men utan att förstå vad verktyget faktiskt gör.
”Vi stod inför ett pedagogiskt dilemma. Hur examinerar man kunskap när AI kan formulera svaren?”
Svaret var inte förbud. Det var ramar där källkritik behöver vara en konstant följeslagare.
Den grundläggande designen
AI hittar på. Det är inte en bugg utan det är själva designen, förklarar Ilse Svensson-de Jong. Generativ AI kan uppge referenser som inte existerar. Fabricera studier som låter övertygande samt dra slutsatser utan faktabas.
”Det här är inte ett tekniskt fel. Det är en konsekvens av hur tekniken fungerar”, konstaterar Ilse Svensson-de Jong.
Tekniken är tränad på mönster och inte på sanning. Den distinktionen är allt, menar hon. Lösningen är enkel. Men den kräver disciplin.
”Låt AI strukturera och låt din expertis avgöra.”
Ilse förespråkar ett arbetssätt där AI är utkastverktyget och inte slutkällan. Maskinen snabbskissar. Du granskar, värderar och beslutar.
”Det är först när mänsklig expertis möter AI som verkligt värde uppstår.”
Konsekvenser
Enligt hennes erfarenhet av att skippa steget källkritik, kan det kan bli många felaktigheter. Till exempel bristfälliga forskningsresultat. Det kan även leda till att ledningen på ett företag tar osäkra affärsbestlut.
”AI ersätter inte behovet av ansvar, källkritik och omdöme. Den förstärker det. Verktygen är snabba men ansvaret är ditt,” avslutar Ilse Svensson-de Jong, med eftertryck.
