Dagens PS

Gratisversionen av ChatGPT svarar ofta fel om läkemedel

En studie visar att gratisversionen av ChatGPT oftast svarar fel på frågor om läkemedel
En studie visar att gratisversionen av ChatGPT oftast svarar fel på frågor om läkemedel. (AI-genererad bild: Pixabay)
Annika Hjerpe
Annika Hjerpe
Uppdaterad: 06 dec. 2023Publicerad: 06 dec. 2023

Gratisversionen av ChatGPT kan svara fel eller ofullständigt på frågor om läkemedel, vilket skulle kunna vara farligt för dem som litar på chattbotens svar.

ANNONS
ANNONS

En ny studie visar att den kostnadsfria versionen av ChatGPT bara svarade tillfredsställande på 10 av 39 läkemedelsrelaterade frågor, det rapporterar CNBC.

Lita inte på svaren

Det var apotekare vid Long Island University, LUI, som i maj i år ställde 39 läkemedelsrelaterade frågor till ChatGPT:s gratisversion.

De använde riktiga frågor som ställts till LIU:s College of Pharmacys läkemedelsinformation från januari 2022 till april i år.

Studien fastställde att chattbotens svar på 29 av de 39 frågorna var felaktiga, ofullständiga eller inte direkt relaterade till den ställda frågan.

Det indikerar att värdpersonal och patienter bör vara försiktiga med att förlita sig på de svar och den läkemedelsinformation de får av ChatGPT.

Studiens huvudförfattare, Sara Grossman, docent i farmakologi vid LUI, menar att alla svar från ChatGPT bör verifieras med pålitliga källor.

ANNONS

Senaste nytt

Ska inte lita på svaren

ANNONS

Enligt en talesperson för bolaget bakom ChatGPT, Open AI, vägleder de sin chattbot så att den ska informera användarna om att de inte bör lita på dess svar som substitut för traditionell vård eller professionell medicinsk rådgivning.

Talespersonen visade även en del av Open AI:s användarpolicy som talar om att bolagets modeller inte är finjusterade för att ge medicinsk information.

Användarpolicyn säger också att människor aldrig ska använda ChatGPT för att få diagnostiska tjänster eller behandlingstjänster för allvarliga medicinska tillstånd.

Begränsad datamängd

Tidigare har andra studier visat att ChatGPT ger felaktiga svar. I oktober använde cirka 1,7 miljarder människor chattboten, men det finns inga uppgifter om hur många av användarna som ställer medicinska frågor.

Gratisversionen av chattboten är begränsad till att använda datamängder till och med september 2021, vilket gör att den kan sakna viktig medicinsk information.

De betalda versionerna av ChatGPT började tidigare i år använda realtidssurfning på internet och det är oklart hur exakt de kan svara på läkemedelsrelaterade frågor.

Sara Grossman menar att det finns en chans att betalversionen skulle ge ett bättre resultat om den studeras, men den här studien fokuserade på gratisversionen då det är den som de flesta har tillgång till och använder.

ANNONS

Vill du läsa de senaste nyheterna om ekonomi och Life Science? Så här enkelt får du vår kostnadsfria nyhetstjänst.

Läs mer: Därför ska ChatGPT inte sköta din ekonomi Dagens PS

Läs mer från Dagens PS - vårt nyhetsbrev är kostnadsfritt:
Annika Hjerpe
Annika Hjerpe

Reporter på Dagens PS med fokus på bland annat Life Science, hälsa och hållbarhet.

Annika Hjerpe
Annika Hjerpe

Reporter på Dagens PS med fokus på bland annat Life Science, hälsa och hållbarhet.

ANNONS
ANNONS

Senaste nytt

ANNONS