Du kanske tror att samtalet bara är mellan dig och ChatGPT. Men bakom skärmen finns hundratals människor som kan få läsa både dina frågor och AI:ns svar, ibland tillsammans med känsliga detaljer om ditt liv.
Avslöjandet: Andra människor kan läsa dina privata ChatGPT-samtal
Många använder ChatGPT som arbetskamrat, rådgivare eller rent av terapeut. Nu visar en granskning från 404 Media att vissa av dessa samtal kan hamna framför mänskliga granskare, i betydligt större omfattning än vad många användare sannolikt känner till.
Enligt sajten anlitar OpenAI hundratals kontrakterade medarbetare för att läsa verkliga konversationer och bedöma hur väl ChatGPT svarar. Arbetet går under kodnamnet ”Project Lily”.
Granskningen bygger på interna instruktioner, Slack-kanaler och verkliga användarkonversationer som 404 Media har tagit del av. Sajten har även talat med en person som arbetar med materialet.
Läs även: Tv:n avlyssnar hemmet – nu säljs husen för småpengar. Dagens PS
Får se hela samtal
Uppgiften är att hjälpa OpenAI att förbättra tjänsten. Granskarna får först läsa vad en verklig användare har skrivit och sammanfatta vad personen försöker få hjälp med.
Därefter bedömer de fyra svar som ChatGPT har genererat. Varje svar får ett betyg mellan ett och sju, där ett betyder att svaret är oanvändbart och sju att det är svårt att förbättra på något meningsfullt sätt.
De tittar bland annat på om svaret är hjälpsamt, tydligt och naturligt. Överdrivet inställsam ton, onödiga emojier och typiskt ”AI-språk” kan dra ner betyget. Modellen ska inte heller låtsas ha egna känslor eller mänskliga erfarenheter.
Men det är inte bara enstaka frågor som kan visas. Materialet kan enligt granskningen innehålla hela konversationer mellan användaren och ChatGPT.
Missa inte: Så mycket kan barnbidraget höjas efter valet. Dagens PS
Personliga uppgifter kan slinka igenom
Användarnamnet visas inte för granskarna. OpenAI uppger dessutom att samtalen passerar ett integritetsfilter som ska upptäcka och ta bort personliga uppgifter.
Filtret är dock inte felfritt. Enligt OpenAI kan det missa ovanliga identifierande uppgifter och otydliga privata hänvisningar. Risken är särskilt stor när texten är kort och filtret därför har ont om sammanhang.
Ovanför vissa konversationer finns även en sammanfattning av användarens sparade minnen. Den kan beskriva vad personen tidigare har använt ChatGPT till och i vissa fall innehålla uppgifter om var användaren bor eller annan personlig bakgrund.
En av granskarna tror inte att användarna känner till hur arbetet går till.
”Jag tror inte att de föreställer sig att någon kontrakterad person någonstans analyserar samtalen”, säger personen till 404 Media.
Går att stänga av
För användare med gratisversionen, Plus eller Pro är inställningen ”Förbättra modellen för alla” aktiverad som standard. Den som inte vill att nya samtal ska användas för att förbättra modellerna behöver själv stänga av funktionen.
För företags-, Business- och Edu-kunder är den avstängd från början.
Ändringen gäller däremot bara nya konversationer. Den påverkar inte material som redan kan ha använts. OpenAI uppger också att raderade samtal normalt tas bort inom 30 dagar – men gör undantag för innehåll som redan har avidentifierats och kopplats bort från användarens konto.
Nästa gång du anförtror ChatGPT något känsligt kan det därför vara värt att komma ihåg en sak: på andra sidan behöver det inte bara finnas en maskin.
Läs också: AI avlastar inte finansanställdas arbete – visar enkät från Finansförbundet. Realtid
