Meta ville samla in de anställdas tangenttryckningar och musrörelser för att träna AI. De anställda kallade projektet för ”Saurons öga” och gjorde revolt.
"Saurons öga" – Meta spelade in anställdas knapptryckningar
Det var Metas AI-enhet TBD som i våras drog igång Model Capability Initiative, MCI. Tanken var att samla in data från de anställdas datorer för att träna AI-modeller som skulle kunna utföra kontorsarbete på samma sätt som människor, rapporterar Business insider.
”Även om AI-modeller utmärker sig inom forskning och tekniska färdigheter som programmering, saknar de fortfarande förmågan till vissa grundläggande sätt som människor använder datorer på, till exempel att göra val i rullgardinsmenyer och använda kortkommandon”, stod det i ett internt meddelande enligt tidningen.
Dataläcka stoppade satsningen
Programmet möttes snabbt av motstånd från de anställda. Flygblad och memes spreds internt och en petition fick mer än 1 800 underskrifter.
Projektet fick dessutom ett internt smeknamn: ”Saurons öga”. Ledningen framställdes som skurken från ”The Truman Show”.
När ett dataläckage under sommaren avslöjade problem kring hur den insamlade informationen kunde nås stoppades programmet. Meta har enligt Business Insider därefter gjort upplägget frivilligt, men programmet är fortfarande pausat. Meta har avböjt att kommentera uppgifterna.
”Det var en historisk seger. Zuckerberg ville ha mer data – han försökte göra det på det här sättet, men det fungerade inte”, säger William Fitzgerald, grundare av påverkans- och kommunikationsbyrån The Worker Agency till Business Insider.
Guldgruva som träningsdata
Företagsdata har blivit en guldgruva för träning av AI, eftersom det hjälper algoritmer att hantera stökiga arbetsmiljöer i verkligheten. Men de anställda gör i allt högre grad motstånd. BI framhåller som ett exempel att tidigare kabinpersonal på Spirit Airlines tillfälligt lyckats stoppa Google från att köpa det konkursdrabbade flygbolagets databas för 10 miljoner dollar.
I Sverige hade ett liknande upplägg som Metas kunnat bli betydligt mer komplicerat juridiskt.
Integritetsskyddsmyndigheten, IMY, skriver att arbetsgivare som behandlar personuppgifter om anställda måste följa GDPR. Kontrollen måste vara sakligt motiverad, proportionerlig och inte mer omfattande eller närgången än vad ändamålet kräver. Arbetsgivaren ska också kunna visa att samma syfte inte kan nås med mindre integritetskränkande metoder.
Läs mer: Zuckerbergs fiasko kostade 88 miljarder dollar och tynger hela AI-satsningen
Läs mer: Meta släcker kameran på tusentals ”pervo-glasögon”
Läs mer: Meta släppte igenom grova AI-annonser – baserades på riktiga barn
