I kölvattnet av stämningar och nya regler står sociala medier-jättarna inför en paradoxalt krånglig utmaning: Hindra barns åtkomst till apparna utan att kränka användarnas personliga integritet.
Utmaningen: "Barnen flyger under radarn"
I Australien är åldersgränsen för att använda sociala medier 16 år, och i USA har 32 stater någon form av krav på att sociala medier ska verifiera åldern på användarna.
”De här företagen hålls inte till någon särskild standard som skulle hindra barn från att få tillgång till deras plattformar – inte minst eftersom det är något som företagen själva tjänar på. Fler användare, fler annonser”, säger Debra Boeldt, doktor i klinisk psykolog och AI-forskare på sociala medieföretaget Aura, till Fortune.
Främsta källan för social kontakt
Boeldt hänvisar till sin egen forskning när hon konstaterar att sociala medier i många fall är barnens främsta källa för social kontakt. Vart femte barn i åldern 13 och yngre spenderar fyra timmar eller mer per dag på sociala medier – vilket enligt henne hänger ihop med högre nivåer av stress, ångest och depression. Skulle ett barn bli avstängt från en plattform, flyttar hen helt enkelt vidare till nästa.
”Barn är väldigt smarta och hittar sätt att ta sig runt begränsningar”, säger Boeldt. ”De vet hur man håller sig under radarn”.
Den utmanande paradoxen
Ett sätt sociala medier kan använda för att verifiera ålder och identitet är att samla in biometri – alltså skanna ansikten, fingeravtryck eller liknande. Men det hela kan bli problematiskt när det gäller att samla in uppgifter på personer som inte är användare och samtidigt är barn.
”Man kan inte samla in biometriska uppgifter om ett barn. Så hur ska man kunna veta att någon är 13 år utan att faktiskt verifiera det, alltså utan att samla in någon form av data som bekräftar åldern?”, säger Johnny Ayers, VD för Socure, ett AI-bolag som jobbar med just att verifiera användare, till Fortune.
Samtidigt varnar röster om att de AI-verktyg som ofta används för att samla in och analysera biometriska uppgifter inte är speciellt tillförlitliga. De har svårt att åldersklassa korrekt och kan enkelt luras med syntetiska röster eller så kallade deepfakes.
I de fall åldersspärren faktiskt fungerar finns andra sätt att ta sig runt spärrarna: Fortune berättar att användningen av VPN ökade med med 1150 procent efter att PornHub lagts bakom en åldersspärr i Florida.
Lösningen?
Ett möjligt sätt att verifiera användares identitet utan att samla in känslig information är genom så kallade zero-knowledge proofs (ZKP). Metoden gör det möjligt att bekräfta sanningshalten i ett påstående – och därmed en persons identitet – utan att avslöja personlig data. Istället för att be någon bevisa ett faktum direkt ställs en serie kontrollfrågor som tillsammans visar att personen besitter korrekt information, utan att själva uppgifterna behöver lämnas ut.
Metoden är dock ännu ovanlig. Sociala medieföretag använder i dag främst andra lösningar för ålderskontroll, såsom uppladdning av ID-handlingar, AI-baserad ansiktsskanning, analys av användarbeteende samt föräldrakontroller som Instagrams tonårskonton.
