Metas AI-support gav hackare tillgång till Instagramkonton efter en enkel fråga i chatten. Det är ett av tre AI-haverier hos Meta på sex veckor, och nu ska samma funktion ut i fler länder.
Hackare fick Metas egen AI att lämna ut Instagramkonton
Hackare tog över en rad kända Instagramkonton i början av juni genom att be Metas AI-supportassistent om hjälp. Bland de kapade kontona fanns Vita husets gamla konto från Barack Obamas tid, kontot för rymdstyrkans högste underofficer John Bentivegna och kosmetikkedjan Sephoras konto, rapporterar 404 Media.
Krävdes nästan inga tekniska kunskaper
Metoden krävde inga tekniska kunskaper. Hackaren öppnade en chatt med supportassistenten, uppgav offrets användarnamn och bad boten koppla en ny mejladress till kontot.
Boten skickade en verifieringskod till hackarens adress. När koden klistrades in i chatten dök en knapp upp för att återställa lösenordet, enligt Techcrunch, som kontrollerade att koden faktiskt landade i hackarens mejlbox.
Hackaren behövde aldrig komma åt offrets riktiga mejladress. Ett VPN som placerade hackaren på offrets förmodade plats räckte för att Instagrams automatiska skydd inte skulle reagera.
Säkerhetsforskaren Jane Wong var en av dem som förlorade sitt konto. ”Lösenordet ändrades utan min vetskap och jag fick olika försök att återställa lösenordet under hela gårdagen”, säger hon enligt Techcrunch. ”Ganska oroande.”
Metas talesperson Andy Stone meddelade den 1 juni att felet var åtgärdat. Hur många konton som kapades är fortfarande oklart. Drabbade användare uppgav för 404 Media att det inte gick att nå en människa för att få tillbaka kontot.
Ansiktsigenkänning låg gömd i appen
Tre dagar senare avslöjade Wired att Meta hade byggt in kod för ansiktsigenkänning i appen Meta AI, som krävs för centrala funktioner i bolagets smarta glasögon från Ray-Ban och Oakley. Appen har laddats ner över 50 miljoner gånger.
Funktionen, internt kallad NameTag, ska omvandla ansikten som glasögonen fångar till biometriska signaturer och jämföra dem med en databas i användarens telefon. Tre AI-modeller låg redan på kundernas telefoner, en som hittar ansikten, en som beskär dem och en som kodar dem till biometriska data. Kärnkomponenterna hade skickats ut redan i januari.
”Trots miljarder skäl att låta bli verkar Meta ha skapat kapaciteten att förvandla sina kunder till en distribuerad övervakningsmaskin”, säger Cooper Quintin, säkerhetsforskare på Electronic Frontier Foundation, till Wired.
Meta svarade att inget nått konsumenterna och att bolaget ”inte bygger någon central ansiktsdatabas”. Mindre än 48 timmar efter avslöjandet rensade en appuppdatering bort nästan all kod, enligt EFF. Glasögonen är sedan augusti polisanmälda i Tyskland för att de kan filma människor utan att det märks.
Bildverktyget drogs tillbaka
I juli kom nästa miss. Meta lanserade bildverktyget Muse Image, som kunde skapa nya bilder utifrån vilken offentlig Instagramprofil som helst, utan att personen tillfrågades.
Funktionen var påslagen från start. Kritiken blev så hård att Meta drog tillbaka verktyget inom några dagar. Det hann aldrig nå Sverige.
Utvecklar snabbare än det säkras
Mönstret är tydligt. Meta har levererat tre versioner av AI-modellen Muse Spark på under fyra månader och samtidigt sparkat 8 000 anställda, skriver tidningen Fast Company i en granskning av Mark Zuckerbergs AI-satsning.
Efter 20 år av integritetskontroverser skapar bolaget fortfarande nya som hade gått att undvika, och sår misstro mot sin egen AI innan den ens har landat, skriver tidningen.
Samtidigt växer de juridiska problemen. I augusti dömdes Meta att betala 942 miljoner dollar (cirka 9,3 miljarder kronor) i New Mexico för att plattformarna skadar barn.
Så sent som i september visade en granskning att Meta släppt igenom över 350 AI-annonser som sexualiserar barn.
Så påverkas du
AI-supportassistenten rullades ut i mars i alla länder där Meta AI finns, enligt Metas lansering. Hjälpen med att återfå tillgång till kontot, den funktion hackarna utnyttjade, startade i USA och Kanada. Meta uppger att den ska utökas till fler länder.
Den som vill skydda sig bör kontrollera vilka mejladresser och telefonnummer som är kopplade till kontot i Kontocenter och slå på tvåfaktorsautentisering.
EFF räknar inte med att Meta har gett upp ansiktsigenkänningen. ”Metas ambitioner försvinner sannolikt inte”, skriver organisationen, som lovar att fortsätta bevaka appen.
