Meta lanserade i förra veckan ett nytt AI-verktyg som kunde skapa bilder utifrån bilder som redan fanns på Instagram. Utan att personen tillfrågas. Men kritiken blev så stark att man nu tagit bort verktyget. Åtminstone för nu.
Meta tar bort AI-verktyg som kunde använda Instagram-bilder utan tillstånd
Den hann aldrig komma till Sverige, men Metas nya AI-bildverktyg Muse Image väckte rejält med ilska när det visade sig att den kunder skapa helt nya bilder baserade på material som redan finns på Instagram.
Stark kritik från flera håll
Det är inte första gången ett AI-verktyg kommit och gått inom några dagar på grund av integritetsproblem. Men det är ändå lite överraskande att Meta inte såg den här kritiken komma.
Det som gjorde Muse Image annorlunda jämfört med andra AI-bildverktyg var att man kunde skriva in namnet på en offentlig Instagram-profil (tagga någon som det kallas). Och då hämtade AI:n automatiskt bilder från den personens konto.
Både på Instagram och Whatsapp
Med hjälp av bilderna verktyget hittade på Instagram kunde det sedan skapa nya bilder.
Och det nya verktyget var inte begränsat till Instagram. Det hämtade även bilder från Whatsapp. Så länge kontona var offentliga fanns inga hinder.
En väntande skandal
Kritiken kom snabbt. Techsajten The Verge kallar funktionen en ”integritetsgruva som väntar på att explodera”.
J.B. Branch, som arbetar med AI-frågor på den amerikanska konsumentorganisationen Public Citizen, var ännu hårdare i sin kritik. Han menar att Meta återigen valt den mest obehagliga lösningen, genom att låta funktionen vara påslagen från start i stället för att fråga användarna om lov innan deras bilder används.
Drog tillbaka funktionen
Kritiken blev så stark, och kom från så många olika håll, att Meta under gårdagen bestämde sig för att dra tillbaka funktionen. Så för nu kan bilder på Instagram och andra plattformar inte användas för att ta fram nya bilder.
Men det är viktigt att komma ihåg att funktionen fortfarande existerar, och när som helst kan kopplas på igen. Det har hänt förr att Meta dragit tillbaka saker och sedan rullat ut dem igen.
AI-glasögon filmade människor
Tidigare i år avslöjade Svenska Dagbladet att Metas nya AI-glasögon kunde användas för att filma människor utan deras kännedom eller tillåtelse.
Och om vi går några år bakåt i tiden så har data läckt från Meta som kunnat användas för till exempel valpåverkan i USA och Storbritannien.
Hålla koll på konto-regler
En anledning att många reagerade över AI-funktionen var att den i grundläget var påkopplad. Man måste alltså som användare gå in och slå av den för att det inte skulle gå att använda de egna bilderna.
Så en lärdom här är att regelbundet se över vad det egentligen är vi ger Meta tillstånd att göra via våra Instagram-, Facebook-, Messenger- och Whatsapp-konton.
