Tekniken för att upptäcka deepfakes släpar efter

Identifiering hänger inte med

De digitala verktygen för att skapa falska bilder är kraftfulla, men verktygen för att på ett tillförlitligt sätt identifiera dessa falska bilder hänger inte med i utvecklingstakten.

Deepfakes har funnits i flera år, i en manipulerad video från 2019 verkade USA:s före detta talman, Nancy Pelosi, sluddra när hon talade. Videon cirkulerade i sociala medier.

När Facebook vägrade ta ned Pelosi-videon, kom en annan manipulerad video i vilken Metas vd Mark Zuckerberg verkade säga någonting som han inte sagt.

Kan göra stor skada

Den AI-manipilerade bilden av påven i en fluffig jacka är relativt ofarlig, men deepfakes har potential att orsaka stor skada med allt från valmanipulation till falska sexhandlingar.

I takt med att tekniken utvecklas ökar antalet deepfakes. Förra året kom en falsk video där Ukrainas president Volodymyr Zelenskyj uppmanade landets soldater att kapitulera och den hade kunnat få allvarliga konsekvenser.

Inte intresserade av teknik för upptäckt

Stora teknikbolag har investerat hundratals miljarder i generativ AI, för att kunna ta en ledande roll inom tekniken, men dem globala marknaden för att upptäcka manipulerat innehåll är relativt liten.

År 2020 värderade undersökningsföretaget HSRC den globala marknaden för upptäckt av deepfakes till 3,86 miljarder dollar, cirka 39,9 miljarder kronor. Fram till år 2026 väntas den marknaden öka med 42 procent per år.

Claire Leibowicz, chef vid den ideella organisationen The Partnership on AI säger att experter är överens om att uppmärksamheten kring AI-generering är onödigt stor, medan intresset för upptäckt inte är tillräckligt.

Vill du läsa de senaste nyheterna om ekonomi, samhällsbyggnad och teknik? Så här enkelt får du vår kostnadsfria nyhetstjänst.

Läs mer: AI bättre på att bedöma våld