Dagens PS

Tekniken för att upptäcka deepfakes släpar efter

Den AI-manipilerade bilden av påven i en fluffig jacka är relativt ofarlig, men deepfakes har potential att orsaka stor skada och teknikbolag är inte särskilt intresserade av att utveckla verktyg för upptäckt
Den AI-manipilerade bilden av påven i en fluffig jacka är relativt ofarlig, men deepfakes har potential att orsaka stor skada och teknikbolag är inte särskilt intresserade av att utveckla verktyg för upptäckt. (Foto: Skärmdump från Youtube)
Annika Hjerpe
Annika Hjerpe
Uppdaterad: 26 apr. 2023Publicerad: 21 apr. 2023

Deepfakes sprider sig över internet och det blir allt lättare att manipulera bilder, men verktygen för att avslöja dem utvecklas inte lika snabbt och hinner inte med.

ANNONS
ANNONS

Mest läst i kategorin

Det finns få ekonomiska incitament för bolag att investera i verktyg för att upptäcka förfalskade bilder och filmer, det rapporterar Bloomberg.

AI-tekniken är kraftfull

Deepfake, eller deep machine learning and fake, som det egentligen heter, beskriver att en bild, en film eller ett ljudklipp har manipulerats med hjälp av avancerad AI-teknik på ett sätt så de verkar autentiska.

Atrificiell intelligens, AI, är nu så kraftfull att den kan lura folk att tro att en bild där påve Franciskus bär en pösig Balenciaga-kappa är äkta.

ANNONS

Senaste nytt

Identifiering hänger inte med

De digitala verktygen för att skapa falska bilder är kraftfulla, men verktygen för att på ett tillförlitligt sätt identifiera dessa falska bilder hänger inte med i utvecklingstakten.

Deepfakes har funnits i flera år, i en manipulerad video från 2019 verkade USA:s före detta talman, Nancy Pelosi, sluddra när hon talade. Videon cirkulerade i sociala medier.

När Facebook vägrade ta ned Pelosi-videon, kom en annan manipulerad video i vilken Metas vd Mark Zuckerberg verkade säga någonting som han inte sagt.

Kan göra stor skada

ANNONS

Den AI-manipilerade bilden av påven i en fluffig jacka är relativt ofarlig, men deepfakes har potential att orsaka stor skada med allt från valmanipulation till falska sexhandlingar.

I takt med att tekniken utvecklas ökar antalet deepfakes. Förra året kom en falsk video där Ukrainas president Volodymyr Zelenskyj uppmanade landets soldater att kapitulera och den hade kunnat få allvarliga konsekvenser.

Inte intresserade av teknik för upptäckt

Stora teknikbolag har investerat hundratals miljarder i generativ AI, för att kunna ta en ledande roll inom tekniken, men dem globala marknaden för att upptäcka manipulerat innehåll är relativt liten.

År 2020 värderade undersökningsföretaget HSRC den globala marknaden för upptäckt av deepfakes till 3,86 miljarder dollar, cirka 39,9 miljarder kronor. Fram till år 2026 väntas den marknaden öka med 42 procent per år.

Claire Leibowicz, chef vid den ideella organisationen The Partnership on AI säger att experter är överens om att uppmärksamheten kring AI-generering är onödigt stor, medan intresset för upptäckt inte är tillräckligt.

Vill du läsa de senaste nyheterna om ekonomi, samhällsbyggnad och teknik? Så här enkelt får du vår kostnadsfria nyhetstjänst.

Läs mer: AI bättre på att bedöma våld

Läs mer från Dagens PS - vårt nyhetsbrev är kostnadsfritt:
Annika Hjerpe
Annika Hjerpe

Reporter på Dagens PS med fokus på bland annat Life Science, hälsa och hållbarhet.

Annika Hjerpe
Annika Hjerpe

Reporter på Dagens PS med fokus på bland annat Life Science, hälsa och hållbarhet.

ANNONS
ANNONS

Senaste nytt

ANNONS
Spela klippet

Fabege: "Fastighetsmarknaden ansträngd men inte i kris"

Fabege. Stockholms kommersiella fastighetsmarknad står inför stora utmaningar med ökande vakansgrader och höga byggkostnader. För fastighetsägare med ”örat mot rälsen” finns dock goda möjligheter kommande år. Johan Zachrisson, affärsutvecklingschef på Fabege (börskurs Fabage), målar upp en komplex bild av Stockholms fastighetsmarknad när han gästar Dagens PS studio. Fabege nyttjar sin storlek ”Fastighetsmarknaden är ansträngd men […]