AI-expert livrädd för tsunami av desinformation

Deepfakes

Det är ingenting nytt med manipulerade bilder och videos kring val, men 2024 kommer bli det första amerikanska presidentvalet där sofistikerade AI-verktyg med förmåga att på några sekunder producera övertygande förfalskningar bara är några klick bort.

De här falska bilderna, videorna och ljudklippen kallas deepfake och Oren Etzioni säger att falska olycksbådande versioner av presidentkampanj-annonser lätt kan spridas och lura folk innan ett val.

“Du kan få se en politisk kandidat som president Biden föras till ett sjukhus. Du kan se en kandidat säga saker som han eller hon faktiskt aldrig sagt”, säger han till Fortune.

Desinformation påverkar val

Enligt Larry Norden, chef för det amerikanska valet och regeringsprogrammet vid Brennan Center for Justice, har högteknologiska förfalskningar redan påverkat val runt om i världen.

Bara dagar innan valet i Slovakien efterliknade AI-genererade ljudinspelningar en liberal kandidat som diskuterade planer på att höja priset på öl och rigga valet.

Inspelningarna delades på sociala medier trots att faktagranskare försökte identifiera dem som falska.

Ser verkligt ut

AI kan användas för att finslipa vilseledande budskap och för att rikta in sig på specifika grupper. Det kan vara övertygande SMS eller falska tillkännagivanden om röstningsprocersser som delas på Whatsapp eller på falska webbplatser som ser ut som myndigheters sajter.

Det falska innehållet är gjort för att se verkligt ut och låta verkligt.

Kathleen Hall Jamieson forskar om desinformation, hon är chef för Annenberg Public Policy Center vid University of Pennsylvania och säger att allt kommer göras för att vi ska tro på de falska versionerna snarare än på verkligheten.

Inga lagar och regler

I USA undersöker politiker steg för att reglera tekniken, men inga regler och ingen lagstiftning har beslutats varför delstater har infört landets hittills enda restriktioner som finns för politiska AI-deepfakes.

Några få delstater har infört lagar som kräver märkning av deepfakes eller att deepfakes som ger felaktiga bilder av kandidater förbjuds.

Vissa mediebolag, som Youtube och Meta, har infört policys för märkning av AI-genererat innehåll, men det återstår att se om de kommer kunna stoppa dem som bryter mot reglerna.

Vill du läsa de senaste nyheterna om ekonomi och företag? Så här enkelt får du vår kostnadsfria nyhetstjänst.

Läs mer: Valåret som påverkar hela världen