Dagens PS

Nu avslöjar AI bedragarna på nätet

AI kan stoppa bedrägerier - men intresset är lågt
Vi blir alltmer utsatta för brott och bedrägeriförsök på nätet. Ändå underskattar många riskerna för att bli digitalt utsatta för kriminella. (Foto: Fredrik Sandberg/TT)
Torbjörn Karlgren
Torbjörn Karlgren
Uppdaterad: 25 maj 2024Publicerad: 25 maj 2024

Där människor av kött och blod gått på bluffen har AI reagerat direkt. Nu jagar AI nätbedragare och gör det framgångsrikt.

ANNONS
ANNONS

Mest läst i kategorin

Det hela började som innovationer ofta gör, med en händelse i den egna vardagen.
Clark Hoefnagels mormor blev lurad på motsvarande närmare 300 000 kronor förra året.

Hoefnagels kändes sig tvingad att göra något åt saken.

”Det kändes som om jag behövde göra något för att skydda min familj, en känsla av ansvar för att ta itu med frågan”, säger han till BBC.

Kanadensaren Hoefnagels körde de bedrägeri- och ”phishing”-mejl hans mormor fått genom AI-chatboten ChatGPT.

Den reagerade omedelbart och identifierade meddelandena som bedrägliga.

Upptäcker bedrägeriförsök

Ur det skapade Chatnagels företaget Catch, som baserar sig på ett AI-system tränat för att upptäcka bluffmejl.

Catch, kompatibelt med Googles Gmail, skannar inkommande e-post och markerar alla som anses potentiellt bedrägliga.

AI-verktyg som ChatGPT, Google Gemini, Claude och Microsoft Copilot är också kända som generativ AI. Detta beror på att de kan generera nytt innehåll.

ANNONS

De kan i allt större utsträckning skapa foton och målningar, rösta innehåll, komponera musik eller skapa dokument.

Människor ur alla kategorier, samhällsskikt och branscher använder allt oftare sådan AI för att skapa innehåll. Tyvärr gäller det även bedragare, konstaterar BBC.

ANNONS

Senaste nytt

Hjälper skurkar

På Darknet finns bland annat en produkt, FraudGPT, som hjälper brottslingar att skapa innehåll som underlättar bedrägerier.

Det gäller sådant som bankrelaterade e-postmeddelanden för nätfiske, skräddarsydda bluff-webbsidor för att stjäla personli information och annat.

Än mer oroande är användningen av röstkloning som används för sådant som att övertyga en släkting om att någon nära en är i behov av ekonomisk hjälp och annat.

Ökade 84 procent

Problemet ökar markant. Under 2022 ökade antalet rapporter om AI-verktyg som försökte lura banker med 84 procent, enligt organisationen Cifas som arbetar mot bedrägerier.

I USA sade en rapport nyligen att AI ”lett till en betydande ökning av sofistikerad cyberbrottslighet”.

ANNONS

Ändå inte oroliga

Märkligt nog – och för att återvända till Clark Hoefnagels produkt Catch – så har AI-verktyget mot nätfiske och bedrägerier inte blivit populärt bland allmänheten.

“Folk vill inte ha det”, säger han.

“Vi märker att människor inte är oroliga för bedrägerier, inte ens om de redan har blivit lurade”.

Vill öka pressen

Den grupp som oroar sig är, enligt Hoefnagels, äldre människor, men de väljer att agera genom att sluta svara i telefon eller respondera på mejl.

Hoefnagels säger sig ha förståelse för det. Även om han i början var frustrerad över att inte fler förstod den ökade risken för bedrägerier har han vänt ilskan i en annan riktning nu.

“Det har lett mig till att vara mer sympatisk mot individer och i stället försöka öka pressen på företag och regeringar”.

Ord och inga visor: “Bankerna måste ta mer ansvar”. Dagens PS

ANNONS

Kravet från FI: “Bankerna måste göra mer”. Dagens PS

Läs mer från Dagens PS - vårt nyhetsbrev är kostnadsfritt:
Torbjörn Karlgren
Torbjörn Karlgren

Reporter på Dagens PS med gedigen bakgrund som bland annat bevakar privatekonomi.

Torbjörn Karlgren
Torbjörn Karlgren

Reporter på Dagens PS med gedigen bakgrund som bland annat bevakar privatekonomi.

ANNONS
ANNONS

Senaste nytt

ANNONS
Spela klippet

Bostadsmarknad och framtiden för köpare – enligt analytikern

Efter en turbulent period präglad av stigande räntor och sjunkande priser börjar Sveriges bostadsmarknad visa tecken på återhämtning. År 2022 präglades av en kraftig nedgång i både bostadsförsäljningar och priser, till stor del drivet av de ökande räntekostnaderna. Men nu, med signaler om stabilisering och potentiella räntesänkningar framöver, börjar marknaden långsamt hitta tillbaka. Frågan är: […]