Så säkrar du AI mot ”hallucinationer”

Google stäms för förtal

Samtidigt möter sökjätten Google ett ökande antal stämningar kopplade till hur deras AI-tjänster beskriver privatpersoner och offentliga aktörer.

I en artikel från Yahoo News framgår det att bolaget står inför rättsliga påföljder efter att AI-genererade sammanfattningar innehållit ärekränkande och felaktiga uppgifter.

Riskerna för den personliga integriteten och ryktet understryks ytterligare av att en konservativ aktivist valt att stämma Google.

Enligt nyhetskanalen Al Jazeera rör tvisten AI-genererade uttalanden som påstås vara djupt missvisande och skadliga för målsägandens anseende.

Dessa fall visar på den osäkerhet som uppstår när AI-verktyg används för att sammanställa information om individer utan en mänsklig faktagranskning i sista ledet.

Ekonomiska risker och ”skandaler”

Det är inte bara enskilda individer som drabbas. Även stora konsultbolag och analysföretag har hamnat i blåsväder när tekniken sviker.

I en genomgång hos Yabble beskrivs hur felaktig information i en rapport kopplad till Deloitte skapat stora rubriker. Det visar på farorna med att använda generella AI-modeller utan tillräcklig mänsklig översyn eller specialanpassade system.

Denna problematik utgör en fundamental utmaning för de bolag som utvecklar tekniken. Som framgår i en artikel i EFN är hallucinationerna en av de största trösklarna för AI-bolagens framtida tillväxt.

Om användarna inte kan lita på att svaren är korrekta minskar teknikens ekonomiska värde drastiskt i branscher som finans och medicin.

Så styr du AI mot kvalitetssäkrade fakta

För att undvika att AI-modeller ”tänker fritt” och hittar på information finns det flera strategier som både företag och privatpersoner bör använda.

Enligt analysen av Handelsbankens kundtidning EFN handlar en av de mest effektiva metoderna om att implementera system som RAG (Retrieval-Augmented Generation) och RIG (Retrieval-Interpreted Generation).

Dessa tekniker tvingar modellen att först hämta information från en specifik och verifierad källa, snarare än att enbart förlita sig på sin egen förtränade databas.

Ytterligare sätt att öka säkerheten inkluderar:

• Användning av domänspecifika verktyg: Istället för breda, generella modeller bör man välja AI som är byggd för specifika ändamål med inbyggda spärrar för integritet och datafel.
  
• Justering av parametrar: Genom att sänka modellens ”temperatur”, en inställning som styr slumpmässighet, kan man enligt guiden från Skolagent göra svaren mer faktabaserade och mindre kreativa.
  
• Tydlig kontextmatning: Genom att själv tillhandahålla det material som AI:n ska analysera (exempelvis ladda upp de dokument som ska sammanfattas) minskar man utrymmet för modellen att fylla i luckor med eget påhittat innehåll.

Trots dessa framsteg påminner experterna om att hallucinationer fortfarande kan förekomma.

Slutsatsen är tydlig: all information som genereras av AI måste i slutändan verifieras av en människa för att säkra att de juridiska och ekonomiska riskerna minimeras.