Det blir allt vanligare att även etablerade aktörer behöver be om ursäkt för AI-misstag. Senast i raden står två sydafrikanska ministrar.
Två ministrar i blåsväder – på grund av AI-hallucinationer
I Sverige höll Ebba Busch (KD) förra året ett tal som innefattade ett citat tillskrivet debattören Elina Pahnke.
I själva verket var citatet en parafras utförd av ett AI-verktyg. En liknande händelse har nu skett i en helt annan del av världen, nämligen Sydafrika.
Två ministrar från Democratic Alliance i landet har hamnat i blåsväder efter att felaktigheter kopplade till artificiell intelligens upptäckts i officiella policydokument.
Hände två gånger om
Den senaste incidenten rör inrikesministern Leon Schreiber, som valde att stänga av två högt uppsatta tjänstemän efter att ett regeringsgodkänt dokument om migrationspolitik visat sig innehålla så kallade AI-hallucinationer.
Det innebär att system genererat information som framstår som trovärdig men i själva verket är felaktig eller helt påhittad, skriver Bloomberg.
Bara dagar tidigare hade kommunikationsministern Solly Malatsi tvingats dra tillbaka ett utkast till en policy om artificiell intelligens.
Dokumentet innehöll flera referenser till källor som inte existerar, något som först uppmärksammades av lokala medier.
Känsliga händelser
Händelserna är särskilt känsliga eftersom Democratic Alliance profilerat sig som en förespråkare för modernisering och ökad användning av teknik i offentlig sektor.
Partiet ingår sedan 2024 i landets styrande koalition och har drivit på för att effektivisera myndigheter som länge kritiserats för låg kapacitet och bristande resultat.
Samtidigt blottlägger incidenterna de utmaningar som följer med att snabbt integrera AI i administrativa processer.
Utan tillräckliga kontrollmekanismer riskerar tekniken att sprida felaktig information i beslutsunderlag på hög nivå, vilket i sin tur kan påverka politiska beslut och förtroendet för myndigheter.
Behöver nya rutiner
Efter avslöjandena har partiet signalerat att nya rutiner ska införas. Bland annat planeras skärpta krav på verifiering av innehåll i dokument där AI använts, som en del av godkännandeprocessen innan publicering.
Fallet illustrerar ett bredare dilemma som många regeringar står inför. Samtidigt som AI kan bidra till effektivitet och bättre analys, kräver tekniken noggrann hantering för att undvika misstag.
I Sydafrika har frågan nu blivit akut, då bristerna blivit synliga på högsta politiska nivå.
Utvecklingen väntas leda till ökad granskning av hur AI används inom offentlig sektor, inte bara i landet utan även internationellt.
Läs mer: AI får den amerikanska ekonomin att växa – men hur länge till? Realtid
