Arbetsförmedlingens AI-system för arbetssökande granskas nu av IMY efter larm och uppgifter om bristande insyn och automatiserade beslut.
Kritiserade AI-algoritmen granskas: Myndigheten tvingas till förhör
Integritetsskyddsmyndigheten inleder en granskning av Arbetsförmedlingen, rapporterar IMY. Tillsynen riktar in sig på det statistiska bedömningsstöd som myndigheten använder för att avgöra vem som får gå programmet Rusta och matcha.
Myndigheten vill veta hur algoritmen fungerar och om arbetssökande ens förstår hur deras personuppgifter hanteras.
Inspektörer kliver in på myndigheten
Inspektionen sker på plats hos Arbetsförmedlingen i slutet av november. Där tvingas företrädare för myndigheten demonstrera hur systemet fungerar live i skarp miljö.
IMY kräver att tekniker, jurister och chefer finns redo för att svara på detaljerade frågor om hur modellen egentligen är uppbyggd.
Granskarna nöjer sig inte med ledningens svar. Under veckorna efter inspektionen genomförs även digitala förhör med handläggare som faktiskt använder systemet i det dagliga arbetet.
Tillsynen ska visa om algoritmen fattar besluten på egen hand utan en verklig mänsklig prövning, vilket i så fall kan strida mot regelverket.
Kan sakna laglig grund för datainsamlingen
IMY utreder också om Arbetsförmedlingen har samlat in mer information än vad lagen tillåter. En central fråga är om stödet följer principen om uppgiftsminimering och om myndigheten har ett giltigt lagstöd för behandlingen.
Enligt tillsynsmyndigheten är insynen avgörande, särskilt när ett digitalt system påverkar enskilda människors möjligheter till jobb och utbildning.
Granskningen är nu i full gång och väntas leda till ett formellt beslut med krav på åtgärder om brister upptäcks.
Läs också:
Kan Riddermark sänka Blocket med egen AI-app? Dagens PS
Regeringen slopade elstödet – nu vill de porta bensinbilarna. E55
