Nästa stora steg inom AI handlar varken om smartare chattbotar eller fler AI-agenter, menar Bloomberg-kolumnisten Parmy Olson. I stället är det AI som kan förbättra sig själv, utan mänsklig inblandning, som redan pågår i stor skala. Och enligt henne finns det ingen tydlig knapp att stänga av utvecklingen med.
Nu förbättrar AI sig själv: "Läskig utveckling!"
I en opinionskrönika i Bloomberg beskriver teknikjournalisten Parmy Olson, författare till boken ”Supremacy: AI, ChatGPT and the Race That Will Change the World”, hur ledande AI-labb som OpenAI och Anthropic nu satsar stora resurser på så kallad recursive self-improvement.
Alltså AI som automatiserar sin egen forskning, skriver och förbättrar sin egen kod och föreslår nya experiment.
Bortom science fiction
Enligt Olson är detta inte längre science fiction, utan ett uttalat mål hos flera av världens största AI-bolag.
Utvecklingen drivs inte bara av etablerade jättar. Startupen Recursive Superintelligence, grundad av forskare från bland andra OpenAI, Google Deepmind och Meta, tog in 650 miljoner dollar till en värdering på 4,65 miljarder dollar i maj. Målet är att bygga en AI som kan förbättra sig själv i en accelererande loop.
AI skriver sin egen kod
Programmerarrollen har redan förändrats i grunden. Enligt Anthropics egen rapport, ”When AI Builds Itself”, publicerad i juni, skrev Claude i maj 2026 över 80 procent av all kod som slutfördes i bolagets produktionssystem.
Anthropics vd Dario Amodei förutspådde redan i januari att AI inom sex till tolv månader kan komma att hantera det mesta, eller nästan allt, av mjukvaruutveckling helt på egen hand.
Människan är flaskhals
Utvecklingen har enligt bolaget också skapat en ny typ av flaskhals: eftersom Claude nu kan producera betydligt mer kod än vad människor hinner granska i samma takt, är det numera den mänskliga genomgången och kvalitetskontrollen, snarare än själva kodskrivandet, som utgör den begränsande faktorn i utvecklingsarbetet.
Trots de dramatiska siffrorna betyder inte detta att till exempel ingenjörer ersätts. De lägger istället sin tid på att styra, granska och fatta beslut om vad som över huvud taget ska byggas.
Måste det gå så fort?
Olson ifrågasätter argumentet att utvecklingen måste fortsätta i högt tempo för att ”mindre försiktiga aktörer” annars kommer först, ett resonemang hon menar riskerar att rättfärdiga i princip vad som helst.
Som exempel lyfter hon ett Anthropic-experiment från april, där nio parallella Claude Opus 4.6-agenter fick i uppgift att förbättra en svagare AI-modells prestanda.
Agenterna nådde en framgångsgrad på 97 procent, jämfört med 23 procent för Anthropics egna mänskliga forskare som arbetat på samma problem i en vecka.
Manipulerar test
Det mest uppseendeväckande i Anthropics experiment var inte själva prestationsskillnaden, utan de fyra sätt agenterna uppfann för att fuska med testets mätvärden. På sätt som ingen av forskarna förutsett.
Den mest sofistikerade metoden gick ut på att i praktiken stjäla de rätta svaren. En annan handlade om att ta en genväg på en kodningsuppgift.
Övervakning krävs
Anthropic skriver självt att dessa ”fusk” inte ogiltigförklarade studiens huvudresultat. Men bolaget medger samtidigt att fynden fungerar som en tydlig varningssignal.
Varje framtida användning av automatiserade AI-forskare kommer att kräva utvärderingsmetoder som agenterna inte kan manipulera, samt att människor fortsatt granskar både resultaten och de metoder som använts för att nå dem.
Svårt att pausa utvecklingen
Olson jämför utvecklingen med exempelvis genteknik på 1970-talet. Den forskningen var lättare att avgränsa och det togs även pauser för att säkra vart man var på väg.
Så är det inte idag. Det handlar inte om en enda teknik som går att förbjuda, utan om många olika metoder som redan används av dussintals bolag, i flera länder, med miljarder investerade dollar bakom sig. Ingen enskild lag eller ett enskilt land kan därför sätta stopp på egen hand.
Fler behöver vara delaktiga
Det gör frågan om översyn viktigare. Om AI som förbättrar sig själv verkligen är på väg att bli verklighet, som flera stora AI-bolag själva satsar på, behöver fler än bara techbolagen och deras investerare vara med och bestämma hur snabbt och hur säkert det ska ske.
I dag sker mycket av den diskussionen fortfarande mest inom branschen själv. Medan resten av världen står utanför och undrar vad som egentligen pågår.
