Nytt förödande hot från AI: Biologiska vapen

Potentialen med AI är stor. Enligt förespråkarna kan modellerna nu och i framtiden hjälpa till med att ta fram nya läkemedel. De kan också utveckla vaccin och lösningar inom allt från energi till klimat.

Men det finns även stora risker. Samma modeller som kan utveckla ett läkemedel kan också utveckla biologiska vapen. Utvecklare Open AI varnar nu för detta, skriver Ny Teknik.

Missa inte:
Påven varnar: “AI ett hot mot mänsklig värdighet”. Dagens PS

Just nu är risken inte så stor men enligt Open AI kan framtida, kraftigare modeller, vara en “hög risk”.

“Vi förväntar oss att några av efterföljarna till vår resonerande o3-modell når den nivån”, säger Johannes Heidecke, chef för säkerhetssystem på Open AI till Axios.

Det räcker med att bara en lyckas

Tekniken kan potentiellt användas av amatörer. De kan få tillgång till avancerad expertkunskap inom tillverkning av kemiska- eller biologiska vapen. I princip räcker det med att de bara lyckas få hjälp en gång.

“Det här är inte en situation där det räcker med att vara 99 procent framgångsrik, eller att det är okej att misslyckas engång på hundratusen. Vi behöver i stort sett perfektion,” säger Johannes Heidecke.

Open AI arbetar redan nu med att övervaka användningen av sina modeller. De samarbetar också med myndigheter. Dessutom använder de specialiserade säkerhetstestare tillsammans med domänexperter för att upptäcka brister.

Ska samla branschen

Men även om Open AI lyckas hålla tätt så är oron att andra modeller kan hjälpa fel personer. Dessa modeller, som även de blir allt kraftigare, kan vara farliga.

Läs även:
Robotarna tar över – AI-boomen flyttar ut i verkligheten. Realtid

Därför ska Open AI under juli anordna en konferens med andra aktörer. Syftet är att säkerställa att tekniken inte bidrar till utveckling och spridandet av skadlig information.

“Vi ska utforska olika typer av arbete som vi kan göra när det gäller hur vi potentiellt kan använda själva tekniken.” Målet är att bli verkligt effektiva i att kunna bekämpa andra som kanske försöker missbruka den, säger Chris Lehane, policychef på Open AI till Axios.