Tvärtemot flera amerikanska AI-toppar bedömer den svenska professorn att AI-risken är ”låg” men inte går att ”utesluta”.
Svensk professor om AI-risken: Den är låg
AI-agenter som lever sitt eget liv och hackar en konkurrent blev för många droppen som fick bägaren att rinna över.
Efter det har såväl OpenAI, som var direkt exponerad för den skrämmande händelsen, som Anthropic gått ut och slagit fast att utvecklingen med den snabbt forcerande tekniken måste bromsas.
Läs också: Intrånget sprider skräck i AI-världen: ”Mest oroande hittills” DagensPS
Det har hänt när AI-paniken sprider sig
En forskare har också lämnat sin tjänst med motiveringen att han inte vill vara med och medverka till att artificiell intelligens i värsta fall utplånar mänskligheten.
Elon Musk, världens rikaste person och vd för SpaceX och Tesla, tillika den sociala medieplattformen X och AI-chatboten Grok, har stämt in i kören av AI-toppar som anses att den framrusande utvecklingen måste sakta ner.
Omvänt har en del andra techtoppar, som exempelvis Metas Mark Zuckerberg, uttryckt att det inte finns skäl att bromsa utvecklingen men menar att säkerheten ligger i allas intresse när det gäller AI-modeller.
Nvidias vd Jensen Huang håller i sin tur med USA:s president Donald Trump, som hävdar att varningarna är överdrivna och kallar det för ”bluff”.
Samtidigt, från Kina, är det mest tyst om AI-hotet.
Läs mer: Bossarna trycker på bromsen – då rasar AI-aktierna DagensPS
Professorn: Det är utmaningen med tekniken
I Sverige säger Fredrik Heintz, professor i datavetenskap vid Linköpings universitet, att hotet inte är så existentiellt som det hävdas.
Han är inte rädd för att mänskligheten ska utplånas på grund av tekniken, även om han tycker att det finns anledning att vara orolig över oförutsägbarheten hos vissa modeller.
”Det finns en stor utmaning idag i att vi har väldigt lite insyn och externa tredjepartsobservatörer som utvärderar systemen. Det är en sak som skulle öka transparensen och förståelsen”, säger professorn till SVT:s Aktuellt.
Han tror dock inte att artificiell intelligens kommer att öka så snabbt som det gjort i dag framöver och ser sammantaget risken för ett hot mot mänskligheten som ”låg men går inte att utesluta”.
Läs mer: Kina tiger om AI-riskerna trots oron från USA:s techbjässar DagensPS
Läs även: AI-hackningar: Nu blir cybersäkerhet nästa stora investeringsvåg Realtid
