Nu kräver den amerikanska AI-jätten Anthropic, som värderas till hisnade 9 000 miljarder kronor, att den framrusande tekniken pausas.
Anthropic apokalyps-varnar – kräver omedelbar AI-paus
Orsaken är att AI-modeller är på väg att överträffa den mänskliga hjärnan i intelligens, vilket i förlängningen kan äventyra allas vår existens.
Det går för fort och den explosionsartade utvecklingen med artificiell intelligens riskerar att bli smartare än människan, varnar Anthropic som nyligen tog in runt 600 miljarder kronor i kapitalrunda som värderar bolaget till nästan 1 biljon dollar, alltså omkring 9 000 miljarder kronor, inför sin hägrande mega-börsnotering.
Trots att Anthropic är en gigant inom den moderna och hajpade tekniken vill företaget nu att ledande AI-labb trycker på bromspedalen.
Läs också: Anthropic jämförs med minfält: Investera inte i oss! DagensPS
Anthropic: Tryck på bromspedalen direkt
Annars hotar AI, enligt bjässen, att skada samhällen. Riskerna är uppenbara, heter det, om AI-systemen får utvecklas i samma snabba takt som nu är fallet. Då kan tekniken överglänsa människan. Därför är det ”en bra sak” att trycka på pausknappen. Innan det är för sent, varnar Anthropic i ett blogginlägg, berättar bland andra The Wall Street Journal.
Författarna bakom blogginlägget är chef för AI-jättens forskning och den andra en av företagets grundare. Oron är stor enligt duon Marina Favaro och Jack Clark för en ”rekursiv självförbättring” när AI-system förbättras av sig själva utan mänsklig inblandning.
Missa inte: Anthropics modell för kraftfull för att släppas – men stämmer det? Realtid
Får medhåll av andra proffs i branschen
”Vi tror att det vore bra för världen att ha möjlighet att sakta ner eller tillfälligt pausa utvecklingen av AI i frontlinjen för att göra det möjligt för samhällsstrukturer och forskning om samordning att hålla jämna steg med teknikens framsteg”, skriver Favaro och Clark, berättar WSJ och konstaterar att vissa insynspersoner inom AI delar den uppfattningen och varnar för att den viktiga tröskeln inte får passeras, då det kan utgöra en ”fara för enorm samhällsomvälvning”.
Anthropic efterlyser nu ett avtal globalt som saktar ner farten i AI-boomen och att det är viktigt att konkurrenterna är med på tåget.
Om inte det sker kan världen ställas när som helst inför en ny verklighet där inblandade aktörer överrumplas och blir tagna på sängen.
Läs även: Anthropics revansch – värderas högre än OpenAI DagensPS
Får kritik men stöd av tunga experter
Sedan starten har Anthropic slagit vakt om säkerheten kring artificiell intelligens, men det arbetet kritiseras av en del som menar att företaget fnöske hämma rivalernas framsteg.
David Sacks, riskkapitalinvesterare och informell rådgivare till president Trump, är en av dessa kritiker, berättar WSJ.
Andra kritiker hävdar att Anthropics AI-varningar bara är ett marknadsföringsknep, men flera forskare och professor ger stöd för Anthropics farhågor.
Varnar för det existentiella hotet med AI
”I avsaknad av en samordnad, global avmattning står vi kvar med den nuvarande situationen: kraftfull teknik som utvecklas i halsbrytande fart av en mängd olika aktörer i en mängd olika länder, fastlåsta i en konkurrens med varandra där kommersiell och geopolitisk rivalitet överröstar de större existentiella-för-arten-aspekterna av den teknik som byggs”, sade Anthropic-medgrundaren Jack Clark vid en föreläsning i London förra månaden.
Mot bakgrund av detta hoppas Anthropic Institute, som är företagets interna forskningsavdelning, att fler i branschen nu vill samarbeta för att bidra till att utforma tryggare AI-system.
Läs vidare: Anthropic täpper till kryphål för investerare – drabbar svenska småsparare DagensPS
Liknar samarbetet med ett kärnvapenavtal
Anthropic gör ingen hemlighet av andra konkurrenter som vägrar vara med kan få ett försprång i AI-utvecklingen. Man liknar den föreslagna överenskommelsen vid ett kärnvapenavtal som det är högst primärt att alla inblandade aktörer inte bryter.
Samtidigt ser man en stor risk för fusk.
”Träningslopp är mycket lättare att dölja än missilsilos”, det vill säga underjordiska, vertikala och kraftigt förstärkt anläggning som används för att lagra och avfyra interkontinentala ballistiska missiler.
Läs även: Säljer lyxvilla – vill ha betalt i Anthropic-aktier DagensPS
