Bill Gates varnar i en intervju för att AI kan orsaka katastrofala konsekvenser för mänskligheten om den kraftfulla och moderna tekniken hamnar i fel händer.
AI-varning från Bill Gates: Kan orsaka en miljard dödsfall
Enligt miljardären Bill Gates, Microsofts medgrundare, handlar det inte främst om att systemen själva tar över utan om illasinnade individer som utnyttjar AI, artificiell intelligens.
Debatten kring AI har under lång tid kretsat kring fiktiva scenarier där datorer utvecklar egen vilja. Bill Gates menar att det verkliga och akuta hotet är betydligt mer handfast och grundar sig i att tekniken kan användas för att skapa avancerade hot.
Biologiska vapen och smittspridning
Det handlar bland annat om risken att utveckla biologiska vapen och utforska farliga patogener som kan hota miljontals människoliv.
”AI är verkligen kraftfull nog att driva händelser som orsakar en miljard dödsfall”, sa Gates i en intervju med Meet the Press på söndagen.
”Det har aldrig funnits ett vapen så kraftfullt som kombinationen av människor med onda avsikter som använder de senaste AI-verktygen”, varnar han, berättar Fortune.
Det dubbla syftet med modern teknik gör att samma system som kan rädda liv genom medicinsk forskning också kan användas för att tillverka destruktiva ämnen. Om dessa verktyg hamnar hos terrorister eller stater med skumma avsikter kan konsekvenserna bli oåterkalleliga.
Otillräckliga säkerhetslösningar
Teknikjättarna har länge förlitat sig på frivilliga riktlinjer och enkla så kallade döda-knappar för att kontrollera sina system. Den strategin sågas av Bill Gates som fullständigt otillräcklig i dagens läge. Han betonar att det krävs lagstiftning och statlig kontroll för att säkerställa att utvecklingen sker på ett ansvarsfullt sätt.
”Det här är det farligaste som människor någonsin har kommit i närheten av. Det här får kärnvapen att se ut som ingenting”, säger han.
Enkel övervakning och spårbarhet av modellerna pekas ut som nödvändiga åtgärder för att förhindra katastrofer. Självreglering bland företagen anses inte fungera eftersom den globala konkurrensen driver på utvecklingen i ett rasande tempo utan tillräcklig eftertanke.
Behovet av internationella regleringar
För att möta hoten efterlyser experter och politiker internationella överenskommelser mellan stormakterna. Diskussioner förs nu om att begränsa system som kan förbättra sig själva utan mänsklig inblandning. Risken med att tappa kontrollen över den egna utvecklingen tas på största allvar i flera länder.
Gates understryker att lagstiftarna måste agera snabbt och innan det är för sent.
Gates uttrycker stor oro för mänskligt missbruk med AI, men branschen brottas också med en annan rädsla där AI-system rymmer ur sina egna miljöer och utom dess skapares kontroll.
