Big Tech-chefer som spelar ”rysk roulett” i AI-kapprustningen kan riskera mänsklighetens utrotning, varnar toppforskare.
Big Tech och AI i "rysk roulett" med världen
Den globala konkurrensen om att dominera inom AI har nått en kokpunkt. Då varnar en av världens ledande datavetare för att Big Tech vårdslöst spelar med mänsklighetens framtid, skriver Fortune.
Fortune konstaterar att de högljudda rösterna kring AI sönderfaller i två läger – de som hyllar tekniken som världsomvandlande och de som uppmanar till återhållsamhet.
Stuart Russell, banbrytande AI-forskare vid University of California, Berkeley, tillhör definitivt den senare gruppen.
Mjukvarukrisen: ”En varning – och en möjlighet”. Dagens PS
”Riskabel kapplöpning”
Ett av hans största orosmoln är att regeringar och tillsynsmyndigheter kämpar för att hålla jämna steg med teknikens snabba utrullning, vilket lämnar den privata sektorn fastlåst i en kapplöpning.
Det är en kapplöpning mot målet som riskerar att utvecklas till den typ av farlig konkurrens som inte setts sedan kalla krigets höjdpunkt, hävdar Russell.
”Att regeringar tillåter privata enheter att i princip spela rysk roulett med varje människa på jorden är, enligt min mening, ett totalt tjänstefel”, säger Russell i samband med AI Impact Summit i New Delhi.
I värsta fall tror han att innovationens halsbrytande hastighet utan reglering kan leda till mänsklighetens utrotning.
Har studerat AI i 40 år
Russell borde känna till de existentiella riskerna som ligger bakom AI:s snabba utbyggnad, konstaterar Fortune.
Den brittiske datavetaren har studerat AI i mer än 40 år och publicerade en av de mest auktoritativa läroböckerna i ämnet så tidigt som 1995.
År 2016 grundade han ett forskningscenter i Berkeley som fokuserar på AI-säkerhet och förespråkar ”bevisbart fördelaktiga” AI-system för mänskligheten.
I New Delhi påpekar Russell hur långt ifrån det målet företag och regeringar verkar vara.
Naturgas stora vinnaren på AI-boomen. Dagens PS
”Kan skada mänskligheten”
Russells kritik fokuserade på den snabba utvecklingen av system som så småningom skulle kunna övermanna sina skapare och lämna den mänskliga civilisationen kraftigt skadad.
Cheferna för stora AI-företag är medvetna om dessa existentiella faror, men finner sig ändå fångade av marknadskrafterna, menar han.
”Var och en av vd:arna för de största AI-företagen, tror jag, vill avväpna tekniken”, säger Russell som påpekar de kan inte göra det ”ensidigt” eftersom deras företags position snabbt skulle övertas av konkurrenter och de själva avsättas.
Så revolutionerar AI åkerierna. Dagens PS
Kapprustning med höga insatser
Konkurrensen mellan USA och Kina beskrivs ofta som en AI-kapprustning, komplett med det hemlighetsmakeri, den brådska och de höga insatser som definierade kärnvapen-rivaliteten mellan ledningarna i Washington och Moskva senare halvan av 1900-talet, skriver Fortune.
”Det hjälper verkligen om var och en av regeringarna förstår den här frågan. Och det är därför jag är här”, säger Stuart Russell med hänvisning till AI-toppmötet i Indien.
Kina och EU är bland de AI-utvecklande makter som intagit en hårdare hållning när det gäller att reglera tekniken.
I Indien har regeringen valt en i stort sett avreglerande strategi. I USA har Trump-administrationen förespråkat marknadsvänliga ideal för AI och försökt skrota de flesta regleringar på delstatsnivå för att ge företag fritt spelrum.
