Världens ledare sviker sitt ansvar genom att låta techjättar driva en okontrollerad AI-utveckling. Det menar den högt ansedda forskaren Stuart Russell, som nu varnar för att den rådande AI-kapprustningen kan leda till mänsklighetens undergång.
Professor varnar för AI-hysterin: "Rysk roulette"
Det pågår en global tävling mellan världens största teknikbolag om att skapa alltmer kraftfull artificiell intelligens. Men enligt Stuart Russell, professor i datavetenskap vid University of California, Berkeley, sker detta med en extrem riskinsats. Under AI Impact Summit i New Delhi riktade han skarp kritik mot hur tekniken hanteras i dag.
Russell liknar situationen vid att regeringar tillåter privata aktörer att spela rysk roulette med varje människa på jorden. Att låta denna utveckling fortsätta utan kraftfull reglering beskriver han som ett totalt tjänstefel från politiskt håll.
Läs också: Experter: AI kan utrota mänskligheten DagensPS
Risk för utrotning av mänskligheten
Även om AI bär på löften om genombrott inom medicin och vetenskap, menar Russell att hoten är betydligt mer existentiella än enbart förlorade jobb eller ökad övervakning. Den största faran ligger i utvecklingen av superintelligenta system som kan övermanna människan.
Läs även: AI-hotet som analytikerna inte vill räkna på Realtid
Enligt professorn finns en reell risk att AI-system tar kontrollen och att den mänskliga civilisationen blir en sidoskada i processen. Han betonar att cheferna för världens ledande AI-bolag själva är medvetna om dessa faror. Flera av dem har i privata samtal, och i vissa fall offentligt, medgett att tekniken kan leda till mänsklig utrotning. Trots detta fortsätter kapprustningen, då inget enskilt bolag vill eller kan kliva av ensidigt.
Läs även: Världens rikaste: Spara till pensionen meningslöst DagensPS
”Att regeringar tillåter privata enheter att i princip spela rysk roulette med varje människa på jorden är enligt min mening ett totalt tjänstefel”, säger Russell till AFP vid AI Impact Summit i New Delhi, berättar Fortune.
Läs vidare: ”Omtänksamma AI-mödrar” – kommer inte utrota oss DagensPS
En växande motrörelse bland yngre
Vid toppmötet i Indien, där även giganter som Google, Microsoft och Nvidia närvarade för att presentera nya miljardsatsningar, efterlyste Russell ett internationellt ingripande. Tidigare globala toppmöten har främst resulterat i frivilliga överenskommelser, vilket Russell inte anser vara tillräckligt för att bromsa utvecklingen.
Han ser dock tecken på en växande motreaktion, särskilt bland den yngre generationen. Det finns ett tilltagande motstånd mot de dehumaniserande aspekterna av AI, där tekniken i allt högre grad används för att imitera och därmed ersätta människor i stället för att bistå dem.
Ansvaret för att rädda arten vilar nu på världens ledare, menar Russell. Utan kollektiva och tvingande åtgärder riskerar den tekniska utvecklingen att passera en gräns där människan inte längre håller i taktpinnen.
Läs vidare: Svenskars okunskap kan kosta dem jobben DagensPS
Läs mer: Tekniken splittrar Europa – här är AI-användningen tabu (Dagens PS)
