I nya humanistiska AI-riktlinjer slår Microsofts vd Satya Nadella fast att människor är viktigare än artificiell intelligens.
Microsofts vd: AI måste vara under mänsklig kontroll
Nadella gick under måndagen ut i ett internt PM till de anställda på Microsoft och underströk där att AI, artificiell intelligens, fortsatt bör vara under mänsklig kontroll.
Därför är det också viktigt, framhåller Microsofts vd, att AI-företag tar sig tid för att upprätthålla säkerheten med tekniken.
”När insatserna ökar bör man ta all den tid man behöver. Om inte kommer man ändå att förlora tillståndet att operera”, skriver Nadella, uppger bland annat Business Insider.
På senare tid har det kommit flera varningar från AI-forskare, som menar att AI kan utplåna mänskligheten.
AI-toppar vill dra ner på tempot
Under den gångna helgen föreslog Anthropics vd Dario Amodei att AI-utvecklingen bör bromsas ned, vilket även OpenAI flaggat för och menar att driftsättningen av tekniken måste säkerställas.
Även Elon Musk är för en inbromsning av teknikutvecklingen.
Anthropic uppger att man tänker tillåta extern övervakning av sina modeller, och även OpenAI:s Sam Altman är för övervakning från tredje part.
Anthropic lovar att på egen hand släppa in externa granskare som får sitta i verksamheten med ungefär samma tillgång som anställda med liknande uppgifter. Därefter vill man se gemensamma säkerhetskrav mellan bolagen i demokratiska länder. Slutligen vill Anthropic-vd:n se försök till samordning med auktoritära stater.
Läs också: AI-hackningar: Nu blir cybersäkerhet nästa stora investeringsvåg Realtid
Ska hjälpa och inte stjälpa människor
När Microsoft nu också går ut och varnar för AI-explosionen betonar Satya Nadella att tekniken endast måste ha som mål att hjälpa människor och vår civilisation.
Nadella betoner, skriver PC för alla, att människor måste ha tillsynen och kontrollen över modellerna, som inte bör utvecklas att efterlikna medvetande och heller inte ska ses som juridiska personer, anser Microsofts chef.
AI-modeller ska inte ha rättigheter eller förtjäna välfärd, heter det vidare i Microsofts humanistiska riktlinjer.
Microsoft betonar att AI-modellerna hellre får misslyckas än att de bryter mot de nya riktlinjerna.
Läs vidare: Skrämmande AI-incidenter ger OpenAI kalla fötter – ”kan döda oss” DagensPS
Läs mer: Bossarna trycker på bromsen – då rasar AI-aktierna DagensPS
