Varningarna haglar när Windows testar självgående AI

Microsofts besked om att en experimentell AI-funktion i Windows kan sprida skadlig kod och avslöja känslig information väcker oro bland säkerhetsspecialister.

Frågan som väcks känns igen: varför rullar teknikjättar ut funktioner innan de går att tygla?

Den aktuella funktionen heter Copilot Actions och beskrivs som ett försök att skapa en mer självständig medhjälpare i systemet, skriver Ars Technic.

Tanken är att verktyget ska kunna genomföra vardagliga uppgifter som att sortera filer, boka möten och hantera e-post, ungefär som en digital assistent som tar egna initiativ. Det låter praktiskt, men här kommer den gamla tumregeln in: allt som gör livet enklare kan också göra problem enklare.

Robotrekord: nästan alla ser produktivitetslyft

Robotar får nu ett varmt mottagande i industrin. En ny rapport visar att tekniken både stärker produktionen och lindrar personalbristen. Det verkar som

Snubbeltrådarna som följer med

Microsofts glada presentation följdes av en tydlig varning: aktivera bara funktionen om du förstår de säkerhetsrisker som ingår. Problemet är att riskerna ligger i själva hjärtat av tekniken.

Stora språkmodeller har en tendens att ge felaktiga svar, ibland kring enkla frågor. Denna benägenhet att hitta på saker kallas hallucinationer, och gör att man måste dubbelkolla allt ett AI-system föreslår.

En annan fallgrop är prompt-injektioner, där angripare placerar dold skadlig text i webbplatser, dokument eller e-post. AI-modellen känner ingen skillnad mellan sådana dolda instruktioner och riktiga användarkommandon, vilket gör att funktionen kan luras att utföra handlingar användaren aldrig godkänt.

Resultatet kan bli stulen data, körning av skadliga program eller tömda kryptoplånböcker.

Problemet är inte nytt, men nu flyttas det in i operativsystemets kärna. Microsoft själv skrev att agentbaserade funktioner medför nya risker, där skadligt innehåll kan överskrida avsikten med AI-verktyget och leda till oönskade handlingar.

Gemini 3 lanserad i dag: Vi förklarar vad som faktiskt är nytt

Google lanserar Gemini 3, ett nytt AI-verktyg som skapar tydligare vägledning i både arbete och vardag med mer träffsäkra svar. Google fortsätter att