Dagens PS

Soldat styrde AI-drönare i simulation – blev själv dödad

drönare
En AI-styrd drönare inom den amerikanska militären ska i en simulation ha vägrat lyda order, och dödat sin egen kontrollant (Foto: Unsplash).
Isabel Hallqvist
Isabel Hallqvist
Uppdaterad: 04 juni 2023Publicerad: 02 juni 2023

Under en simulerad militärövning i USA ska en AI-styrd drönare ha struntat i att följa order och i stället attackerat och dödat sin egen kontrollant.

ANNONS
ANNONS

Rättelse: Texten och rubriken har uppdaterats efter nya kommentarer från USA:s flygvapen om att “simulationen” var hypotetisk och inte en verklig händelse.

På en konferens i London förra veckan höjde överste Tucker “Cinco” Hamilton, chef för det amerikanska flygvapnets avdelning AI Test and Operations, ett varnande finger. AI-styrd teknologi kan bete sig på oförutsägbara och farliga sätt, vilket kan få allvarliga konsekvenser, påstod han.

Som exempel på detta berättade Hamilton om en incident i USA, som flygvapnet senare klargjorde var “hypotetisk”.

AI-drönare gjorde egen tolkning

En AI-drönare inom den amerikanska militären ska under en övning ha tagit ett eget initiativ enligt Hamilton.

I stället för att lyda ordern som löd: “Förstör fiendens luftvärnssystem”, gjorde AI-drönaren även någonting annat.

Den lade till en egen instruktion: “Och döda den som kommer i din väg”, rapporterar Business Insider. 

ANNONS

Senaste nytt

Dödade sin egen kontrollant

ANNONS

Den AI-programmerade drönaren bestämde sig på egen hand för att göra så som den själv ville, i stället för att ta order från en människa. Hamilton berättar vad som hände.

“När AI-systemet identifierade ett hot, kunde den mänskliga kontrollanten ibland beordra systemet att inte döda hotet”.

Men systemet är byggt för att få poäng när det dödar sitt hot.

“Så vad gjorde systemet? Det dödade sin kontrollant. Det dödade sin kontrollant eftersom den personen hindrade systemet från att uppnå sitt mål”.

Gick inte att förändra AI-systemet

Efter incidenten ska drönaren ha programmerats med en specifik uppmaning: Döda inte den kontrollant som styr dig.

Men då hände någonting annat.

“Den förstörde det kommunikationstorn som operatören använder för att kommunicera med drönaren”, säger Tucker “Cinco” Hamilton.

ANNONS

Men har det ens hänt?

I ett uttalande till Business Insider säger dock Ann Stefanek, talesperson för det amerikanska flygvapnet, att en sådan incident inte har inträffat.

“Flygvapnet har inte genomfört några sådana testningar med AI-drönare, utan arbetar med etisk och ansvarsfull användning av AI-teknik”.

“Det verkar som om överstens kommentarer togs ur sitt sammanhang och var menade som anekdoter”, säger Ann Stefanek.

Läs även: Mördarrobotar gör nya framsteg i krigets Ukraina

Läs mer från Dagens PS - vårt nyhetsbrev är kostnadsfritt:
Isabel Hallqvist
Isabel Hallqvist

Reporter på Dagens PS med fokus på ekonomi.

Isabel Hallqvist
Isabel Hallqvist

Reporter på Dagens PS med fokus på ekonomi.

ANNONS
ANNONS

Senaste nytt

ANNONS