AI identifierade ett civilt kinesiskt fartyg som lastat med kärnvapen-utrustning. När felet upptäcktes var redan amerikanska bombplan på väg.
Nära attack sedan AI trott fartyg bar kärnvapen
AI identifierade lasten på ett kinesiskt fartyg i Mellanöstern som utrustning för utveckling av kärnvapen.
Larmet efter misstaget gjorde att amerikanska militärflygplan skickades ut och att amerikanska styrkor sattes i beredskap.
Händelsen, i början av sommaren, gjorde ett amerikanska styrkor förberedde sig för att borda fartyget, samtidigt som militärflygplan larmats ut, rapporterar CNN.
Insatsen avbröts strax innan fartyget skulle bordas, sedan amerikansk underrättelsepersonal upptäckt att rapporten om lasten var AI-genererad.
Varningen: ”Snart styr AI svärmar med tusen drönare”. Dagens PS
”Belyser riskerna med AI”
Den amerikanska militären använder i allt högre grad AI, bland annat när det gäller att analysera underrättelsedata och för att välja mål.
En källa hos CNN menar att den aktuella händelsen belyser riskerna i sammanhanget.
”Användningen av AI vid val av mål ökar definitivt, och det saknas tydliga riktlinjer för hur mänsklig tillsyn kan förhindra civila förluster eller incidenter med eld mot egna styrkor”, säger källan.
Kina och USA ska ”diskutera rutiner”
I efterdyningarna har USA och Kina arbetat på sätt att informera varandra om säkerhetsrelaterade AI-incidenter.
”Vi kommer att börja diskutera rutiner så att båda parter kan enas om vilka som är de viktigaste AI-riskerna”, säger USA:s finansminister Scott Bessent hos CNBC.
Enligt Scott Bessent har USA och Kina diskuterat möjligheten att öppna en kommunikationskanal för framtida AI-relaterade incidenter.
Det skulle vara ”så att båda sidor kan enas om vilka de främsta AI-riskerna är – vare sig det handlar om okontrollerbara agenter, icke-statliga aktörer inom cyberområdet eller icke-statliga aktörer som hanterar biologiska vapen”, enligt Bessent.
USA tar strid mot EU: Vill stoppa Musks miljardböter. Dagens PS
Lägger ansvaret hos utvecklarna
Bessent försöker annars lägga ansvaret på AI-utvecklarna. De ”måste ta ansvar för sig själva2 i stället för att vänta sig att regeringen ska ge dem ett ”ansvarsskydd”, menar Bessent.
”Det är människor som bär ansvaret, inte AI:n”, säger Bessent hos CNBC, tillfrågad om han delar Donald Trumps motstånd mot hårdare reglering av AI-sektorn.
Vissa ledande företrädare för sektorn har slagit larm om risker med sina snabbt utvecklade modeller.
Deras uppmaningar om att bromsa utvecklingen har mött motstånd från Trump.
AI har diskuterats noggrant med Kina, säger Bessent som mött sin kinesiske motsvarighet He Lifeng.
Scott Bessent säger även att han haft ett tolv timmar långt möte med Kinas vice premiärminister och att de två bland annat diskuterat AI och att ett nytt toppmöte mellan Trump och Xi Jinping kan bli aktuellt i Shenzhen i Kina i november.
