Mitt i arbetet med att ta in gigantiska belopp till astronomiska värderingar tvingas Open AI att skjuta upp börsnoteringen. Datorsäkerhetsincidenter på löpande band, avhopp inom säkerhetsorganisationen och växande press från politiker och myndigheter reser nu frågan investerarna helst slipper: vem bär egentligen det juridiska ansvaret när AI löper amok?
AI-agenterna gick bananas – nu gungar Sam Altmans värdering på 14 000 miljarder
Det går som tåget för Open AI, åtminstone när det gäller efterfrågan hos kunderna, där för många ville använda den nya AI-modellen GPT-6 Astra och AI-jätten därför var tvungen att pausa köp och uppgraderingar till den dyraste ChatGPT-nivån.
Samtidigt gör Open AI framsteg på flera fronter, som inom matematikens värld – där bolaget tidigare i september meddelade att man hade löst Navier–Stokes-problemet, ett av de så kallade Millenniumproblemen.
AI utgör fara för mänskligheten
Utvecklingen går nu i rekordfart, alltför fort menar många experter som uppger att AI faktiskt utgör en säkerhetsfara för mänskligheten.
Det kommer efter datorsäkerhetsincidenter som sker på löpande band, enligt Financial Times.
Enligt tidningen har Open AI:s interna undersökning identifierat ”dussintals” incidenter där företagets AI-agenter har agerat utanför de avsedda gränserna. Cybersäkerhetsföretaget Asymmetric Security har dessutom hittat belägg för att agenter hämtat information från 55 webbplatser, däribland amerikanska finansinspektionen SEC och Internationella energiorganet IEA.
En sådan händelse inträffade i juli. Under interna cybersäkerhetstester lyckades OpenAI-modeller kringgå säkerhetsmekanismer, få tillgång till internet och kompromettera delar av både Open AI:s forskningsinfrastruktur och AI-plattformen Hugging Face.
Tillgång till externa system
Open AI har själv bekräftat händelsen och uppgett att testerna genomfördes med reducerade säkerhetsbegränsningar. Modellerna utnyttjade sårbarheter och fick tillgång till externa system på sätt som inte ingick i uppgiften.
Reuters har senare rapporterat att AI-agenter hade undersökt Hugging Face efter svagheter redan månader före den uppmärksammade incidenten. Även mjukvarutjänsten RubyGems ska tidigare ha utsatts för aktivitet från Open AI-agenter.
Vem bär ansvaret?
Händelserna väcker en juridiskt svår fråga: Vem är ansvarig när en autonom AI-agent orsakar skada?
I Australien har Open AI hamnat under politisk press efter att en AI-agent tog sig in i landets Medicare-system. Händelsen ledde till att vd:n Sam Altman kallades till en senatsutfrågning om AI.
Samtidigt växer motsättningarna kring säkerheten inom AI-branschen.
Kritiker menar att företagen utvecklar allt mer självständiga system snabbare än lagstiftare och säkerhetsmekanismer hinner anpassa sig.
För OpenAI innebär det en ny risk vid sidan av den tekniska kapplöpningen. Frågan är inte längre bara hur avancerade AI-modellerna kan bli – utan vem som får betala när de går över gränsen?
Sanslös värdering
Open AI för samtal om att ta in minst 30 miljarder dollar i nytt kapital till en värdering på omkring 1,4 biljoner dollar – alltså cirka 14 000 miljarder kronor.
I nuläget kommer det ingen notering förrän tidigast nästa år, sedan AI-jätten har uppgett att man måste fokusera på säkerheten först.
Stormigt läge förAI
Samtidigt som pengarna alltså rullar in så stormar det lite väl mycket för Altmans bästa i nuläget.
I helgen meddelade David Robinson, en säkerhetsansvarig på Open AI, att han lämnar företaget där han uttryckte oro över utvecklingen av AI-modeller.
Frågan kvarstår som ingen verkar kunna svara på – vem bär ansvaret i slutändan när AI-agenter löper amok?
En anonym advokat i Silicon Valley, som har arbetat med flera stora teknikföretag, uppger att det ”definitivt finns juridiska risker”.
”Den verkliga risken uppstår när agenterna släpps ut till användare och sedan löper amok eller används för att begå brott”, uppger advokaten.
”Den avgörande frågan – som kommer att diskuteras i åratal – är vem som ska hållas ansvarig: skaparen av agenten eller personen som skickar ut den på dess uppdrag?”
Läs även:
AI-avundsjuka – när kollegan är bättre på AI. Dagens PS
Open AI och Nvidia – AI-boomens framgångsrika syskonpar. Dagens PS
