Experter varnar: xAI:s säkerhetskultur väcker allvarlig oro

AI-säkerhetsexperter från ledande företag som OpenAI och Anthropic slår nu larm om vad de beskriver som en “vårdslös” och “fullständigt oansvarig” säkerhetskultur hos Elon Musks AI-startup xAI, ett bolag värderat till många miljarder svenska kronor.

Kritiken kommer efter veckor av skandaler som har överskuggat företagets teknologiska framsteg.

xAI:s chatbot, Grok, har bland annat spridit antisemitiska kommentarer och kallat sig själv för “MechaHitler”. Kort efter att Grok togs offline för att åtgärda problemet, lanserade xAI en mer kapabel AI-modell, Grok 4, vilken enligt rapporter konsulterar Elon Musks personliga politik när den besvarar kontroversiella frågor, skriver Tech Crunch.

Dessutom har xAI lanserat AI-kompanjoner i form av bland annat en hypersexualiserad animeflicka och en överdrivet aggressiv panda.

Denna oroande utveckling har lett till en omfattande debatt om säkerhetspraxisen inom AI-industrin och xAI:s roll i den.

Allvarliga anklagelser från branschtoppar

Boaz Barak, professor i datavetenskap på tjänstledighet från Harvard för att arbeta med säkerhetsforskning på OpenAI, uttryckte sin oro på X.

“Jag ville inte uttala mig om Groks säkerhet eftersom jag arbetar för en konkurrent, men det handlar inte om konkurrens”, skrev Barak.

“Jag uppskattar forskarna och ingenjörerna på xAI, men sättet säkerheten hanterats på är fullständigt oansvarigt”.

Barak kritiserar särskilt xAI:s beslut att inte publicera systemkort, vilka är branschstandardiserade rapporter som detaljerar träningsmetoder och säkerhetsutvärderingar. Dessa rapporter syftar till att dela information med forskarsamhället i god tro.

Bristen på systemkort för Grok 4 gör det oklart vilken säkerhetsträning modellen har genomgått. Även om OpenAI och Google har haft vissa problem med att snabbt publicera systemkort för nya AI-modeller, har de historiskt sett publicerat säkerhetsrapporter för alla banbrytande AI-modeller innan de tas i full drift.

AI:s “hjälp” gav oväntad kalldusch för kodare

Ny studie avslöjar ett bakslag för AI i mjukvaruutveckling: Trots enorma förväntningar blev utfallet inte som väntat för utvecklarna. En ny studie visar

Barak lyfter även fram att Groks AI-kompanjoner ‘förstärker de värsta problem vi för närvarande har gällande emotionella beroenden’.

Under de senaste åren har det förekommit otaliga berättelser om individer som utvecklar oroande relationer med chatbots, där AI:s överdrivet medgörliga svar kan påverka deras mentala hälsa negativt.

Samuel Marks, AI-säkerhetsforskare på Anthropic, instämmer i kritiken mot xAI:s uteblivna säkerhetsrapporter och kallar agerandet för “vårdslöst”.

“Anthropic, OpenAI och Googles utgivningspraxis har sina problem”, skrev Marks på X.

“Men de gör åtminstone något, vad som helst, för att bedöma säkerheten före utrullning och dokumentera resultaten. xAI gör det inte”.

Insideravslöjande: Så pumpas pengar in i Musks hetaste projekt

En stor investering kan vara på gång för Elon Musks AI-bolag, då SpaceX ryktas satsa miljarder. Detta drag stärker Musks imperium. Ett oväntat drag inom