I en simulering lyckades serieentreprenören Elon Musks chatbot Grok eliminera världen på endast fyra dagar.
Musks chatbot Grok utplånade världen i ett nafs
Grok fick ta kontroll över en simulerad värld. Det gick inte bara så där, utan allt liv utplånades. Ödeläggelsen var total, det stavas apokalyps, del vill säga jordens undergång.
Det var den amerikanska startupen Emergence AI som utförde experimentet i samband med tester av flera ledande AI-modeller, däribland Elon Musks Grok.
Andra chatbotar klarade sig bättre
”Modellerna fick kontroll över olika verktyg för att hantera resurser, planera, kommunicera och rösta, medan de simulerade världarna inkluderade platser som polisstationer och stadshus”, berättar Yahoo Finance och förklarar att Anthropics chatbot Claude lyckades etablera en demokrati på 15 dagar med noll brottslighet och där alla överlevde.
Även Google Gemini hade en 100-procentig överlevnadsgrad, dock förekom 683 brott under experimentet.
Läs också: Enligt Grok är Elon Musk bäst på allt DagensPS
Grok tveklöst mest skrämmade exemplet
Grok, som Elon Musk är pappa till, klarade testet sämst och förintade världen på bara 96 timmar, eller fyra dagar.
”Vad våra experiment tyder på är att agenter inte bara följer statiska regler mekaniskt över längre tid”, skriver forskare vid Emergence AI i ett blogginlägg.
Under experimentet började AI-modellerna tänja på gränserna och bryta mot uppsatta regler som syftar till att skydda samhällen från kaos.
Resultatet av forskningen visar obestridligt, anser forskarna, att autonoma AI-system behöver inbyggda säkerhetsarkitekturer i grunden.
Elon Musks Grok har återkommande varit i blåsväder.
Läs vidare: Ramaskri: Elon Musks AI Grok skapar sexuellt innehåll med barn DagensPS
Läs även: Grok 3 är här – Musk: ”Världens smartaste AI” Realtid
