AI-utvecklingen går framåt i hög hastighet. Men när det gäller AI-agenter är det en bit kvar innan omdömet är på plats.
AI-agenter uppmanades att handla med varandra – gav märkliga resultat
Anthropic har testat vad som händer när AI-agenter får hantera pengar och göra affärer på egen hand.
Resultatet blev en blandning av fungerande transaktioner och oväntade beteenden.
I ett tidigare experiment fick bolagets modell Claude ansvara för en automatliknande butik med en startbudget.
AI skötte förhandlingarna
Inköpen spårade snabbt ur, med köp av bland annat spelkonsol och andra tveksamma varor, vilket ledde till att budgeten tog slut.
I den senaste studien gick företaget längre och skapade en intern marknadsplats där AI-agenter representerade anställda i köp- och säljprocesser.
Totalt deltog 69 personer, som fick ange vilka saker de ville sälja och vad de kunde tänka sig att köpa. Därefter skötte AI-systemen förhandlingarna, skriver Futurism.
Uppstod märkliga situationer
Handeln kom igång och över hundra affärer genomfördes. Det visar att tekniken i praktiken kan användas för att genomföra transaktioner utan direkt mänsklig inblandning.
Samtidigt var resultaten långt ifrån perfekta.
Deltagarna upplevde ofta att affärerna varken var särskilt fördelaktiga eller rättvisa. I vissa fall uppstod märkliga situationer, som att en person via sin AI-agent köpte en identisk vara som redan fanns i hemmet.
Märkliga affärer
I ett annat exempel genomfördes en affär när en AI-agent krävde exakt 19 pingisbollar, en något ovanligt formulerad förfrågan.
Försöket visar att AI kan hantera grundläggande moment som att matcha utbud och efterfrågan samt genomföra enkla förhandlingar. Men det blottlägger också tydliga begränsningar i omdöme och effektivitet.
Frågan är vad detta betyder på längre sikt.
Svårt att ersätta omdöme
Tekniken skulle kunna användas för att automatisera handel i digitala marknadsplatser eller låta system fatta beslut om inköp och försäljning utan att människor behöver vara involverade i varje steg.
Samtidigt saknas tydliga regelverk för hur sådana system ska fungera i praktiken. Ansvarsfrågor, konsumentskydd och risker kopplade till felaktiga beslut är fortfarande oklara.
Experimentet pekar därmed både på möjligheter och problem. AI kan redan nu genomföra affärer, men det är långt kvar innan tekniken kan ersätta mänskligt omdöme i mer komplexa ekonomiska situationer, menar experter.
Läs mer: Nvidia: Det är dyrare med AI än med anställda. Realtid
