AI-utvecklingens pris: Molnkostnader pressas

I ett internt dokument från teknikjätten Nvidia framgår att amerikanska Capital One diskuterat möjligheten att flytta delar av sin AI-infrastruktur bort från Amazon Web Services, AWS, molntjänster för att hålla kostnaderna under kontroll.

Enligt dokumentet som Business Insider tagit del av upplever banken att behovet av kraftfulla grafikprocessorer, GPU:er, och avancerade AI-modeller växer snabbt, samtidigt som AWS-kostnader riskerar att bli ohanterliga.

Det beror på att banker använder AI till allt från bedrägeridetektion till kundservice och algoritmisk handel, men dessa AI-arbetsflöden kräver omfattande beräkningskraft som ofta levereras via externa molnleverantörer.

Samtidigt visar industrirapporter att många bolag nu använder två eller flera molnleverantörer för att sprida risker och undvika att fastna i en enda plattform.

Läs även: Molntjänster: Europa måste klippa beroendet av USA

Strategiska alternativ till AWS moln

Dokumentet från Nvidia nämner begrepp som ”AI factory”, en intern datacenterlösning där företaget bygger och driver egen AI-infrastruktur, och så kallade “neocluods”.

Dessa nystartade molnleverantörer fokuserar särskilt på AI-arbetsbelastningar och kan erbjuda flexiblare och mer kostnadseffektiva alternativ till traditionella jättar som AWS.

Exempel på sådana aktörer är CoreWeave, Lambda och Crusoe.

Trots att Capital One bekräftat att AWS fortsatt är deras huvudleverantör, understryker utvecklingen hur trycket mot etablerade molnplattformar ökar i takt med att efterfrågan på AI-beräkningar exploderar.

Samtidigt har AWS själva enligt Business Insider uttalat att de arbetar med att sänka kostnaderna för sina kunder, även om konkurrensen från specialiserade alternativ växer.