Katrine Kielos: AI liknar en brittisk gasmätare – Varje prompt kostar “tokens”

När jag flyttade från Stockholm till London för 15 år sedan fick jag snabbt lära mig att energi betyder något annat i Storbritannien än i Sverige.

I Stockholm hade värme varit något som bara fanns. Elementen stod där. Lägenheten var varm. Energi var en räkning. Ja, ibland var den ju till och med inbakad i hyran.

I London var värme något annat. Den var ett aktivt beslut.

Skulle jag sätta på elementen nu eller vänta två timmar? Skulle jag värma sovrummet eller vardagsrummet? Hur länge behövde jag vara på kontoret denna vecka? Och skulle jag när jag kom hem bara stupa i säng – varvid jag ju inte behövde någon värme – eller hade jag planer på att faktiskt göra något på kvällen?

I ett brittiskt hem är vintern inte bara en årstid.

Den är en ständig förhandling.

En del av detta beror på kostnader. Energi är dyrare i Storbritannien. Nästan fem miljoner brittiska hushåll lägger mer än 20 procent av sina inkomster på gas och elektricitet, enligt officiella siffror från förra året. Men den ständiga förhandlingen med elementen är också allmän folksport. “Har ni satt på värmen än?” frågar jag de andra föräldrarna när jag hämtar på skolan i oktober för att liksom kolla om det är socialt accepterat att klättra upp på vinden och starta gaspannan. Eller om jag ska huttra några veckor till.

Det finns också rena kulturella aspekter av frågan. Jag har en kompis kommen ur den brittiska överklassen som är uppvuxen i ett stort dragigt hus i Shropshire med en mamma som fnyser att “det är ju bara medelklassen som har det varmt i badrummet!”

Och nej, hon menar inte det som en komplimang.

Ingen med värmekrav på just badrummet skulle få gifta sig med någon av hennes söner.

Antagligen kokar hela frågan ner till att energimätaren är så mycket mer synlig för den enskilda människan i Storbritannien. Inte för att det saknas mätare i Sverige. Någonstans står ju alltid en apparat och räknar. Men i Storbritannien tickar den på som en högljudd taxameter vars hastighet tycks så direkt kopplad till varje beslut du fattar på mikronivå. Och en högljudd taxameter gör något med hur vi människor beter oss.

Ungefär detta händer just nu med företagen och deras kostnader för AI.

Uber brände hela sin årsbudget för AI-användande redan i april, något som bolagets teknikchef Praveen Neppalli Naga nyligen bekräftade för den amerikanska techsajten The Information.

Bolaget hade låtit runt 5 000 ingenjörer använda Anthropics AI-verktyg Claude Code som hjälp att skriva kod vid programmering. Men vad som såg ut som en produktivitetsrevolution började snart bete sig som en brittisk gasmätare.

Claude Code var jättebra.

Men Claude Code kostade också varje gång någon använde det (över en viss nivå).

Nu har Uber infört restriktioner. De anställda får använda AI upp till en kostnad på 1 500 dollar per månad, per godkänt verktyg. Med andra ord har även Silicon Valley börjat fråga sig om de ska värma sovrummet eller badrummet.
Walmart lanserade häromåret ett internt AI-verktyg som hjälpte de anställda med bland annat kalkylblad och Powerpointpresentationer. Men nu rapporterar Bloomberg att bolaget precis som Uber har satt begränsningar på användningen. Verktyget var ett internt bygge, men under huven var det förstås en AI-modell. Och sådana modeller fungerar inte som gamla program: de hämtar inte bara fram ett färdigt svar, utan de räknar fram ett nytt svar varje gång.

Den beräkningen mäts i så kallade tokens.

Och tokens kostar pengar.

AI skulle ju bli som elektricitet, hette det: en grundteknologi som bara flöt genom ekonomin och gjorde allt annat mer produktivt. Så kan det förstås fortfarande bli. Men det narrativet såldes knappast in med tillägget att företagen skulle behöva resonera som med de gamla brittiska förskottsmätarna för gas och el. I många engelska hem fick man förr i tiden stoppa fysiska mynt i en apparat i hallen för att få värme eller ljus. När mynten tog slut tog värmen slut.
Precis vad som hände Uber med AI-kodningen i april.

Konsultfirman Bain & Company har precis släppt en ny rapport med den talande titeln Your AI budget is growing. Your returns aren’t. Studien, gjord på 951 globala företag, visar att 37 procent av bolagen hade satt som mål att sänka sina kostnader med 11–20 procent med hjälp av AI. Men av dem som faktiskt mätte utfallet landade nästan 40 procent på bara 0–10 procent. Tekniken fungerade. Men värdet som bolagen trott på materialiserades aldrig. Eller åtminstone inte än.

Framför allt konstaterar Bain & Company att dessa företag nu inte tar paus och funderar på varför. De fortsätter i stället att investera i AI-teknik utan att ha sett några mätbara vinster. De matar helt enkelt mätaren i hallen, men vet ännu inte om rummet blir varmare. Det är som studien konstaterar “en chansning”.

Problemet är dessutom inbyggt i hur tekniken fungerar. AI skiljer sig i den här bemärkelsen från gammal mjukvara i att marginalkostnaden är mycket högre.

När ett företag väl hade byggt ett vanligt program kunde många fler använda det nästan gratis. En extra användare av Excel eller Gmail kostade förstås lite serverkapacitet, men marginalkostnaden var ofta mycket låg.

Så är det inte med AI. Och det är därför AI-ekonomin är så mycket besvärligare. Varje prompt kräver ny beräkning. Varje svar måste räknas fram. Och en så kallad “AI-agent” som arbetar i bakgrunden (utan att du behöver säga till den vad den ska göra) kan fortsätta läsa, skriva, hålla på och kalla på andra verktyg medan mätaren tickar och du själv sover.

AI ser ut som mjukvara, men beter sig som en brittisk gasmätare. Ju mer du använder den, desto mer kostar den. Företag börjar därför fråga sig om de verkligen behöver värma alla rum. En obekräftad skräckhistoria som för tillfället upprepas i internationell finanspress handlar om ett företag som påstås ha bränt 500 miljoner dollar på Claude AI under en enda månad. Det spelar kanske mindre roll om detta är sant och mer roll att det är till kostnaderna som fokuset i AI-debatten börjar förskjutas. Frågan är inte om tekniken är imponerande. Det är den ju. Frågan är om värmen är värd pengarna.

Och säga vad man vill om mänskliga kontorsarbetare, företag behöver i varje fall inte betala dem per tanke.