KI-regnmakere som tror de er meteorologer
Alle melder det samme KI-været om dagen. Det har vært for billig til å være sant, finansiert av investorer som til slutt vil ha pengene sine tilbake. Vi må nyte det mens vi kan, for det er nødt til å bli dyrere. Det er jo åpenbart at det må koste mer enn dette. Skjønner du ikke det?
Det høres ut som en værmelding som hever seg litt over alle oss som fortsatt er ute og nyter solen. Men det er én vesentlig ting en værmelding ikke kan gjøre, som akkurat denne prognosen gjør. Den bidrar til å endre været.
Men blir ikke KI bare dyrere?
For å se hvordan det henger sammen, må vi klare å skille på de to leddene i formelen: kostnad og pris. Kostnaden for å produsere og tilby en bestemt mengde intelligens faller. Vi har storstilt optimalisering av tokenforbruk, store modeller som destilleres ned til små, Mixture-of-Experts-arkitekturer der kun deler av modellen er aktive under inferens, og kvantisering av modeller som dramatisk reduserer minneforbruk. De lærde strides om nøyaktig hvor fort kostnaden faller, men hvor pilene peker hersker det liten tvil om.
Det kan virke som det trekker i andre retningen med de aller nyeste og beste modellene, som sannsynligvis har et enormt stort antall parametere og bruker store mengder tokens på resonnering. Men dette er ikke kostnadene som stiger, det er fronten som flytter seg. Låser du kapabiliteten og ser på den ytelsen som kostet en formue i fjor, ser du fort at den koster mindre å tilby i år. Gårsdagens proprietære toppmodell er morgendagens åpne kildekode.
Viktigst av alt: KI-leverandørene er svært insentiverte til å redusere de faktiske kostnadene forbundet med både trening og inferens, uavhengig av hvor mye penger de er i stand til å hente. At de ikke skulle gjøre dette er vanskelig å se for seg.
Værmeldingen som endrer været
Pris er noe helt annet, og den henger egentlig kun løst sammen med kostnaden. Den styres først og fremst av to helt andre ting: hva KI-en faktisk er verdt for deg, og hva alle forventer at prisen kommer til å gjøre framover. La oss ta tak i det siste, for det er her værmeldingen begynner å endre været.
Det kalles refleksivitet, et begrep investoren George Soros gjorde kjent. Overført til markedet betyr det rett og slett at forventninger om pris er en av kreftene som faktisk setter den. Sosiologen Robert K. Merton satte for øvrig ord på nøyaktig den samme grunntanken lenge før. Han kalte det en selvoppfyllende profeti, og eksempelet hans var såkalte «bank runs». Banken er solid på mandag, et rykte om at den ikke er det begynner å gå på tirsdag, og køen av folk som trodde på ryktet er nøyaktig det som sørger for at hvelvet er tomt innen onsdag. Profetien forutså altså ikke kollapsen. Den forårsaket den.
Så når det utbasuneres at regnestykket ikke går opp og at prisen simpelthen må stige, bør du først og fremst spørre deg hva som er effekten av denne spådommen, fremfor om den er sann eller ikke. Det er i praksis en tillatelse til alle leverandører om at det bare er å sette opp prisen og kalle det tyngdekraft. Eller corioliseffekten, hvis vi skal lene oss helt inn i meteorologianalogien vår!
Kjent kostnad ≠ kjent utfall
Og hva er egentlig antakelsene som ligger til grunn for regnestykket? Ingen utenfor de store KI-selskapene har tallene til å bekrefte disse. Hva vet vi om hva en token egentlig koster å levere, om hvem som subsidierer hvem på tvers av gratis-, forbruker- og bedriftsnivåene, hva som er økonomien i abonnementsmodeller der noen bruker mye og andre bruker lite, og om de røde tallene ligger i inferens- eller treningsregningen? Vi kan gjerne gjette så mye vi vil på alle disse på en gang, men å summere flere gjetninger tar oss ikke noe nærmere et faktum.
Jeg påstår ikke at det motsatte – altså at KI definitivt ikke er subsidiert – er sant, for vi har ikke dataene som skal til for å lande der heller. Det jeg sier, er at bakken under konklusjonen om at «KI er subsidiert» er betydelig mykere enn manges selvtillit skulle tilsi. Kanskje fordi den er dyvåt etter all regnmakingen?
Og selv om vi kjente disse kostnadene ned til siste desimal, ville de uansett ikke gitt oss prisen. De gir oss et gulv, og ikke stort mer. Kostnadsstrukturen til KI-selskapene og markedet de opererer i kan trekke i to stikk motsatte retninger på én gang.
Prisene kan trekkes nedover, fordi konkurrentene tar hverandre stadig igjen og ledertrøya bytter eier over overraskende korte strekk, og de leverer også forholdsvis homogene produkter til de aller fleste formål. Ingen klarer å holde på et varig forsprang på kvalitet, og da kreves det bare to aktører som er villige til å underby hverandre for at prisen skal trekkes mot gulvet, det økonomene kaller Bertrand-paradokset. Det er selvfølgelig mange faktorer som også motvirker denne effekten, uten at det betyr at den ikke er høyst reell.
Men prisene kan også trekkes oppover, fordi en pris nede på det gulvet aldri kommer til å tjene inn formuen det koster å bygge en modell, så den samme økonomien dytter markedet mot en håndfull overlevende som i praksis kan ta mer eller mindre den prisen de vil, i noe som ligner et naturlig monopol.
Så hvis akkurat de samme tallene like gjerne kan forsvare et kappløp mot bunnen som mot monopolpriser, så er det åpenbart ikke kostnadene i seg selv som bestemmer utfallet.
Der regnmakerne faktisk har et poeng
Det vi egentlig burde snakke om er den første av de to driverne av prisen: hva KI faktisk er verdt for deg. For verdien er svært reell, og betalingsviljen klatrer i takt med den.
Jeg lurer selv på om vi allerede ser en viss verdifangst i prisgapet mellom de ulike kapabilitetsnivåene, for mange av oss, meg selv inkludert, betaler gjerne et solid premium for de aller beste modellene. Men jeg har akkurat like lite data til å backe opp dette som KI-regnmakerne har for sine påstander, så derfor presenterer jeg det på en måte som seg hør og bør i slike tilfeller: som en hypotese.
KI-verdiskapning har heller ikke slått spesielt hardt inn i makrotallene ennå. Men konsensusen om at KI beviselig leverer verdi befester seg for hver måned som går, og det vil overraske meg om ikke det presser prisene oppover på sikt. La det imidlertid være klinkende klart at dette ikke er kostnadene som dytter prisen opp, det er verdien. Hmm, kanskje jeg burde holde litt mer kjeft om disse gevinstene!
Hvem tjener på at du tror det?
Den skråsikre «KI må bli dyrere»-posituren er i alle fall verdt å plukke fra hverandre, for det er slett ikke alle som hevder dette som har de samme insentivene. Det er forskjell på å leke smart og å være smart. Å leke smart er å sette seg i analytikerstolen, fyre av hot takes og jobbe hardt for å høres ut som du har rett, helt blind for at selve prognosen i et marked som dette er et trekk i spillet. Å være smart er det stikk motsatte: du gjennomskuer trekket, og spiller det framfor å la det spille deg.
Teknologen som bruker disse verktøyene hele dagen og likevel stiller seg opp for å kalle dem underpriset, skyter stort sett seg selv i foten og argumenterer direkte mot sin egen lommebok. Men analytikeren, hvis jobb og portefølje rir på prisen av KI, spiller et helt annet spill. For ham er det ikke selvskading å snakke prisen opp, det kan være ren egeninteresse.
Du skulle tro at alle disse regnmakerne oppriktig ser på seg selv som meteorologer, og at de bare står der og forutser været. Men noen av dem vet utmerket godt hva de driver med. Selvfølgelig kan ingen av dem påvirke været spesielt mye helt alene; det kreves mange regndansere for å blåse opp en skikkelig storm.
Poenget er at det er svært rasjonelt å gjøre alt du kan for å få det til å regne når du lever av å selge paraplyer. Det er langt mindre fornuftig når du er langt hjemmefra og er kledd for å nyte solen.
Så hva er faktisk det nyttige trekket her? Det er å nekte å la leverandørene bytte ut premissene. Prisen på intelligens er ikke vær som bare skjer med deg, det er en samtale du står midt oppi.
Bruk de pengene på KI som du mener den er verdt; intet mer, intet mindre. Men behandle billig, grenseløs intelligens som grunnlinjen, og tving Anthropic, OpenAI og Google til å argumentere deg bort fra den.