SÖK
MENY
AI-sökningar och effektbehov
I måndagens Nyan fanns en insändare som jämförde energibehovet för en ”AI-sökning” med energin för att koka vatten. Källan är en studie av Epoch AI som anger 0,3Wh för en sådan sökning. Energin som behövs för att höja temperaturen på 1 kilogram vatten en grad så krävs 4,2 kJ. Om vi antar rumstemperatur och en halvliter, eller 0,5kg krävs 168kJ eller 168/3600 = 0,05kWh eller 50Wh. Med reservation för räknefel och för att vattenkokaren har
förluster.
Klart är dock att så kallade ”AI-sökningar” är mera energikrävande än vanliga. Man räknar med att energin som behövdes att ”träna” GPT-4 var 50GWh.
En annan berättigad fråga är svarens kvalitet. En artikel i HBL nyligen behandlade detta och konstaterade att nyttan är begränsad, eventuellt då att användningen tränar modellerna. Men ”AI” är inte heller ett enhetligt begrepp, man borde i ställe tala om LLMs (Large Language Models) som egentligen är en sorts ”rättstavning på steroider” som förutsäger nästa ord i en mening. De är byggda för att ge välformulerade och trovärdiga svar, inte att ge korrekta svar. Ofta killgissar de.
Men åter till kärnfrågan: Hur mycket energi behövs? Svaret är att vi inte vet. De stora bolagen är mycket knapphändiga med data och den uppskattningar som finns baserar sig på studier av Open-Source modeller. För de som är intresserade rekommenderar jag en artikel i MIT Technology Review av James O’Donnell och Casey Crownhart, publicerad 2025-05-20. Den artikeln diskuterar vad vi vet och vad vi inte vet.
Om det nu låter som jag skulle vara negativ till ”AI” så kan jag lugna läsaren. Det finns mycket som LLMs är väldigt bra på. Att transkribera text, att översätta, att analysera mönster i medicinsk forskning, men samtidigt hajpas ”AI” och man utlovar saker man knappast kommer att kunna hålla. Man skall inte heller blunda för baksidorna, energiförbrukningen eller att mycket av arbetet att kategorisera träningsdata utförs av underbetalda arbetare i tredje världen, samt då att man använder upphovsrättsskyddat data utan lov eller ersättning. Så använd gärna AI till nyttiga saker, det vill säga inte kattbilder, men lita inte på vad ”AI-botten” säger!
ANDERS GUSTAFSSON
