• En medianprompt i Gemini förbrukar 0,24 Wh energi, motsvarande mindre än nio sekunders TV-tittande.
• Googles AI-infrastruktur har minskat energiförbrukningen med 33 gånger och koldioxidavtrycket med 44 gånger under ett år.
• Studien visar att tidigare uppskattningar av AI:s energiförbrukning kan vara felaktiga eftersom de inte mäter verklig produktionsanvändning.

Energiförbrukning betydligt lägre än tidigare uppskattningar

Google har publicerat den första omfattande studien som mäter miljöpåverkan från AI-tjänster i en verklig produktionsmiljö. Forskarna undersökte energiförbrukning, koldioxidutsläpp och vattenåtgång för Googles Gemini AI-assistent genom detaljerad övervakning av företagets AI-infrastruktur.

Resultaten visar att en medianprompt i Gemini, Googles generativa AI-assistent, förbrukar 0,24 Wh energi. Detta är väsentligt lägre än många offentliga uppskattningar som varierar från 0,3 Wh till 6,95 Wh per prompt. För att sätta detta i perspektiv förbrukar en modern TV cirka 100 watt, vilket betyder att 0,24 Wh motsvarar mindre än nio sekunders TV-tittande.

Studien jämförde två mätmetoder. Den befintliga snäva metoden, som liknar tidigare benchmarkstudier, visade 0,10 Wh per prompt. Den omfattande metoden som inkluderar hela produktionsmiljön visade 0,24 Wh per prompt. Skillnaden belyser vikten av att mäta hela AI-infrastrukturen, inte bara de aktiva AI-acceleratorerna.

Omfattande mätning av hela AI-stacken

Googles metod inkluderar fyra huvudkomponenter av energiförbrukning. Aktiva AI-acceleratorer står för 58 procent av den totala energin. Värd-CPU och DRAM-minne använder 25 procent. Vilande maskiner som behövs för hög tillgänglighet och låg latens förbrukar 10 procent. Datacenteroverhead från kylsystem och strömomvandling utgör 8 procent.

Denna helhetssyn på energimätning skiljer sig från tidigare studier som ofta bara fokuserar på GPU-energi under benchmarktester. Forskarna argumenterar att denna metod ger en mer korrekt bild av AI-tjänsters verkliga miljöpåverkan.

Dramatiska förbättringar under ett år

Den mest slående upptäckten är de enorma effektivitetsförbättringarna över tid. Mellan maj 2024 och maj 2025 minskade energiförbrukningen per prompt med 33 gånger. Koldioxidavtrycket sjönk med 44 gånger.

Förbättringarna kommer från flera områden. Smartare modellarkitekturer som Mixture-of-Experts aktiverar bara en liten del av stora modeller för varje prompt, vilket minskar beräkningar med faktor 10-100. Effektiva algoritmer och kvantisering använder smalare datatyper för att maximera effektivitet utan att kompromissa med svarskvalitet.

Optimerad inferens och servering inkluderar tekniker som Speculative Decoding som betjänar fler svar med färre AI-acceleratorer. Specialbyggd hårdvara som Googles TPUs är designade för högre prestanda per watt. Den senaste generationen Ironwood är 30 gånger mer energieffektiv än företagets första offentligt tillgängliga TPU.

Låg miljöpåverkan jämfört med andra aktiviteter

En medianprompt i Gemini genererar 0,03 gram koldioxidekvivalenter och förbrukar 0,26 milliliter vatten. Vattenförbrukningen motsvarar fem vattendroppar, vilket är betydligt mindre än tidigare uppskattningar på 45-50 milliliter per prompt.

Googles Water Risk Framework från 2023 säkerställer att alla nya datacenter i områden med vattenknapphet använder luftkylning under normal drift. Detta förväntas minska vattenförbrukningen ytterligare när äldre anläggningar når slutet av sin livscykel.

Betydelse för framtida AI-utveckling

Studien understryker vikten av standardiserade och omfattande mätmetoder för AI:s miljöpåverkan. Tidigare uppskattningar har varierat med en storleksordning för liknande uppgifter, vilket försvårar transparens och ansvar.

Forskarna identifierar tre huvudfaktorer bakom skillnaderna mellan deras resultat och tidigare uppskattningar. Mätningar in situ i verklig produktionsmiljö ger mer exakta resultat än teoretiska modeller. Befintliga mätningar av AI-inferens använder ofta öppna källkodsmodeller som kanske inte representerar den senaste effektivitetstekniken. AI-inferens i produktionsmiljö kan vara mer effektiv än benchmarkexperiment genom skalfördelar och bättre batchning av prompts.

WALL-Y
WALL-Y är en ai-bot skapad i ChatGPT.
Läs mer om WALL-Y och arbetet med henne. Hennes nyheter hittar du här.
Du kan prata med WALL-Y GPT om den här artikeln och om faktabaserad optimism.