Kui palju energiat tehisintellekt tarbib?

Kui palju energiat tehisintellekt tarbib?

Vastus: Tehisintellekt suudab lihtsa tekstiülesande jaoks väga vähe elektrit kasutada, kuid palju rohkem, kui küsimused on pikad, väljundid on multimodaalsed või süsteemid töötavad tohutul skaalal. Koolitamine on tavaliselt suurim esialgne energiakulu, samas kui igapäevased järeldused muutuvad oluliseks päringute kogunedes.

Peamised järeldused:

Kontekst : Enne energiatarbimise hinnangu esitamist määratlege ülesanne, mudel, riistvara ja ulatus.

Koolitus : Eelarvete planeerimisel käsitle modellikoolitust peamise energiaalase esmase sündmusena.

Järeldamine : Jälgige korduvaid järeldusi tähelepanelikult, sest väikesed päringupõhised kulud kuhjuvad suures mahus kiiresti.

Taristu : Realistlikus hinnangus arvestage jahutuse, salvestusruumi, võrkude ja jõudeoleku võimsusega.

Tõhusus : Energiatarbimise vähendamiseks kasutage väiksemaid mudeleid, lühemaid viipasid, vahemällu salvestamist ja partiidena töötlemist.

Kui palju energiat tehisintellekt kasutab? Infograafik

Artiklid, mida võiksite pärast seda lugeda:

🔗 Kuidas tehisintellekt mõjutab keskkonda
Selgitab tehisintellekti süsiniku jalajälge, energiatarbimist ja jätkusuutlikkuse kompromisse.

🔗 Kas tehisintellekt on keskkonnale halb?
Avab tehisintellekti mudelite ja andmekeskuste varjatud keskkonnakulud.

🔗 Kas tehisintellekt on hea või halb? Plussid ja miinused
Tasakaalustatud ülevaade tehisintellekti eelistest, riskidest, eetikast ja tegelikust mõjust.

🔗 Mis on tehisintellekt? Lihtne juhend
Õpi tehisintellekti põhitõdesid, võtmetermineid ja igapäevaseid näiteid minutitega.

Miks see küsimus on olulisem, kui inimesed arvavad 🔍

Tehisintellekti energiakasutus ei ole ainult keskkonnateema. See puudutab mõnda väga reaalset asja:

  • Elektrienergia hind – eriti ettevõtetele, kes käitavad palju tehisintellekti päringuid

  • Süsiniku mõju – sõltuvalt serverite taga olevast toiteallikast

  • Riistvaraline koormus – võimsad kiibid tarbivad märkimisväärselt energiat

  • Otsuste skaleerimine – ühest odavast ülesandest võivad saada miljonid kallid ülesanded

  • Tootedisain – efektiivsus on sageli parem omadus, kui inimesed arvavad ( Google Cloud , roheline tehisintellekt )

Paljud inimesed küsivad: „Kui palju energiat tehisintellekt kasutab?“, sest nad tahavad dramaatilist numbrit. Midagi suurt. Midagi pealkirjasõbralikku. Aga parem küsimus on see: millisest tehisintellekti kasutamisest me räägime? Sest see muudab kõike. ( IEA )

Üksainus automaatse täitmise ettepanek? Päris väike.
Piirimudeli treenimine massiivsete klastrite vahel? Palju, palju suurem.
Alati sisse lülitatud ettevõtte tehisintellekti töövoog, mis puudutab miljoneid kasutajaid? Jah, see koguneb kiiresti... nagu sentide muutumine üürimakseks. ( DOE , Google Cloud )

Kui palju energiat tehisintellekt kasutab? Lühike vastus ⚡

Siin on praktiline versioon.

Tehisintellekt suudab kasutada nii pisikest osa vatt-tunnist kerge ülesande täitmiseks kui ka tohutul hulgal elektrit laiaulatuslikuks koolitamiseks ja juurutamiseks. See vahemik kõlab koomiliselt laialt, sest see ongi nii lai. ( Google Cloud , Strubell jt. )

Lihtsamalt öeldes:

  • Lihtsad järeldusülesanded – sageli suhteliselt tagasihoidlikud kasutuskorra kohta

  • Pikad vestlused, suured väljundid, piltide genereerimine, video genereerimine – märgatavalt energiamahukam

  • Suurte mudelite treenimine - energiatarbimise raskekaalu meister

  • Tehisintellekti käitamine suures mahus terve päeva – kus „väikesest päringust“ saab „suur koguarve“ ( Google Cloud , DOE )

Hea rusikareegel on see:

  • Treening on tohutu energiasündmus, mis annab energiat ennetavalt 🏭

  • Järeldus on jooksev kommunaalmaksete arve 💡 ( Strubell jt , Google Research )

Seega, kui keegi küsib, kui palju energiat tehisintellekt kasutab, on otsene vastus: „Mitte üks kogus, vaid piisavalt, et efektiivsus loeks, ja piisavalt, et ulatus muudaks kogu lugu.“ ( IEA , roheline tehisintellekt )

See pole nii meeldejääv, kui inimesed tahavad, ma tean. Aga see on tõsi.

Mis teeb tehisintellekti energiahinnangu heaks? 🧠

Hea hinnang ei ole lihtsalt dramaatiline number graafikul. Praktiline hinnang sisaldab konteksti. Muidu on see nagu udu kaalumine vannitoakaaluga. Piisavalt lähedal, et kõlada muljetavaldavalt, aga mitte piisavalt lähedal, et usaldada. ( IEA , Google Cloud )

Korralik tehisintellekti energiakulu hinnang peaks sisaldama järgmist:

  • Ülesande tüüp – tekst, pilt, heli, video, koolitus, peenhäälestus

  • Mudeli suurus – suuremad mudelid vajavad tavaliselt rohkem arvutusvõimsust

  • Kasutatav riistvara – mitte kõik kiibid pole võrdselt tõhusad

  • Seansi pikkus – lühikesed ülesanded ja pikad mitmeastmelised töövood on väga erinevad

  • Kasutus – jõudeolekus süsteemid tarbivad endiselt energiat

  • Jahutus ja infrastruktuur – server ei ole kogu arve

  • Asukoht ja energiaallikate segu – elekter ei ole kõikjal võrdselt puhas ( Google Cloud , IEA )

Sellepärast võivad kaks inimest tehisintellekti elektrienergia kasutamise üle vaielda ja mõlemad kõlavad enesekindlalt, rääkides samal ajal täiesti erinevatest asjadest. Üks inimene peab silmas ühte vestlusroboti vastust. Teine peab silmas hiiglaslikku treeningperioodi. Mõlemad ütlevad „tehisintellekt“ ja järsku libiseb vestlus rööbastelt maha 😅

Võrdlustabel – parimad viisid tehisintellekti energiatarbimise hindamiseks 📊

Siin on praktiline tabel kõigile, kes püüavad küsimusele vastata ilma seda etenduskunstiks muutmata.

Tööriist või meetod Parim publik Hind Miks see toimib
Lihtne rusikareegel Uudishimulikud lugejad, õpilased Tasuta Kiire, lihtne, veidi ebamäärane - aga piisavalt hea ligikaudsete võrdluste tegemiseks
Seadmepoolne vattmeeter Üksikehitajad, harrastajad Madal Mõõdab masina tegelikku tõmbejõudu, mis on värskendavalt betoon
GPU telemeetria armatuurlaud Insenerid, masinõppe meeskonnad Keskmine Arvutusmahukate ülesannete puhul on detailsem teave, kuigi see võib suurema rajatise üldkulud kahe silma vahele jätta
Pilvearveldus + kasutuslogid Startupid, operatsioonimeeskonnad Keskmine kuni kõrge Seob tehisintellekti kasutamise reaalsete kulutustega – mitte täiuslik, aga siiski üsna väärtuslik
Andmekeskuse energiaaruandlus Ettevõtte meeskonnad Kõrge Annab laiema operatiivse nähtavuse, jahutus ja infrastruktuur hakkavad siin ilmnema
Täieliku elutsükli hindamine Jätkusuutlikkuse meeskonnad, suured organisatsioonid Kõrge, kohati valus Parim tõsiseks analüüsiks, sest see ulatub kiibist endast kaugemale... aga on aeglane ja paras koletis

Ideaalset meetodit pole olemas. See on kergelt frustreeriv osa. Kuid väärtustasemeid on küll. Ja tavaliselt on midagi toimivat parem kui täiuslik. ( Google Cloud )

Suurim tegur pole maagia - see on arvutusvõime ja riistvara 🖥️🔥

Kui inimesed kujutavad ette tehisintellekti energiatarbimist, kujutavad nad sageli ette mudelit ennast kui energiat tarbivat asja. Kuid mudel on riistvaral töötav tarkvaraloogika. Riistvara on see, kus elektriarve ilmneb. ( Strubell jt , Google Cloud )

Suurimad muutujad hõlmavad tavaliselt järgmist:

Optimeeritud süsteem suudab teha rohkem tööd väiksema energiakuluga. Lohakas süsteem võib aga hingematvalt enesekindlalt elektrit raisata. Tead küll, kuidas see on – mõned seadistused on võidusõiduautod, mõned aga ostukärud, millele on teibiga kinnitatud raketid 🚀🛒

Ja jah, mudeli suurus on oluline. Suuremad mudelid vajavad tavaliselt rohkem mälu ja arvutusvõimsust, eriti pikkade väljundite genereerimisel või keeruka arutluskäigu tegemisel. Kuid efektiivsusnipid võivad pilti muuta: ( roheline tehisintellekt , kvantiseerimis-, partii- ja serveerimisstrateegiad LLM-i energiakasutuses )

Seega pole küsimus ainult selles, kui suur see mudel on, vaid ka selles, kui intelligentselt seda juhitakse

Treening vs järeldamine - need on erinevad loomad 🐘🐇

See on jaotus, mis ajab peaaegu kõik segadusse.

Treening

Treenimine on see, kui mudel õpib mustreid tohututest andmekogumitest. See võib hõlmata paljude kiipide pikka aega töötamist, et töötada hiiglaslike andmemahtude läbitöötamisel. See etapp on energiamahukas. Mõnikord on see tohutult energiamahukas. ( Strubell jt. )

Treeningenergia sõltub:

  • mudeli suurus

  • andmestiku suurus

  • treeningsõitude arv

  • ebaõnnestunud katsed

  • peenhäälestuspassid

  • riistvara efektiivsus

  • jahutuskulud ( Strubell jt , Google Research )

Ja siin on see osa, mida inimesed tihtipeale kahe silma vahele jätavad – avalikkus kujutab sageli ette ühte suurt treeningtsüklit, mis tehakse üks kord, ja kõik. Praktikas võib arendus hõlmata korduvaid katsetusi, häälestamist, ümberõpetamist, hindamist ja kõiki proosalisi, kuid kulukaid iteratsioone põhisündmuse ümber. ( Strubell jt , roheline tehisintellekt )

Järeldus

Järeldamine on mudel, mis vastab tegelikele kasutajate päringutele. Üks päring ei pruugi tunduda midagi erilist. Kuid järeldamist tehakse ikka ja jälle. Miljoneid kordi. Mõnikord miljardeid kordi. ( Google Research , DOE )

Järeldusenergia kasvab koos:

Seega on treenimine maavärin. Järeldus on tõusulaine. Üks on dramaatiline, teine ​​püsiv ja mõlemad võivad rannikut veidi ümber kujundada. See on ehk ebatavaline metafoor, aga see hoiab koos... enam-vähem.

Varjatud energiakulud, mille inimesed unustavad 😬

Kui keegi hindab tehisintellekti energiatarbimist ainult kiibi põhjal, siis ta tavaliselt alahindab seda. Mitte alati katastroofiliselt, aga piisavalt, et see loeks. ( Google Cloud , IEA )

Siin on peidetud tükid:

Jahutav ❄️

Serverid tekitavad soojust. Võimas tehisintellekti riistvara tekitab seda palju. Jahutus pole valikuline. Iga arvutuste poolt tarbitud vatt kipub soodustama suuremat energiakasutust, et hoida temperatuur mõistlikul tasemel. ( IEA , Google Cloud )

Andmete liikumine 🌐

Andmete liigutamine salvestusruumi, mälu ja võrkude vahel võtab samuti energiat. Tehisintellekt ei ole ainult „mõtlemine“. See ka pidevalt infot ringi liigutab. ( IEA )

Tühikäigu maht 💤

Tippnõudluse jaoks ehitatud süsteemid ei tööta alati tippnõudlusel. Jõudeolekus või alakasutatud infrastruktuur tarbib endiselt elektrit. ( Google Cloud )

Koondamine ja töökindlus 🧱

Varukoopiad, tõrkesiirdesüsteemid, duplikaatpiirkonnad, turvakihid – kõik väärtuslikud, kõik osa suuremast energiapildist. ( IEA )

Hoiustamine 📦

Treeningandmed, manustamised, logid, kontrollpunktid, genereeritud väljundid – need kõik asuvad kuskil. Salvestusruum on küll odavam kui arvutusvõimsus, aga energia mõttes mitte tasuta. ( IEA )

Seepärast küsimusele „Kui palju energiat tehisintellekt kasutab?” vastata vaid ühele võrdlusdiagrammile vaadates. Oluline on kogu andmestik. ( Google Cloud , IEA )

Miks üks tehisintellekti käsk võib olla pisike – ja järgmine võib olla koletis 📝➡️🎬

Kõik ülesanded ei ole võrdsed. Lühike palve lause ümberkirjutamiseks ei ole võrreldav pika analüüsi, mitmeastmelise kodeerimisseansi või kõrgresolutsioonilise pildi genereerimise palvega. ( Google Cloud )

Asjad, mis kipuvad energiatarbimist interaktsiooni kohta suurendama:

Kerge tekstivastus võib olla suhteliselt odav. Hiiglaslik multimodaalne töövoog ei pruugi aga olla odav. See on natuke nagu kohvi tellimine versus pulma toitlustamine. Mõlemad loetakse tehniliselt "toitlustuseks". Üks ei ole teisega võrreldav ☕🎉

See on eriti oluline tootemeeskondade jaoks. Funktsioon, mis vähese kasutamise korral tundub kahjutu, võib suures mahus kalliks muutuda, kui iga kasutajaseanss muutub pikemaks, rikkalikumaks ja arvutusmahukamaks. ( DOE , Google Cloud )

Tarbija tehisintellekt ja ettevõtte tehisintellekt ei ole sama asi 🏢📱

Keskmine inimene, kes tehisintellekti juhuslikult kasutab, võib arvata, et peamine probleem on tema juhuslikud vihjed. Tavaliselt ei ole see aga peamine energiateema. ( Google Cloud )

Ettevõtte kasutus muudab matemaatikat:

  • tuhandeid töötajaid

  • alati sisse lülitatud kaaspiloodid

  • automatiseeritud dokumentide töötlemine

  • kõne kokkuvõte

  • pildianalüüs

  • koodi ülevaatuse tööriistad

  • pidevalt töötavad taustaagendid

Siin hakkabki koguenergia tarbimine väga oluline olema. Mitte sellepärast, et iga tegevus oleks apokalüptiline, vaid sellepärast, et kordamine on multiplikaator. ( DOE , IEA )

Minu enda testides ja töövoo ülevaadetes on see koht, kus inimesed üllatusena tulevad. Nad keskenduvad mudeli nimele või toretsevale demole ja ignoreerivad mahtu. Maht on sageli tegelik edasiviiv jõud – või päästev tegur, olenevalt sellest, kas esitate klientidele arveid või maksate kommunaalteenuste arvet 😅

Tarbijate jaoks võib mõju tunduda abstraktne. Ettevõtete jaoks muutub see väga kiiresti konkreetseks:

  • suuremad taristuarved

  • suurem surve optimeerimiseks

  • suurem vajadus väiksemate mudelite järele, kus see on võimalik

  • sisemine jätkusuutlikkuse aruandlus

  • rohkem tähelepanu vahemällu salvestamisele ja marsruutimisele ( Google Cloud , roheline tehisintellekt )

Kuidas vähendada tehisintellekti energiatarbimist tehisintellektist loobumata 🌱

See osa on oluline, sest eesmärk ei ole „lõpetada tehisintellekti kasutamine“. Tavaliselt pole see realistlik ega isegi vajalik. Parem kasutamine on targem tee.

Siin on suurimad hoovad:

1. Kasutage kõige väiksemat mudelit, mis töö ära teeb

Mitte iga ülesanne ei vaja raskekaalulist valikut. Kergem klassifitseerimise või kokkuvõtmise mudel võib raiskamist kiiresti vähendada. ( Roheline tehisintellekt , Google Cloud )

2. Lühendage ülesandeid ja väljundeid

Pikk sisse, pikk välja. Lisatokenid tähendavad lisaarvutusi. Mõnikord on käsu kärpimine lihtsaim võit. ( Kvantimise, partiidena jagamise ja serveerimise strateegiad LLM-i energiakasutuses , Google Cloud )

3. Salvesta korduvad tulemused vahemällu

Kui sama päring kuvatakse pidevalt, ärge seda iga kord uuesti genereerige. See on peaaegu solvavalt ilmne, kuid jääb siiski kahe silma vahele. ( Google Cloud )

4. Võimaluse korral partiitööd

Ülesannete partiidena käivitamine võib parandada kasutamist ja vähendada raiskamist. ( Kvantimise, partiidena töötlemis- ja serveerimisstrateegiad LLM-i energiakasutuses )

5. Suuna ülesanded arukalt

Kasutage suuri mudeleid ainult siis, kui enesekindlus langeb või ülesande keerukus suureneb. ( Roheline tehisintellekt , Google Cloud )

6. Optimeerige infrastruktuuri

Parem ajastamine, parem riistvara, parem jahutusstrateegia – lihtne värk, tohutu tasuvus. ( Google Cloud , DOE )

7. Enne eeldamist mõõda

Paljud meeskonnad arvavad, et nad teavad, kuhu energia läheb. Siis nad mõõdavad ja näedki – kallim osa on kusagil mujal. ( Google Cloud )

Tõhusustöö pole glamuurne. See saab harva aplausi osaliseks. Aga see on üks parimaid viise, kuidas muuta tehisintellekt taskukohasemaks ja paremini kaitstavaks suuremas mahus 👍

Levinud müüdid tehisintellekti elektrienergia kasutamise kohta 🚫

Selgitame mõned müüdid, sest see teema läheb kiiresti sassi.

Müüt 1 – iga tehisintellekti päring on tohutult raiskav

Mitte tingimata. Mõned on tagasihoidlikud. Suur osa on ülesannete ulatusel ja tüübil. ( Google Cloud )

Müüt 2 – Ainuke oluline asi on treening

Ei. Järeldused võivad aja jooksul domineerida, kui kasutus on tohutu. ( Google Research , DOE )

Müüt 3 – Suurem mudel tähendab alati paremat tulemust

Mõnikord jah, mõnikord absoluutselt mitte. Paljud ülesanded saavad väiksemate süsteemidega hästi hakkama. ( Roheline tehisintellekt )

Müüt 4 – energiakasutus võrdub automaatselt süsinikuheitega

Mitte päris. Süsinik sõltub ka energiaallikast. ( IEA , Strubell jt. )

Müüt 5 – Tehisintellekti energiatarbimise kohta saab ühe universaalse numbri

Sa ei saa, vähemalt mitte kujul, mis jääks tähendusrikkaks. Või saad, aga see muutub nii keskmistatuks, et see lakkab olemast väärtuslik. ( IEA )

Seepärast on küsimus " Kui palju energiat tehisintellekt kasutab?" tark tegu – aga ainult siis, kui oled valmis loosungi asemel mitmekihiliseks vastuseks.

Niisiis... kui palju energiat tehisintellekt tegelikult kasutab? 🤔

Siin on põhjendatud järeldus.

Tehisintellekt kasutab:

  • natuke , mõne lihtsa ülesande jaoks

  • palju rohkem , raske multimodaalse põlvkonna jaoks

  • väga suur kogus suuremahuliste mudelite treenimiseks

  • tohutu summa kokku , kui aja jooksul kuhjub miljoneid päringuid ( Google Cloud , DOE )

See on selle kuju.

Peamine on mitte kogu probleemi ühe hirmutava numbri või ühe halvustava õlakehituse raamidesse lamendada. Tehisintellekti energiakasutus on reaalne. See on oluline. Seda saab parandada. Ja parim viis sellest rääkida on kontekstis, mitte teatraalselt. ( IEA , Green AI )

Suur osa avalikust vestlusest kõigub äärmuste vahel – ühel pool on „tehisintellekt põhimõtteliselt tasuta“, teisel pool „tehisintellekt on elektriapokalüpsis“. Reaalsus on tavalisem, mis teeb selle informatiivsemaks. See on süsteemiprobleem. Riistvara, tarkvara, kasutus, ulatus, jahutus, disainivalikud. Proosaline? Natuke. Oluline? Väga. ( IEA , Google Cloud )

Peamised järeldused ⚡🧾

Kui sa tulid siia küsima, kui palju energiat tehisintellekt kasutab, siis siin on kokkuvõte:

  • Ühte universaalset numbrit pole olemas

  • Treening kulutab tavaliselt kõige rohkem energiat alguses

  • Järeldamisest saab mastaabis oluline tegur

  • Mudeli suurus, riistvara, töökoormus ja jahutus on kõik olulised

  • Väikesed optimeerimised võivad üllatavalt suure erinevuse kaasa tuua

  • Kõige targem küsimus pole mitte ainult „kui palju“, vaid ka „millise ülesande jaoks, millisel süsteemil, millises skaalas?“ ( IEA , Google Cloud )

Seega jah, tehisintellekt kasutab päris energiat. Piisavalt, et tähelepanu ära teenida. Piisavalt, et õigustada paremat inseneritööd. Aga mitte koomiksilikus, ühekohalises mõttes.

KKK

Kui palju energiat tehisintellekt ühe käsu jaoks kulutab?

Ühele ülesandele pole universaalset numbrit, sest energiatarve sõltub mudelist, riistvarast, ülesande pikkusest, väljundi pikkusest ja mis tahes lisatööriistade kasutamisest. Lühike tekstivastus võib olla suhteliselt tagasihoidlik, samas kui pikk multimodaalne ülesanne võib tarbida märgatavalt rohkem. Kõige sisukam vastus ei ole üksainus pealkirjanumber, vaid ülesande ümbritsev kontekst.

Miks tehisintellekti energiatarbimise hinnangud nii palju erinevad?

Hinnangud varieeruvad, kuna inimesed võrdlevad tehisintellekti ühe sildi all sageli väga erinevaid asju. Üks hinnang võib kirjeldada kerget vestlusroboti vastust, teine ​​aga hõlmata piltide genereerimist, videot või suuremahulise mudeli treenimist. Selleks, et hinnang oleks tähendusrikas, on vaja konteksti, näiteks ülesande tüüpi, mudeli suurust, riistvara, kasutust, jahutust ja asukohta.

Kas tehisintellekti treenimine või igapäevane käigushoidmine on suurem energiakulu?

Treenimine on tavaliselt suur energiakulu, kuna see võib hõlmata paljude kiipide pikkade perioodide jooksul tohututes andmekogumites töötamist. Järeldamine on pidev kulu, mis ilmneb iga kord, kui kasutajad päringuid saadavad, ja mastaabis võib see samuti väga suureks muutuda. Praktikas on mõlemad olulised, kuigi erineval viisil.

Mis teeb ühe tehisintellekti päringu teisest palju energiamahukamaks?

Pikemad kontekstiaknad, pikemad väljundid, korduvad arutluskäigud, tööriistakutsed, otsinguetapid ja multimodaalne genereerimine kipuvad kõik suurendama energiatarbimist interaktsiooni kohta. Samuti on olulised latentsusaja eesmärgid, sest kiiremad reageerimisnõuded võivad vähendada efektiivsust. Väike ümberkirjutamistaotlus ja pikk kodeerimis- või pilditöötlusprotsess ei ole lihtsalt võrreldavad.

Milliseid varjatud energiakulusid inimesed ei märka, kui küsivad, kui palju energiat tehisintellekt kasutab?

Paljud inimesed keskenduvad ainult kiibile, kuid jätavad tähelepanuta jahutuse, andmete liikumise, salvestusruumi, jõudeoleku võimsuse ja töökindluse süsteemid, näiteks varukoopiad või tõrkesiirde piirkonnad. Need tugikihid võivad oluliselt muuta kogu jalajälge. Seetõttu ei anna võrdlusnäitaja iseenesest peaaegu kunagi täielikku energiapilti.

Kas suurem tehisintellekti mudel tarbib alati rohkem energiat?

Suuremad mudelid vajavad tavaliselt rohkem arvutusvõimsust ja mälu, eriti pikkade või keerukate väljundite puhul, seega tarbivad nad sageli rohkem energiat. Kuid suurem ei tähenda automaatselt paremat iga töö jaoks ja optimeerimine võib pilti märkimisväärselt muuta. Väiksemad spetsialiseeritud mudelid, kvantiseerimine, partiidena töötlemine, vahemällu salvestamine ja nutikam marsruutimine võivad kõik tõhusust parandada.

Kas tarbija tehisintellekti kasutamine on peamine energiaprobleem või on suurem probleem ettevõtte tehisintellekt?

Juhuslik tarbijakasutus võib küll palju suurendada, aga suurem energiakulu ilmneb sageli ettevõtete juurutustes. Alati sisse lülitatud kaaskasutajad, dokumentide töötlemine, kõnede kokkuvõtete tegemine, koodi ülevaatamine ja taustaagendid loovad korduva nõudluse suurte kasutajaskondade seas. Probleem ei seisne tavaliselt niivõrd ühes dramaatilises toimingus kuivõrd püsivas mahus aja jooksul.

Kui palju energiat tehisintellekt kasutab, kui arvestada andmekeskusi ja jahutust?

Kui laiem süsteem on kaasatud, muutub vastus realistlikumaks ja on tavaliselt suurem, kui ainult kiipide põhjal tehtud hinnangud näitavad. Andmekeskused vajavad energiat mitte ainult arvutamiseks, vaid ka jahutamiseks, võrgustamiseks, salvestamiseks ja vaba võimsuse säilitamiseks. Seetõttu on infrastruktuuri projekteerimine ja rajatise efektiivsus peaaegu sama olulised kui mudeli projekteerimine.

Kuidas on kõige praktilisem viis tehisintellekti energiatarbimise mõõtmiseks reaalses töövoogudes?

Parim meetod sõltub sellest, kes mõõdab ja mis eesmärgil. Kiirete võrdluste tegemiseks aitab ligikaudne rusikareegel, samas kui vattmeetrid, GPU telemeetria, pilvearvelduslogid ja andmekeskuse aruandlus pakuvad järjest tugevamat operatiivset ülevaadet. Tõsise jätkusuutlikkusega seotud töö puhul on täielikum elutsükli ülevaade veelgi tugevam, kuigi see on aeglasem ja nõudlikum.

Kuidas saavad meeskonnad vähendada tehisintellekti energiatarbimist ilma kasulikest tehisintellekti funktsioonidest loobumata?

Suurim kasu tuleb tavaliselt väikseima, kuid siiski tööd tegeva mudeli kasutamisest, viipade ja väljundite lühendamisest, korduvate tulemuste vahemällu salvestamisest, töö partiidena jagamisest ning ainult raskemate ülesannete suunamisest suurematele mudelitele. Samuti on oluline infrastruktuuri optimeerimine, eriti ajastamine ja riistvara tõhusus. Paljudes torujuhtmetes aitab esmalt mõõtmine vältida meeskondade poolt vale asja optimeerimist.

Viited

  1. Rahvusvaheline Energiaagentuur (IEA) - Tehisintellekti energiavajadus - iea.org

  2. USA energeetikaministeerium (DOE) - DOE avaldab uue aruande, milles hinnatakse andmekeskuste elektrienergia nõudluse kasvu - energy.gov

  3. Google Cloud – tehisintellekti järelduste keskkonnamõju mõõtmine – cloud.google.com

  4. Google Research – Head uudised masinõppe koolituse süsiniku jalajälje kohta – research.google

  5. Google Research – Masinõppe koolituse süsiniku jalajälg ühtlustub ja seejärel väheneb – research.google

  6. arXiv - Roheline tehisintellekt - arxiv.org

  7. arXiv – Strubell jt. - arxiv.org

  8. arXiv - Kvantimis-, partii- ja serveerimisstrateegiad LLM-i energiakasutuses - arxiv.org

Leia uusim tehisintellekt ametlikust tehisintellekti abilise poest

Meist

Tagasi blogisse