Kemm ilma tuża l-AI?

Nimmaġina li smajt minn kollox, minn “l-IA tixrob flixkun ilma kull ftit mistoqsijiet” sa “bażikament huma ftit qtar”. Il-verità hija aktar sfumata. L-impronta tal-ilma tal-IA tvarja ħafna skont fejn taħdem, kemm iddum il-prompt tiegħek, u kif ċentru tad-dejta jkessaħ is-servers tiegħu. Allura iva, in-numru ewlieni jeżisti, iżda jgħix f'ħafna restrizzjonijiet.

Hawn taħt se niżvela numri ċari u lesti għat-teħid ta' deċiżjonijiet, nispjega għaliex l-istimi ma jaqblux, u nuri kif il-bennejja u l-utenti ta' kuljum jistgħu jnaqqsu l-konsum tal-ilma mingħajr ma jsiru patrijiet tas-sostenibbiltà.

Artikoli li forsi tixtieq taqra wara dan:

🔗 X'inhu sett ta' dejta tal-AI
Jispjega kif is-settijiet tad-dejta jippermettu t-taħriġ tat-tagħlim awtomatiku u l-iżvilupp tal-mudelli.

🔗 Kif l-AI tbassar ix-xejriet
Juri kif l-AI tanalizza x-xejriet biex tbassar bidliet u riżultati futuri.

🔗 Kif tkejjel il-prestazzjoni tal-AI
Jikklassifika l-metriċi essenzjali għall-valutazzjoni tal-eżattezza, il-veloċità u l-affidabbiltà.

🔗 Kif titkellem mal-AI
Jiggwida strateġiji effettivi ta' suġġeriment biex itejjeb iċ-ċarezza, ir-riżultati u l-konsistenza.

Kemm tuża ilma l-AI? Numri fil-qosor li tista' tuża fil-fatt 📏

• Għal kull prompt, il-firxa tipika llum: minn sub-millilitru għal prompt ta' test medjan fuq sistema mainstream waħda, sa għexieren ta' millilitri għal rispons itwal u ta' komputazzjoni ogħla fuq oħra. Pereżempju, il-kontabilità tal-produzzjoni ta' Google tirrapporta prompt ta' test medjan ta' ~0.26 mL (bl-overhead tas-servizz sħiħ inkluż) [1]. Il-valutazzjoni taċ-ċiklu tal-ħajja ta' Mistral tikkalkula tweġiba ta' assistent ta' 400 token għal ~45 mL (inferenza marġinali) [2]. Il-kuntest u l-mudell huma importanti ħafna.

• Taħriġ ta' mudell fuq skala fruntiera: jista' jwassal għal miljuni ta' litri , l-aktar mit-tkessiħ u l-ilma inkorporat fil-ġenerazzjoni tal-elettriku. Analiżi akkademika kkwotata b'mod wiesa' stmat ~5.4 miljun litru biex jitħarreġ mudell tal-klassi GPT, inklużi ~700,000 litru kkunsmati fuq il-post għat-tkessiħ - u argumentat għal skedar intelliġenti biex titnaqqas l-intensità tal-ilma [3].

• Ċentri tad-dejta b'mod ġenerali: siti kbar ikopru mijiet ta' eluf ta' galluni kuljum bħala medja fl-operaturi ewlenin, b'qċaċet ogħla f'xi kampusijiet skont il-klima u d-disinn [5].

Ejjew inkunu onesti: dawk iċ-ċifri jidhru inkonsistenti għall-ewwel. Iva, hekk huma. U hemm raġunijiet tajbin.

Metriċi tal-użu tal-ilma bl-AI ✅

Tweġiba tajba għal Kemm ilma tuża l-AI? għandha timmarka ftit kaxxi:

1. Ċarezza tal-konfini
   Tinkludi biss għat-tkessiħ fuq il-post , jew ukoll barra mill-post użat mill- impjanti tal-enerġija biex jiġġeneraw l-elettriku? L-aħjar prattika tiddistingwi bejn l-irtirar tal-ilma u l-konsum tal-ilma u tkopri l-ambiti 1-2-3, simili għall-kontabilità tal-karbonju [3].

2. Sensittività tal-post
   L-ilma għal kull kWh ivarja skont ir-reġjun u t-taħlita tal-grilja, għalhekk l-istess prompt jista' jkollu impatti differenti fuq l-ilma skont fejn jiġi servut - raġuni ewlenija għaliex il-letteratura tirrakkomanda skedar konxju tal-ħin u l-post [3].

3. Realiżmu tal-ammont ta' xogħol
   In-numru jirrifletti l-prompts medjani tal-produzzjoni , inkluża l-kapaċità mhux użata u l-overhead taċ-ċentru tad-dejta, jew biss l-aċċeleratur fl-ogħla livell? Google tenfasizza l-kontabilità tas-sistema sħiħa (inattiv, CPUs/DRAM, u overhead taċ-ċentru tad-dejta) għall-inferenza, mhux biss il-matematika tat-TPU [1].

4. Teknoloġija tat-tkessiħ
   It-tkessiħ evaporattiv, it-tkessiħ likwidu b'ċirkwit magħluq, it-tkessiħ bl-arja, u -approċċi emerġenti diretti għaċ-ċippa jbiddlu l-intensità tal-ilma b'mod drammatiku. Microsoft qed tniedi disinji maħsuba biex jeliminaw l-użu tal-ilma tat-tkessiħ għal ċerti siti tal-ġenerazzjoni li jmiss [4].

5. Ħin tal-ġurnata u staġun Is-
   sħana, l-umdità, u l-kundizzjonijiet tal-grilja jbiddlu l-effettività tal-użu tal-ilma fil-ħajja reali; studju influwenti wieħed jissuġġerixxi l-iskedar ta' xogħlijiet ewlenin meta u fejn l-intensità tal-ilma hija aktar baxxa [3].

Irtirar tal-ilma vs konsum tal-ilma, spjegat 💡

• Irtirar = ilma meħud mix-xmajjar, lagi, jew akwiferi (xi ftit irritornat).

• Konsum = ilma mhux irritornat għax jevapora jew jiġi inkorporat fi proċessi/prodotti.

It-torrijiet tat-tkessiħ primarjament jikkunsmaw l-ilma permezz tal-evaporazzjoni. Il-ġenerazzjoni tal-elettriku tista' tirtira volumi kbar (xi kultant tikkonsma parti minnu), skont l-impjant u l-metodu tat-tkessiħ. Tikketti kredibbli tan-numru tal-ilma tal-AI li qed jirrapportaw [3].

Fejn imur l-ilma fl-AI: it-tliet bramel 🪣

1. Ambitu 1 - tkessiħ fuq il-post
   Il-parti viżibbli: l-ilma evaporat fiċ-ċentru tad-dejta nnifsu. Għażliet ta' disinn bħal evaporattiv vs. arja jew likwidu b'ċirkwit magħluq jistabbilixxu l-linja bażi [5].

2. Ambitu 2 - ġenerazzjoni tal-elettriku
   Kull kWh jista' jġorr tikketta tal-ilma moħbija; it-taħlita u l-post jiddeterminaw is-sinjal ta' litri għal kull kWh li jiret l-ammont ta' xogħol tiegħek [3].

3. Ambitu 3 - katina tal-provvista
   Il-manifattura taċ-ċippa tiddependi fuq ilma ultra-pur fil-fabbrikazzjoni. Ma tarahx f'metrika "għal kull prompt" sakemm il-konfini ma jinkludix espliċitament impatti inkorporati (eż., LCA sħiħa) [2][3].

Fornituri bin-numri, b'dettalji 🧮

• Google Gemini jippromptja
  Metodu ta' servizz full-stack (inkluż l-inattività u l-ispejjeż tal-faċilità). Il- prompt medjan tat-test ~0.26 mL ta' ilma flimkien ma' ~0.24 Wh ta' enerġija; iċ-ċifri jirriflettu t-traffiku tal-produzzjoni u l-konfini komprensivi [1].

• Ċiklu tal-ħajja ta' Mistral Large 2
  LCA indipendenti rari (b'ADEME/Carbone 4) tiżvela ~281,000 m³ għal taħriġ + użu bikri u inferenza marġinali ta' ~45 mL għal ta' 400 token [2].

• L-ambizzjoni ta' Microsoft li ma jikkunsmaw l-ebda ilma
  Iċ-ċentri tad-dejta tal-ġenerazzjoni li jmiss huma ddisinjati biex ma jikkunsmaw l-ebda ilma għat-tkessiħ , u jiddependu fuq approċċi diretti għaċ-ċippa; l-użi tal-amministrazzjoni xorta jeħtieġu xi ilma [4].

• Skala ġenerali taċ-ċentru tad-dejta
  L-operaturi ewlenin jirrappurtaw pubblikament mijiet ta’ eluf ta’ galluni kuljum bħala medja f’siti individwali; il-klima u d-disinn jimbuttaw in-numri 'l fuq jew 'l isfel [5].

• Il-linja bażi akkademika preċedenti
  L-analiżi seminali tal-"AI għatxana" stmat miljuni ta' litri biex jitħarrġu mudelli tal-klassi GPT, u li 10–50 tweġiba medja jistgħu bejn wieħed u ieħor ikunu daqs 500 mL - jiddependi ħafna fuq meta/fejn jaħdmu [3].

Għaliex l-istimi ma jaqblux daqstant 🤷

• Limiti differenti
  Xi ċifri jgħoddu biss it-tkessiħ fuq il-post ; oħrajn iżidu l-ilma tal-elettriku ; l-LCAs jistgħu jżidu l-manifattura taċ-ċipep . Tuffieħ, larinġ, u insalata tal-frott [2][3].

• Tagħbijiet tax-xogħol differenti
  Prompt qasir ta' test mhuwiex ġirja twila ta' kodiċi/multimodali; il-miri tal-batching, tal-konkorrenza, u tal-latenza jibdlu l-użu [1][2].

• Klimi u grilji differenti
  Tkessiħ evaporattiv f'reġjun sħun u niexef ≠ tkessiħ bl-arja/likwidu f'wieħed frisk u niedi. L-intensità tal-ilma tal-grilja tvarja ħafna [3].

• Metodoloġiji tal-bejjiegħa
  Google ippubblikat metodu ta' servizz fis-sistema kollha; Mistral ippubblika LCA formali. Oħrajn joffru stimi puntwali b'metodi sparsi. Dikjarazzjoni ta' profil għoli ta ' "wieħed minn ħmistax ta' kuċċarina" għal kull pront għamlet l-aħbarijiet - iżda mingħajr dettall tal-konfini, mhijiex komparabbli [1][3].

• Mira li tiċċaqlaq
  It-tkessiħ qed jevolvi malajr. Microsoft qed tagħmel provi ta’ tkessiħ mingħajr ilma f’ċerti siti; l-implimentazzjoni ta’ dawn se tnaqqas l-ilma fuq il-post anke jekk l-elettriku upstream xorta jġorr sinjal tal-ilma [4].

X'tista' tagħmel illum biex tnaqqas l-impronta tal-ilma tal-AI 🌱

1. Id-daqs it-tajjeb tal-mudell
   Mudelli iżgħar u aġġustati għall-kompitu spiss jaqblu mal-eżattezza filwaqt li jikkunsmaw inqas komputazzjoni. Il-valutazzjoni ta' Mistral tenfasizza korrelazzjonijiet qawwija bejn id-daqs u l-impronta - u tippubblika numri ta' inferenza marġinali sabiex tkun tista' tirraġuna dwar il-kompromessi [2].

2. Agħżel reġjuni li jużaw l-ilma b'mod għaqli
   Ippreferi reġjuni bi klimi aktar kesħin, tkessiħ effiċjenti, u grilji b'intensità aktar baxxa ta' ilma għal kull kWh; ix-xogħol tal-"AI għatxana" juri li konxju tal-ħin u l-post jgħin [3].

3. Ibdel it-tagħbija tax-xogħol fil-ħin
   Skeda t-taħriġ/inferenza tqila tal-lott għal sigħat effiċjenti fl-ilma (iljieli aktar friski, kundizzjonijiet favorevoli tal-grilja) [3].

4. Staqsi lill-bejjiegħ tiegħek għal metriċi trasparenti
   Domanda għall-ilma għal kull darba li tkun qed tintuża , definizzjonijiet tal-konfini, u jekk in-numri jinkludux il-kapaċità mhux użata u l-ispejjeż ġenerali tal-faċilità. Gruppi ta' politika qed jagħmlu pressjoni għal żvelar obbligatorju biex ikunu possibbli tqabbil komparattiv [3].

5. It-teknoloġija tat-tkessiħ hija importanti
   Jekk tħaddem hardware, evalwa t-tkessiħ b'ċirkwit magħluq/dirett għaċ-ċippa ; jekk qiegħed fuq il-cloud, ippreferi reġjuni/fornituri li jinvestu f'disinji li jaħdmu bl-ilma [4][5].

6. Uża l-ilma griż u uża mill-ġdid l-għażliet.
   Ħafna kampusijiet jistgħu jissostitwixxu sorsi mhux tax-xorb jew jirriċiklaw fi ħdan iċ-ċirkwiti; operaturi kbar jiddeskrivu l-ibbilanċjar tas-sorsi tal-ilma u l-għażliet tat-tkessiħ biex jimminimizzaw l-impatt nett [5].

Eżempju rapidu biex nagħmluha reali (mhux regola universali): iċ-ċaqliq ta' xogħol ta' taħriġ matul il-lejl minn reġjun sħun u niexef f'nofs is-sajf għal reġjun aktar frisk u umdu fir-rebbiegħa - u t-tħaddim tiegħu matul sigħat barra l-ħinijiet tal-quċċata u aktar friski - jista' jbiddel kemm fuq il-post kif ukoll barra mill-post (il-grilja). Dak hu t-tip ta' skedar prattiku u mingħajr ħafna konsegwenzi li jista' jiftaħ [3].

Tabella ta' tqabbil: għażliet malajr biex tnaqqas l-ispiża tal-ilma tal-AI 🧰

("Il-Prezz" huwa ddisinjat b'mod irqiq - l-iskjeramenti jvarjaw.)

Analiżi fil-fond: ir-ritmu tal-politika qed isir aktar qawwi 🥁

Il-korpi tal-inġinerija jitolbu żvelar obbligatorju tal-enerġija u l-ilma taċ-ċentri tad-dejta sabiex ix-xerrejja u l-komunitajiet ikunu jistgħu jiġġudikaw l-ispejjeż u l-benefiċċji. Ir-rakkomandazzjonijiet jinkludu definizzjonijiet tal-ambitu, rappurtar fil-livell tas-sit, u gwida dwar l-għażla tas-sit - għaliex mingħajr metriċi komparabbli u konxji tal-post, qed nargumentaw fid-dlam [3].

Analiżi fil-fond: iċ-ċentri tad-dejta mhux kollha jużaw l-istess dejta 🚰

Hemm ħrafa persistenti li "t-tkessiħ bl-arja ma jużax ilma." Mhux eżattament. Sistemi b'ħafna arja spiss jeħtieġu aktar elettriku , li f'ħafna reġjuni jġorr ilma moħbi mill-grilja; bil-maqlub, it-tkessiħ bl-ilma jista' jnaqqas l-enerġija u l-emissjonijiet għad-detriment tal-ilma fuq il-post. L-operaturi l-kbar jibbilanċjaw b'mod espliċitu dawn il-kompromessi sit b'sit [1][5].

Analiżi fil-fond: verifika rapida tar-realtà dwar l-istqarrijiet virali 🧪

Jista’ jkun li rajt stqarrijiet qawwija li prompt wieħed huwa ugwali għal “flixkun ilma,” jew, min-naħa l-oħra, “ftit qtar biss.” Qagħda aħjar: umiltà bil-matematika . Il-bookends kredibbli tal-lum huma ~0.26 mL għal prompt ta’ produzzjoni medjana b’overhead ta’ servizz sħiħ [1] u ~45 mL għal tweġiba ta’ assistent ta’ 400 token (inferenza marġinali) [2]. L-istqarrija tant kondiviża “wieħed minn ħmistax ta’ kuċċarina” m’għandhiex fruntiera/metodu pubbliku; ittrattaha bħal tbassir tat-temp mingħajr il-belt [1][3].

Mini-FAQ: Kemm ilma tuża l-AI? għal darb'oħra, bl-Ingliż sempliċi 🗣️

• Allura, x'għandi ngħid f'laqgħa?
  "Skont il-prompt, ivarja minn qtar sa ftit sips , skont il-mudell, it-tul, u fejn isir. It-taħriġ jieħu pixxini , mhux għadajjar." Imbagħad semmi eżempju jew tnejn hawn fuq.

• L-AI hija unikament ħażina?
  Hija kkonċentrata : ċipep ta' qawwa għolja ppakkjati flimkien joħolqu tagħbijiet kbar ta' tkessiħ. Iżda ċ-ċentri tad-dejta huma wkoll fejn l-aqwa teknoloġija ta' effiċjenza għandha t-tendenza li tasal l-ewwel [1][4].

• Xi ngħidu jekk sempliċement inċaqalqu kollox għal tkessiħ bl-arja?
  Tista’ tnaqqas fuq il-post imma żżid barra mill-post permezz tal-elettriku. Operaturi sofistikati jiżnu t-tnejn [1][5].

• Xi ngħidu dwar it-teknoloġija tal-futur?
  Disinji li jevitaw it-tkessiħ tal-ilma fuq skala kbira jkunu bidla kbira għall-Ambitu 1. Xi operaturi qed jimxu f'din id-direzzjoni; l-elettriku upstream xorta jġorr sinjal tal-ilma sakemm jinbidlu l-grilji [4].

Rimarki Finali - Twil Wisq, Ma Qrajtux 🌊

• Għal kull prompt: aħseb minn sub-millilitru sa għexieren ta' millilitri , skont il-mudell, it-tul tal-prompt, u ​​fejn jaħdem. Prompt medjan ~0.26 mL fuq stack ewlieni wieħed; ~45 mL għal tweġiba ta' 400 token fuq ieħor [1][2].

• Taħriġ: miljuni ta' litri għal mudelli frontier, li jagħmlu l-iskedar, l-għażla tas-sit, u t-teknoloġija tat-tkessiħ kruċjali [3].

• X'għandek tagħmel: agħżel mudelli tad-daqs it-tajjeb, agħżel reġjuni b'livell ta' ilma tajjeb, iċċaqlaq xogħlijiet tqal għal sigħat aktar friski, ippreferi bejjiegħa li jagħtu prova ta' disinji b'livell baxx ta' ilma, u eżiġi konfini trasparenti [1][3][4][5].

Metafora kemxejn difettuża biex tintemm: L-AI hija orkestra għatxana - il-melodija hija komputata, imma t-tnabar huma tkessiħ u ilma tal-grilja. Jekk intonaw il-band, l-udjenza xorta tisma' l-mużika mingħajr ma jintfew l-isprinklers. 🎻💦

Referenzi

1. Blogg tal-Google Cloud - Kemm enerġija tuża l-AI ta' Google? Għamilna l-kalkoli (metodoloġija + ~0.26 mL medjan fil-pront, overhead tas-servizz sħiħ). Link
   (PDF tad-dokument tekniku: Kejl tal-impatt ambjentali tat-twassil tal-AI fuq l-iskala ta' Google .) Link

2. Mistral AI - Il-kontribut tagħna għal standard ambjentali globali għall-AI (LCA b'ADEME/Carbone 4; ~281,000 m³ taħriġ + użu bikri; ~45 mL għal kull ta' 400 token , inferenza marġinali). Link

3. Li et al. - Nagħmlu l-AI Inqas "Għatxuża": L-Iskoperta u l-Indirizzar tal-Impronta Sigrieta tal-Ilma tal-Mudelli tal-AI (taħriġ ta' miljuni ta' litri , konxju tal-ħin u l-post , irtirar vs. konsum). Link

4. Microsoft - Iċ-ċentri tad-dejta tal-ġenerazzjoni li jmiss ma jikkunsmaw l-ebda ilma għat-tkessiħ (disinji diretti għaċ-ċippa li jimmiraw lejn tkessiħ mingħajr ilma f'ċerti siti). Link

5. Ċentri tad-Data ta' Google - Joperaw b'mod sostenibbli (kompromessi ta' tkessiħ minn sit għal sit; rappurtar u użu mill-ġdid, inkluż ilma rkuprat/griż; ordnijiet ta' kobor ta' użu tipiku ta' kuljum fil-livell tas-sit). Link

Sib l-Aħħar AI fil-Ħanut Uffiċjali tal-Assistent tal-AI

Dwarna