Spotreba AI je závratná: 5 sekúnd videa vydá na hodinu používania mikrovlnky
Zdroj: Zoner AI
3m čítanie

Spotreba AI je závratná: 5 sekúnd videa vydá na hodinu používania mikrovlnky

Skúmanie spotreby AI je ťažko predvídateľné a netransparentné.

V správe MIT sa poukazuje najmä na rastúcu spotrebu v spojitosti s AI. Modely sú síce efektívnejšie, no prichádza na rad hrubá sila – obrovské množstvo ľudí, ktorí ju požívajú. V správe sa kritizuje aj to, že vedúce firmy v tejto oblasti síce dáta o energetickej náročnosti zverejňujú, avšak selektívne.

Napríklad model Llama 3.1 405B má spotrebu na každú odpoveď v priemere 3353 joulov alebo 6706 odhadom celkovo pri dopytoch. To je ako spustenie mikrovlnky na 8 sekúnd. Vytvorenie 5-sekundového videa cez AI je ako keby ste nechali mikrovlnku bežať celú hodinu. Na takéto video sa spotrebuje energia v ekvivalente približne 3,4 mil. joulov. To je 700× viac ako pri tvorbe obrázka vo vysokom rozlíšení.

Len nepresný odhad

Tieto prepočty a odhady sa veľmi ťažko odhadujú. Predstavu ale získate a je jasné, že AI je žrút energie. Tým, že firmy poskytujúce AI služby selektujú údaje, nemáme ani dôveryhodný údaj v benchmarku AI Energy Score.

MIT Technology Review thailand map
Zdroj: MIT Technology Review

Odhady Ministerstva hospodárstva v USA hovoria o tom, že do roku 2028 bude polovica potrebnej elektrickej energie využívaná len AI. Doteraz boli využitia dátovými centrami na plochej krivke pre optimalizáciu a akúsi predvídateľnosť.

Samotná spotreba by nebola problémom, keby datacentrá bežali na slnečnú energiu. Prevádzka centier je ale postavená na fosílnych palivách a produkcii CO2. Správa ďalej uvádza, že problémom v oblasti neriadenej spotreby sú AI agenti. Tí majú 43× vyššiu spotrebu pri jednoduchých úlohách ako použitie modelu s možnosťami „Deep Research“.

Otázka napájania nie je strašiak a je to niečo, čo budú musieť firmy (prípadne štáty) zobrať do úvahy. V budúcnosti to nebude len jednoduché dopytovanie. Firmy nás už teraz učia, že na množstvo bežných vecí máme AI.

Ľudia budú možno menej hľadať na Googli a viac sa pýtať AI. Letenky si nechajú objednať, jedlo s dovozom tiež, firemná automatizácia sa bude robiť cez AI. Prípadov by sa dalo menovať množstvo. Jedno je isté, firmy si poradia, pretože mať super model, ale drahý, nebude pre trh zaujímavé.

Zdroj: Mashable, MIT Technology Review

Prečítajte si aj: