Náročnost umělé inteligence na zdroje je výzvou, se kterou se svět potýká i téměř tři roky poté, co generativní AI na konci roku 2022 poprvé výrazně pronikla na globální scénu. I přesto, že v oblasti zvyšování efektivity AI už jsme byli svědky řady inovací, čeká nás v této oblasti ještě hodně práce
Není překvapivé, že titulky zaměřené na udržitelnost AI se soustředí především na „zelená“ datová centra, tedy zařízení poháněná obnovitelnými zdroji energie, optimalizovaná pro chlazení a navržená s důrazem na maximální účinnost. Ta jsou ale pouze jedním dílkem mnohem rozsáhlejší skládačky. Chceme-li vybudovat udržitelnější ekosystémy AI, musíme se dívat za hranice samotné infrastruktury a přijmout širší strategii, která usiluje o maximální využití nízkouhlíkových zdrojů energie a zároveň zohledňuje širší prvky udržitelnosti v oblasti IT, jako je efektivita práce s daty a softwarem.
Za hranice datových center: Rozšíření debaty o udržitelnosti AI
Moderní datová centra jsou nepochybně základem pro nasazení AI. Inovace v oblasti kapalinového chlazení, přeměny energie a optimalizace na úrovni racků umožnily zvládnout obrovské výpočetní nároky AI úloh. Je třeba zdůraznit, že tyto pokroky nejsou jen žádoucí – jsou naprosto zásadní. Přesto i ta nejpokročilejší zařízení mají své limity. Samotné inferencování (tedy provozování natrénovaných modelů za účelem generování predikcí či odpovědí) má podle různých odhadů spotřebovávat do roku 2030 až 20 % celosvětové energie. Nejde tak pouze o problém datových center, ale o obchodní riziko.
Zlepšení infrastruktury je sice klíčové, ale samo o sobě nestačí. Výzva udržitelnosti AI je systémová a zahrnuje celý životní cyklus AI modelu: od sběru dat a trénování až po nasazení a monitorování. Zaměřit se pouze na datová centra je jako zintenzivnit svůj trénink v posilovně, ale přitom se stále stravovat nezdravě: pravděpodobně dosáhneme nějakého pokroku, ale výsledky zůstanou daleko za možným potenciálem.
Základem efektivity jsou data
Kvalitní AI modely se opírají o kvalitní soubor vstupních dat. Jasně definovaná datová strategie nejenže zajišťuje lepší výsledky modelu, ale může také výrazně zvýšit jeho energetickou efektivitu. Mnoho organizací však nasazuje AI bez jakékoli promyšlené datové strategie. Výsledkem jsou modely trénované na nerelevantních, nestrukturovaných nebo nekvalitních datech, které nejenže podávají horší výkony, ale zároveň plýtvají cennými výpočetními zdroji.
K zajištění relevantních a kvalitních dat může pomoci rámec čtyř krok“ sběr dat, jejich kurátorství, čištění a ověření. Zároveň pomůže snížit čas potřebný pro trénování a inferenci a tedy energetickou náročnost modelu. Například úprava datových sad za účelem odstranění zkreslení a redundance prokazatelně zvyšuje přesnost modelu a zároveň snižuje spotřebu výpočetních prostředků.
Software: skrytá příležitost
Efektivita softwaru bývá v debatách o udržitelnosti AI bohužel často opomíjena. Většina vývojářů je vedena k tomu, aby upřednostňovala funkčnost a rychlost a zároveň předpokládala neomezené zdroje. Jenže ony neomezené nejsou a neefektivní kód i přebytečně robustní modely výrazně zvyšují spotřebu energie.
Dobrou zprávou je, že už dochází k posunu od přístupu „čím větší, tím lepší“ k přístupu „vhodný pro daný účel“. V rámci vývojářské komunity se objevuje řada úspěšných taktik. Například kvantizace snižuje výpočetní zátěž tím, že omezuje přesnost modelu v případech, kdy extrémní přesnost není nezbytná. Použití tzv. omezujících mechanismů (guardrails) je dalším užitečným přístupem, v rámci kterého jsou jednodušší dotazy přesměrovány na menší modely s nižší spotřebou energie. Významné úspory může přinést i využívání malých jazykových modelů (SLM) a kompaktních, oborově zaměřených LLM.
Účinnost zařízení: přizpůsobení pracovní zátěže hardwaru
Stejně jako je třeba z hlediska výkonu a udržitelnosti optimalizovat software, musí být optimalizován i hardware, na kterém běží. Účinnost zařízení při nasazení AI znamená využívat každou technologii tak, aby odvedla co nejvíce práce s co nejmenší spotřebou energie a produkcí tepla. AI úlohy je proto třeba přiřazovat hardwarovým platformám, které jsou pro ně specificky navrženy. To však vyžaduje, aby organizace překonaly zažitou tendenci výrazně naddimenzovávat kapacity (tzv. „co kdyby“), což vede k nízké míře využití a zbytečné spotřebě energie. Pokud se pracovní zátěže sladí s optimalizovaným využitím hardwaru, mohou organizace dosáhnout významných zisků v oblasti efektivity.
Ucelený rámec pro efektivitu AI
Namísto zaměření na optimalizaci jednotlivých zařízení by měly firmy začít uvažovat komplexně. Sestavit komplexní plán nasazení AI, který se zaměřuje na optimalizaci celého řešení. To vyžaduje významnou kulturní změnu, která může trvat dlouho, ale do budoucna ji nelze ignorovat. Vytvoření uceleného rámce pro efektivitu AI vyžaduje rozvoj dovedností týmů, podporu mezioborové spolupráce a začlenění principů udržitelnosti do řízení a správy AI systémů.
Tím, že rozšíříme své vnímání a budeme hodnotit celý ekosystém AI, nikoli pouze podkladový hardware, máme mnohem větší šanci řešit výzvy spojené s udržitelností AI včas. Přijetím principů efektivity práce s daty a softwarem, optimalizací vybavení a zdrojů a sladěním energetických strategií s obchodními cíli mohou organizace budovat výkonné AI systémy, které berou v potaz energetická omezení dnešního světa, a zároveň si zajistit přínosy, které tato nová technologie slibuje přinést.
Autor: Monica Batchelder, Chief Sustainability Officer, HPE
