Jako cloudovou službu lze poskytovat nejen samotný výkon/hardware („infrastrukturu“, IaaS), ale speciálně také servery s GPU.
Krátké shrnutí na toto téma napsal Christopher Tozzi pro ITPro Today. Nabídky GPU-as-a-service fungují stejným způsobem jako jakákoli standardní řešení IaaS: Poskytovatelé služeb nasadí servery s GPU a pak umožní zákazníkům připojit se k nim pomocí SSH nebo přes vzdálenou plochu. Po připojení mohou zákazníci nasadit pracovní úlohy podle vlastního výběru. Ceny se odvíjejí od využitého času/výkonu. Nabídku tohoto typu již mají všichni významní poskytovatelé cloudových služeb (G4dn od AWS apod.).
Prakticky ve všech případech stojí provoz instance cloudového serveru vybaveného výkonným grafickým procesorem více než provoz instance, která poskytuje podobné zdroje CPU a paměti, ale neobsahuje grafický procesor. O GPU mají ale samozřejmě zájem např. zákazníci, kteří trénují modely umělé inteligence nebo provádějí speciální analytické úlohy. Právě AI (nejen trénování modelů, ale i jejich samotný provoz; nicméně pro stabilní provoz s konstantním vytížením už může být ekonomičtější pořídit se server s GPU v režimu on-premise) je hlavním důvodem pro zvýšený zájem o grafické procesory, opětovného vzestupu firem jako NVidia apod. Lze předpokládat, že poptávka po GPUaaS ze strany podniků i nadále poroste…
Christopher Tozzi v této souvislosti upozorňuje také na související nabídku GPU-over-IP. Zákazník si v tomto případě nepronajímá celý server a nenasazuje na něj pracovní zátěže. Namísto toho připojí zátěže závislé na GPU ke GPU vzdáleného serveru přes internet pomocí speciálního softwaru (např. společnost Juice Labs nabízí jednu z verzí svého softwaru tohoto typu k dispozici bezplatně a jako open source). Samotná úloha je pak spuštěna dále lokálně, nepronajímá se celý server, nicméně zase v důsledku běhu úlohy na dvou místech nejsou optimálně využity zdroje. V tomto případě může být modelem nasazení nikoliv jen služba dodavatele cloudu, ale třeba i využívání GPU v datových centrech partnera.
Zdroj: ITProToday a další
