Superpočítač už překonal mozek myši a blíží se k výkonu lidského mozku. To ale nebylo na ČVUT CIIRC všechno, co česká firma M Computers která superpočítače dodává především do akademické sféry, společně se společnostmi Nvidia, IBM a Kingston prezentovala. Vonneumannovská architektura už je vyčerpána a nejbližší vývoj už záleží spíše na softwaru.
Petr Plodík z M Computers, který měl první prezentaci, uvedl, že žebříček superpočítačů se aktualizuje dvakrát ročně.
Supercomputing – první a ti další
Nvidia s GPU dominuje a AMD posiluje
Dominanci s akcelerátory GPU (Graphic Processing Unit) přitom stále hraje Nvidia. Velkou výhodu má v tom, že dodává SDK a spoustu dalšího softwaru, na kterém pracuje od začátku, tj. už čtrnáct let. Navíc se ukazuje, že v superpočítačích může být velmi zajímavá i společná platforma Nvidia s AMD.
Zajímavé reference v České republice
Ty má u nás právě M Computers, a sice například na FEL ČVUT v Praze, IT4Innovations v Ostravě a další se chytá na CIIRC ČVUT pro výzkum AI. Další instalovaný systém, který už také běží, je také od M Computers na jednom z pracovišť AV ČR, o kterém se doufáme dozvíte už brzy.
Co v superpočítačích dál?
Vše záleží na softwaru. To, co bylo teoreticky navrženo už někdy v 60. letech 20. století, se daří uskutečnit teprve dnes, právě díky obrovskému nárůstu výkonu. Ukazuje se, že klasická von neumannovská architektura už je vyčerpána. Hlavním lídrem v této oblasti je Nvidia, která dodává jednak GPU, jednak software, do něhož vkládá obrovské prostředky. Nvidia má use cases pro deep learning už pro více než 600 urychlujících aplikací.
Nvidia objímá celý ekosystém a věří si
Na Petra Plodíka z M Computers navázal Ralph Hinsche z Nvidia, který má na starosti region, kam spadá i Česká republika. Nvidia je na trhu s akcelerátory GPU už čtrnáct let, začali s jazykem Cuda pro AI. Od roku 2012 jsou na trhu i s akcelerátory, takže Nvidia obsáhne celý tento ekosystém, zejména co se týče datových center. Podle Ralpha Hinsche neexistuje žádný průmysl, který by nebyl zasažen AI, včetně medicíny; za příklad vzal analýzu DNA. Jako další příklad uvedl prediktivní údržbu v průmyslu. Například když se něco „nepředvídatelně“ porouchá. Na základě vstupů z čidel a dalších údajů lze z výstupů z AI usoudit, proč se tak stalo. Třeba na popelářském voze, který se musí pohybovat jak po celém městě, tak na skládce. Když je vybaven senzory, lze nasadit AI pro vyhodnocení, za jakých podmínek došlo k poruše.
Nvidia mj. koupila firmu Mellanox kvůli její rychlé sběrnici s rozhraním Infiniband, protože i rychlý přenos dat je zapotřebí. Kromě toho úzce spolupracuje s vedoucími dodavateli storage, jako například s Dell EMC, NetApp, IBM a dalšími.
Nvidia si věří a k prodeji svých systémů má v současné době jasné stanovisko – vyzkoušejte si nás, a pokud najdete na trhu někoho lepšího, vrátíme vám peníze! V běžných datacentrech přitom neurychluje žádné superpočítače, ale běžné dvousocketové servery.
Paměti Kingston s šestidevítkovou spolehlivostí
Poslední prezentaci měl Marcin Gaczor ze společnosti Kingston, která dodává paměti sice i pro běžné použití, ale zejména pro kategorii enterprise pro servery. Společnost Kingston byla založena dvěma pány v USA, kteří ji stále vlastní, takže není veřejně obchodovatelná, což ji pomohlo proplout i globální ekonomickou krizí před deseti lety. Před patnácti lety založila firmu Advanced Validation Labs, která testuje průmyslové paměťové systémy všech firem, které o to projeví zájem. Testuje je za plného výkonu například i zahřáté v peci. Mimochodem – všechny paměti od firmy Kingston jsou v těchto laboratořích také 100% testovány, a to i OEM výrobky, které Kingston branduje pro své odběratele. Kingston přitom není výrobcem čipů, ale vyrábí z nich hotové výrobky a dává na ně už 32 let doživotní záruku.
SSD technologie dnes ovládají svět, avšak jejich omezením je životnost. V roce 2009, kdy se s touto technologií začínalo (SLC), šlo každou buňku přepsat 100 tisíckrát. Další generaci s vyšší hustotou záznamu už jen 10 tisíckrát, a následnou generaci TLC už jen 3 tisíckrát. S technologií QLC má jít už jen o 1 500 přepisů.
Podle Marcina Gaczora se však nemusíme bát, protože s technologií SLC se dosahovalo kapacity jen 16 GB, dnes jde o terabyty, takže došlo i ke statistickému přepočtu životnosti (počtu cyklů) na GB. Důležitý je proto při návrhu storage i sizing, u kterého se počítá při pětileté životnosti SSD disků i počet přepisů za den, a zda je skutečně zapotřebí požadovat tak vysokou kapacitu. Jde tedy při srovnávání SSD disků o konzistenci srovnávaných parametrů (statistiku), například právě pro dosažení Kingstonem uváděné šestidevítkové spolehlivosti (99,9999 %). Levné SSD disky totiž už po 365 dnech používání degradují na pouhé 1 % spolehlivosti.
Jetson Kit pro už hotové výpočty AI
Petr Plodík z M Computers ukazuje Jetson Kit – jakési „Rapsberry Pi“ pro AI. Nvidia dodává buď jen procesor, nebo celou desku, zbytek si vývojář dodělá sám. To, co je na fotce, si vyrobili z polotovaru od Nvidia v M Computers sami – kus ohnutého plechu a plastový kryt na 3D tiskárně. Když jsou algoritmy už hotové, dají se spouštět na této malé krabičce. Jetson Kit se dá použít ke sběru a vyhodnocení dat pomocí AI na základě už odladěných algoritmů na výkonných zařízeních. Může být propojen například s kamerovými systémy pro vyhodnocení pohybu osob v reálném čase, nebo pro sběr dat pro autonomní auta apod.
