Technologická společnost M Computers přivítala v pražském Konferenčním centru City zájemce o AI a její řešení na platformě Nvidia na už 7. ročníku konference AI Days (2024).
Konferenci zahájil Petr Plodík z M Computers, která je na trhu už 20 let a má reference jak z České republiky, tak z regionu CEE, zejména v oblasti superpočítačů. V úvodu zmínil nejnovější model GPU Nvidia DHX H100 a na příkladu firmy Quantasoft, která se zúčastnila už prvního ročníku AI Days, kam se tyto technologie posunuly. M Computers dodává kompletní portfolio Nvidia pro AI a HPC.
Lze z Prahy vybudovat centrum AI?
Lukáš Kačena z prg.ai , která byla založena Karlovou univerzitou, ČVUT a Akademií věd ČR v roce 2018 uvedl, že AI měla svůj „hype“ už vloni, a že má řadu členů, včetně M Computers. Prg.ai se zabývá třemi základními oblastmi:
- Kurzy vzdělávání
- Spolupráce na magisterském programu s ČVUT
- Propojování akademické sféry s podniky
Sdělil také, že s AI dnes pracuje i státní správa, že prg.ai má v Praze skvělé akademické zastoupení včetně CIIRC při ČVUT, a že AI přichází do Prahy i s tím, že světové firmy zde buď zakládají vlastní centra, jako například IBM, nebo kupují lokální firmy, které se AI zabývají a mnohdy podnikají v západní Evropě nebo ve Spojených státech. Do AI přitom neinvestují jen technologické firmy, ale i venture kapitálové trhy.
Nejnovější technologie a trendy AI v portfoliu Nvidia
Dr. Arts Yang, Senior Product Architect Nvidia představila poslední technologie a trendy ohledně DGX & Cloud v Nvidia a jak AI změnila nároky na výpočetní sílu a HPC (High Performance Computing), především v oblastech:
- Application framework
- Platform
- Acceleration libraries
- System software
- Hardware
Klíčovými hráči v AI jsou podle ní Microsoft, OpenAI, Nvidia, Meta nebo Google. Této technologii se věnuje přes 1 600 společností a startupů a OpenAI si získala 110 milionů uživatelů během pouhých dvou měsíců. Například společnosti Google změnila AI jejich vlastní produkt. AI má mnoho využití, například v Německu se využívá při průzkumu přírodních zdrojů (například vody), a že cokoliv vygenerované pomocí AI tam nemůže mít copywright. Příkladem nasazení generativní AI je také iPhone. Přínosy generativní AI lze vidět ve zdravotnictví a farmacii, vzdělávání, e-commerce, marketingu a dalších oborech. Dalším příkladem oblíbenosti AI lze vidět ve světě renderingu (Adobe Photoshop) a 3D. Generativní AI přetváří práci napříč odvětvími průmyslu – architekturou, průmyslovým designem, filmem/videem, vývojem her, marketingem nebo fotografií. Kromě GPU Nvidia DHX H100 má přijít v roce 2024 na trh nový čip GH200 Grace Hopper. Výhodou platformy Nvidia je software, který se vyznačuje:
- AI end-to-end
- Cloudově nativní, optimalizovaný pro hybridní práci
- Třídy enterprise s komponenty OSS
- Bezpečný a škálovatelný
- Technologická podpora 9×5 nebo premium 24×7
Projekty Nvidia v našem regionu
Kamila Jeřábková z M Computers představila společné projekty pro AI s Nvidia v regionu CEE. M Computers dodává kompletní portfolio Nvidia pro AI a HPC a má od ní certifikace DGX AI Compute, Virtualization (RTX), Virtualization (vGPU), Networking, Software a další. Je oprávněna poskytnout slevy (Inception promo – 30 %, EDU promo – až 80 %, případně roční licence Omniverse za $1) a produkty pro testování.
Mezi reference M Computers v ČR patří Otravská univerzita (výpočetní systém pro strojové učení a AI pro rozpoznání obrazu), Západočeská univerzita v Plzni (grafický výpočetní server pro modelování kapalné fáze a zrychlení výpočtů fluidní dynamiky), ČVUT v Praze (zkoumání AI a průmyslové robotiky pro zvýšení flexibility automatizované a distribuované průmyslové výroby), Masarykova univerzita (nasazení nejvýkonnějšího akcelerátoru Nvidia H100 generace Hopper), Seznam.cz (desítky GPU Nvidia H100 80GB, strovky GPU Nvidia L4), VŠB Technická univerzita Ostrava (první systém Nvidia DGX pro HPC a výpočty AI v České republice, testování AI aplikací a benchmarku pro porovnání s jinými CPU\/GPU).
Ze zahraničních referencí zmínila Kamila Jeřábková z M Computers Cluster Power v Rumunsku (největší lokální cloud provider a největší hyperscale DC v celém regionu na ploše 25 400 m2 s kapacitou až 4 500 racků, největší AI Centre of Excellence, vlastní plynová elektrárna produkující až 200 MW), kam firma M Computers dodala Nvidia DGX POD s referenční architekturou ONTAP AI (DGX POD, storage NetApp a networking Mellanox), dále Technická univerzita v Košicích, University of Ljubljana (Slovinsko), University of Debrecen nebo EU Satellite Centre.
Arts Yang, Senior Product Architect Nvidia
Ostatní prezentace
Další prezentace byly neméně zajímavé, protože byly z praxe.
Marek Šimůnek ze Seznam.cz seznámil s nasazením LLM (Large Language Mocel) – od prototypu až k produktu s vlastní produktovou strategií, výzkumným know-how ve firmě a s tím, jak AI rozšířit ve firmě. Seznam je v tomto otevřený, a aby nemusel mít každý ve firmě konto v OpenAI, což by přinášelo problémy, mají pro OpenAI má proxy a API pro případné připojení k jinému zdroji, například Microsoft Azure. V Seznam.cz míří na skvělou češtinu česky, staví vlastní ekosystém pro snadné použití vlastními zaměstnanci a nespoléhají na uzavřené LLM.
Aleš Křenek z Masarykovy univerzity představil s využitím LLM pro získání vzorku sloučeniny z jejího hmotnostního spektra na základě cílené a necílené hmotnostní spektrometrie s řešením otázek, zda je ve vzorku některá z hledaných sloučenin a jaké je složení neznámého vzorku?
Aleks Polak, Inside Account Manager z Nvidia hovořil o Nvidia Developer Programs & Inceptions – programech pro podporu nasazování GPU Nvidia. Nvidia Developer Program má už 3,5 milionu vývojářů a existuje také Nvidia catalog of solutions (nvidia.com/startup).
Josef Vopička z mVoice a Martin Čmejrek z mDataChat (MAMA AI), kteří mají původ v IBM Research a IBM Watson předváděli efektivní konverzaci a špičkové syntetické hlasy (text-to-speech), pro kterou mají cluster s GPT A100. Řeššení od mDatachat zase umožňuje vyhledávání podle významu – nezávisle na jazyku prohledávaných dokumentů dostaneme odpověď ve stejném jazyce, jako byla otázka; podporuje více než 100 jazyků, všechny jazyky EU a další.
Milan Pultar ze společnosti Quantasoft představil použití Nvidia stacku pro inteligentní video analýzu, která umožňuje rozpoznávání objektů pro zvýšení bezpečnosti, třeba značky SPZ nebo barvy oblečení. Oblastí využití je například automatizované zabezpečení objektů.
David Herman z DataFromSky ukázal video AI pro monitorování dopravy, které přirovnal k „šestému dopravnímu smyslu“. Toto řešení je založeno na sledování trajektorií a je schopno využívat signály z veškerých druhů kamer včetně dronů.
Pavel Kordík z Recombee seznámil s problematikou velkých jazykových modelů a jak pomáhají uživatelům s doporučeními relevantních položek, přičemž doporučujícím systémem je algoritmus. Cílem je porozumět přirozenému jazyku a doporučit položku z katalogu (např. prodejního). Úkoly k řešení jsou rychlá odpověď, okamžitě reagovat na změny v katalogu položek a zvládnout miliony uživatelů. Základem je samozřejmě matematika, mj. maticový počet. Vzhledem k tomu, že matice mají velký rozměr a jsou mnohdy řídce vyplněny (nedostatečné popisky položek apod.) Aby se nepočítalo s tak velkými maticemi, provádí se jejich faktorizace. Recombee má proto společnou výzkumnou laboratoř na FIT ČVUT, kde probíhá učení a vyhodnocování menších efektivních modelů (např. ELSA) a studentské práce a projekty. Jedním z nich je studentský projekt na rozpoznání škodlivých neetických dotazů, například jak sestrojit bombu. Výsledkem práce bylo rozpoznání s poměrně velkou přesností.
Tomáš Tunys z Rossum.ai ukázal automatizaci pracovních toků se zpracováním dokumentů pomocí AI pro jejich zrychlení. Hlavní problematikou k řešení je lokalizace a extrakce informací (například částky na faktuře). Výsledný model musí být schopný prokázat ve svých předpovědích úroveň důvěryhodnosti. Lze toho dosáhnout buď kalibrováním konečného (pevného) přednastaveného modelu, nebo ještě lépe s rozpoznáváním pomocí klasické AI.
Ondřej Székely z Digiteq Automotive, firmy 100% vlastněné VW, nastínil projekty AI v oblasti automotive, například rozpoznání obrazu v parkovacích asistentech, vývoj autonomního řízení ve spolupráci s Bosch (VW má obrovskou flotilu a Bosch zase zkušenosti regulací), takže společně mohou sbírat data pro vývoj autonomního řízení pomocí AI. Používají k tomu nejen nasbíraná data, ale i syntetická, aby bylo možné pokrýt scénáře, která nebylo možno v nasbíraných datech získat.
Co dodat?
Bylo skvělé se seznámit se špičkovými poznatky z AI. Co ale bude, až budou dostupné možnosti kvantových výpočtů? Jak si rozdělí klasické počítače s DPU a GPU a kvantové počítače svoje role?