Dnešní doba klade na firemní IT stále větší požadavky na kvalitu a hlavně množství informací, které je třeba doručit stále většímu počtu uživatelů. Dnešní článek je pokračováním miniseriálu o Business Intelligence. Podíváme se na problematiku datové kvality, obohacování, slučování dat, reporting a také na pojem BI v podání SAS Institute.
První díl definoval současné problémy firem s daty, představil Business Intelligence systémy atd.
Kvalita dat je klíčem Business Intelligence
Z povahy zpracování hromadných dat vyplývá prakticky ve všech datech výskyt řady defektů, nekonzistencí, neúplností atd., jež jsou souhrnně chápány jako prvky (ne)kvality dat.
Jejich existence má větší či menší vliv na používání dat a informací, a v důsledku může způsobovat ekonomické ztráty (procesy pracující s daty poskytují nekorektní výsledky, snižuje se účinnost marketinkových nástrojů, jsou vynakládány náklady na zpracování nepotřebných a nekvalitních dat, nákladné jsou také podnikové procesy řešící nekvality dat). Obecně do sféry řešení problematiky datové kvality patří i „informační kvalita“, která se zabývá tím, jak jsou v podniku data používána, interpretována, popsána, nakolik je jejich obsah srozumitelný a relevantní.
Vlastní proces realizace technického řešení sestává z řady standardních kroků, představujících jednotlivé dílčí úlohy. Tyto úlohy jsou na sobě závislé a jejich realizace je rovněž navzájem podmíněná.
Zkoumání kvality dat (Data Quality Assessment)
Cílem této úlohy je zjistit stav kvality dat jako základ pro další rozhodování o vlastním řešení zlepšování a údržby kvality dat. Pro zvolenou business entitu jsou zkoumány pomocí specializovaného nástroje veličiny, které měří stav dat a jejich dílčí atributy z pohledu základních obecných charakteristik a z pohledu různých typů datových defektů. Výsledkem tohoto zpracování je (relativně) objektivní pohled na stav dat. Zjištění takového měření jsou pak interpretována v kontextu podnikových procesů tak, aby:
- byly identifikovány zjevné i možné dopady na business podniku (eliminace ztrát, případně realizace potenciálních přínosů)
- byly nalezeny zdroje identifikovaných defektů (konkrétní systémy, úlohy či procesy)
Výsledky úlohy zkoumání kvality dat jsou pak využity jak pro nastavení konkrétních parametrů dalších úloh řešení kvality dat, tak pro případnou úpravu podnikových standardů a business procesů.
Automatické čištění dat (Data Cleansing)
Během této úlohy se s daty provádějí operace zlepšující jejich kvalitu. Identifikované defekty jsou dle možností opravovány na základě business pravidel, standardů, registrů a číselníků včetně registrů obvyklých chyb. Opravené hodnoty ve standardizovaném tvaru jsou v tomto procesu přidány jako nové informace k původním datům a na základě metodiky a dalších návazných procesů jsou (mohou být) promítány jako změny do vlastních podnikových dat.
Obohacení dat (Data Enrichment)
V tomto kroku jsou doplněny chybějící hodnoty, pokud to je možné. Hodnoty jsou doplňovány buď z kontextu dalších informací (např. pohlaví …) nebo z datových zdrojů dodaných zvenku (veřejně nebo komerčně dostupné registry).
Slučování dat (Match & Merge)
Vrcholem zpracování dat v rámci řešení datové kvality a zároveň nejsložitější úlohou je slučování dat. V tomto procesu jsou rozpoznávány záznamy, jež náležejí jednotlivým konkrétním fyzickým subjektům (duplicity dat). Složitost spočívá především v tom, že jednotlivé záznamy mohou být uloženy v různých formátech, na různých místech, v různých systémech, s různou syntaxí a v různé kvalitě. Úkolem je nalézt všechna tato synonyma, vytvořit pro ně jeden referenční (master) záznam, a případné další nové záznamy vůči němu identifikovat.
Reporting, Monitoring
Na základě metrik kvality dat jsou sestavovány reporty, jež mají dva hlavní úkoly:
- sledovat celkovou úroveň kvality dat a její trendy, případně monitorovat účinnost čistících procesů
- sledováním anomálií ve výskytu datových defektů upozorňovat na možné systémové problémy v oblasti zacházení s daty
Business Intelligence v podání SAS Institute
SAS Institute přišel ve své poslední verzi SAS 9 s jednotnou platformou, která je postavena na výhodách homogenní BI architektury. Tato platforma se nazývá SAS Enterprise Intelligence Platform a snaží se co nejlépe integrovat jednotlivé technologické komponenty ve stávajících zákaznických infrastrukturách v sourodý systém.
SAS Enterprise Intelligence Platform stojí na těchto základních pilířích:
- Datová integrace – Nástroje pro datovou integraci se starají o výkonné napojení na datové zdroje, o datovou kvalitu, ETL (extrakce, transformace, nahrávání), migraci a synchronizaci dat.
- Analýzy
Aplikace pro pokročilé analýzy umožňují připravovat nejen běžné reporty, ale poskytují i pokročilé analytické funkce jako např. modelování, scoring dat, text mining, předpovědi časových řad, optimalizace a další. - Business Intelligence
Business Intelligence dodává uživatelům nástroje a postupy, které jim umožňují zpracovávat informace. Pro různé skupiny uživatelů jsou určeny různé nástroje. V produktové terminologii se jedná o SAS Enterprise BI Server. - Datová úložiště
SAS umožňuje ukládání jak v relačních tak i OLAP databázových strukturách. Další možností je využití datových struktur jiných databázových dodavatelů. - Společná metadata
Všechny výše uvedené části ale nelze brát odděleně. Vzájemně se prolínají a doplňují. Jakožto součást platformy jsou všechny komponenty a služby řízeny a nastavovány z jednoho centrálního místa. Platforma samozřejmě podporuje celou řadu otevřených standardů a má rozhraní pro další rozšiřování (COM, Web services, .NET, ADO, JAVA).
Autorem článku je Pavel Mašek, Business Intelligence consultant SAS ČR
Více informací o BI a kvalitě dat se můžete dozvědět na SAS Foru 2010, které proběhne za účasti významných hostů a zakladatele SAS Jima Goodnighta v Praze 20.1.2010.
Přečtěte si také
Jana Žižková: SAS je jediným dodavatelem komplexních analytických řešení
Business Intelligence: nový pohled na zpracování podnikových informací