Nekvalitní data mohou způsobovat ekonomické ztráty

Pavel Mašek, 05. leden 2009 06:33 0 komentářů
Rubriky: Byznys

SAS
Dnešní doba klade na firemní IT stále větší požadavky na kvalitu a hlavně množství informací, které je třeba doručit stále většímu počtu uživatelů. Dnešní článek je pokračováním miniseriálu o Business Intelligence. Podíváme se na problematiku datové kvality, obohacování, slučování dat, reporting a také na pojem BI v podání SAS Institute.

SAS

První díl definoval současné problémy firem s daty, představil Business Intelligence systémy atd.

Kvalita dat je klíčem Business Intelligence

Z povahy zpracování hromadných dat vyplývá prakticky ve všech datech výskyt řady defektů, nekonzistencí, neúplností atd., jež jsou souhrnně chápány jako prvky (ne)kvality dat.

Jejich existence má větší či menší vliv na používání dat a informací, a v důsledku může způsobovat ekonomické ztráty (procesy pracující s daty poskytují nekorektní výsledky, snižuje se účinnost marketinkových nástrojů, jsou vynakládány náklady na zpracování nepotřebných a nekvalitních dat, nákladné jsou také podnikové procesy řešící nekvality dat). Obecně do sféry řešení problematiky datové kvality patří i „informační kvalita“, která se zabývá tím, jak jsou v podniku data používána, interpretována, popsána, nakolik je jejich obsah srozumitelný a relevantní.

Vlastní proces realizace technického řešení sestává z řady standardních kroků, představujících jednotlivé dílčí úlohy. Tyto úlohy jsou na sobě závislé a jejich realizace je rovněž navzájem podmíněná.

Zkoumání kvality dat (Data Quality Assessment)

Cílem této úlohy je zjistit stav kvality dat jako základ pro další rozhodování o vlastním řešení zlepšování a údržby kvality dat. Pro zvolenou business entitu jsou zkoumány pomocí specializovaného nástroje veličiny, které měří stav dat a jejich dílčí atributy z pohledu základních obecných charakteristik a z pohledu různých typů datových defektů. Výsledkem tohoto zpracování je (relativně) objektivní pohled na stav dat. Zjištění takového měření jsou pak interpretována v kontextu podnikových procesů tak, aby:


  • byly identifikovány zjevné i možné dopady na business podniku (eliminace ztrát, případně realizace potenciálních přínosů)
  • byly nalezeny zdroje identifikovaných defektů (konkrétní systémy, úlohy či procesy)

Výsledky úlohy zkoumání kvality dat jsou pak využity jak pro nastavení konkrétních parametrů dalších úloh řešení kvality dat, tak pro případnou úpravu podnikových standardů a business procesů.

Automatické čištění dat (Data Cleansing)

Během této úlohy se s daty provádějí operace zlepšující jejich kvalitu. Identifikované defekty jsou dle možností opravovány na základě business pravidel, standardů, registrů a číselníků včetně registrů obvyklých chyb. Opravené hodnoty ve standardizovaném tvaru jsou v tomto procesu přidány jako nové informace k původním datům a na základě metodiky a dalších návazných procesů jsou (mohou být) promítány jako změny do vlastních podnikových dat.

Obohacení dat (Data Enrichment)

V tomto kroku jsou doplněny chybějící hodnoty, pokud to je možné. Hodnoty jsou doplňovány buď z kontextu dalších informací (např. pohlaví ...) nebo z datových zdrojů dodaných zvenku (veřejně nebo komerčně dostupné registry).

Slučování dat (Match & Merge)

Vrcholem zpracování dat v rámci řešení datové kvality a zároveň nejsložitější úlohou je slučování dat. V tomto procesu jsou rozpoznávány záznamy, jež náležejí jednotlivým konkrétním fyzickým subjektům (duplicity dat). Složitost spočívá především v tom, že jednotlivé záznamy mohou být uloženy v různých formátech, na různých místech, v různých systémech, s různou syntaxí a v různé kvalitě. Úkolem je nalézt všechna tato synonyma, vytvořit pro ně jeden referenční (master) záznam, a případné další nové záznamy vůči němu identifikovat.

Reporting, Monitoring

Na základě metrik kvality dat jsou sestavovány reporty, jež mají dva hlavní úkoly:


  • sledovat celkovou úroveň kvality dat a její trendy, případně monitorovat účinnost čistících procesů
  • sledováním anomálií ve výskytu datových defektů upozorňovat na možné systémové problémy v oblasti zacházení s daty

Business Intelligence v podání SAS Institute

Think

SAS Institute přišel ve své poslední verzi SAS 9 s jednotnou platformou, která je postavena na výhodách homogenní BI architektury. Tato platforma se nazývá SAS Enterprise Intelligence Platform a snaží se co nejlépe integrovat jednotlivé technologické komponenty ve stávajících zákaznických infrastrukturách v sourodý systém.

SAS Enterprise Intelligence Platform stojí na těchto základních pilířích:

  1. Datová integrace - Nástroje pro datovou integraci se starají o výkonné napojení na datové zdroje, o datovou kvalitu, ETL (extrakce, transformace, nahrávání), migraci a synchronizaci dat.

  2. Analýzy
    Aplikace pro pokročilé analýzy umožňují připravovat nejen běžné reporty, ale poskytují i pokročilé analytické funkce jako např. modelování, scoring dat, text mining, předpovědi časových řad, optimalizace a další.

  3. Business Intelligence
    Business Intelligence dodává uživatelům nástroje a postupy, které jim umožňují zpracovávat informace. Pro různé skupiny uživatelů jsou určeny různé nástroje. V produktové terminologii se jedná o SAS Enterprise BI Server.
  4. Datová úložiště
    SAS umožňuje ukládání jak v relačních tak i OLAP databázových strukturách. Další možností je využití datových struktur jiných databázových dodavatelů.
  5. Společná metadata
    Všechny výše uvedené části ale nelze brát odděleně. Vzájemně se prolínají a doplňují. Jakožto součást platformy jsou všechny komponenty a služby řízeny a nastavovány z jednoho centrálního místa. Platforma samozřejmě podporuje celou řadu otevřených standardů a má rozhraní pro další rozšiřování (COM, Web services, .NET, ADO, JAVA).

Autorem článku je Pavel Mašek, Business Intelligence consultant SAS ČR

Více informací o BI a kvalitě dat se můžete dozvědět na SAS Foru 2010, které proběhne za účasti významných hostů a zakladatele SAS Jima Goodnighta v Praze 20.1.2010.

Přečtěte si také


Jana Žižková: SAS je jediným dodavatelem komplexních analytických řešení
Business Intelligence: nový pohled na zpracování podnikových informací


Komentáře

RSS 

Komentujeme

Virtuální realitou proti strachu ze smrti

Pavel Houser , 18. červenec 2017 07:00
Pavel Houser

Lidé, kteří reportují „zážitky blízké smrti“, pak mnohdy mají ze smrti menší strach. Nedalo by se to...

Více






Kalendář

22. 07.

27. 07.
Black Hat 2017
27. 07.

30. 07.
Defcon 2017
27. 08.

31. 08.
VMworld 2017
RSS 

Zprávičky

Policejní úřady USA a EU zakročily proti ilegálním serverům

ČTK , 21. červenec 2017 10:00

Kromě AlphaBay se zásah týkal také ilegálního tržiště darknetu Hansa....

Více 1 komentářů

Poskytovatelé IT služeb budou mít brzy problém uspokojit poptávku

Pavel Houser , 21. červenec 2017 09:00

Poskytovatelé řízených IT služeb (MSP – managed service providers) vidí ve službě cybersecurity-as-a...

Více 0 komentářů

Amazon spustil nákupní sociální síť Spark pro chytré telefony

ČTK , 21. červenec 2017 08:00

Jedná se de facto o křížence Instagramu, Pinterestu a e-shopu....

Více 0 komentářů

Starší zprávičky

V Praze se instalují první chytré lavičky připojené přes síť LoRa

Pavel Houser , 20. červenec 2017 13:28

Lavička TreeSmart nabízí wi-fi připojení, nabíjení mobilních zařízení a senzory snímající vlhkost, t...

Více 6 komentářů

SUSE a Supermicro uzavírají globální partnerství

Pavel Houser , 20. červenec 2017 10:00

Firmy poskytnou řešení pro kritickou infrastrukturu, softwarově definovaná datová centra a integrova...

Více 0 komentářů

Chytrou domácnost vzdáleně řídí 17 % Čechů

Pavel Houser , 20. červenec 2017 09:00

Řízení chytrých domácností v ČR láká hlavně kvůli kontrole nákladů za energie. Ve světě je hlavní mo...

Více 2 komentářů

PayPal a Visa budou nabízet debetní karty v Evropě

ČTK , 20. červenec 2017 08:00

PayPal svou bankovní licenci dosud využíval především k pokladním službám....

Více 0 komentářů