DATA MART Pertemuan ke3 Prinsip Data Warehouse Sifat

  • Slides: 25
Download presentation
DATA MART Pertemuan ke-3

DATA MART Pertemuan ke-3

Prinsip Data Warehouse

Prinsip Data Warehouse

Sifat Data Warehouse • • Multidimensional yang berarti bahwa terdapat banyak lapisan kolom dan

Sifat Data Warehouse • • Multidimensional yang berarti bahwa terdapat banyak lapisan kolom dan baris (Ini berbeda dengan tabel pada model relasional yang hanya berdimensi dua) Berdasarkan susunan data seperti itu, amatlah mudah untuk memperoleh jawaban atas pertanyaan seperti: “Berapakah jumlah produk 1 terjual di Jawa Tengah pada tahun n-3? ”

Petunjuk Membangun DW • • • Menentukan misi dan sasaran bisnis bagi pembentukan data

Petunjuk Membangun DW • • • Menentukan misi dan sasaran bisnis bagi pembentukan data warehouse Mengidentifikasi data dari basis data operasional dan sumber lain yang diperlukan bagi data warehouse Menentukan item-item data dalam perusahaan dengan melakukan standarisasi penamaan data dan maknanya Merancang basis data untuk data warehouse Membangun kebijakan dalam mengarsipkan data lama sehingga ruang penyimpanan tak menjadi terlalu besar dan agar pengambilan keputusan tidak menjadi terlalu lamban. Menarik data produksi (operasional) dan meletakkan ke basis data milik data warehouse

Data Mart • Bagian dari data warehouse yang mendukung kebutuhan pada tingkat departemen atau

Data Mart • Bagian dari data warehouse yang mendukung kebutuhan pada tingkat departemen atau fungsi bisnis tertentu dalam perusahaan. Karakteristik yang membedakan data mart dan data warehouse adalah sebagai berikut (Connolly, Begg, Strachan 1999). – Data mart memfokuskan hanya pada kebutuhan-kebutuhan pemakai yang terkait dalam sebuah departemen atau fungsi bisnis. – Data mart biasanya tidak mengandung data operasional yang rinci seperti pada data warehouse. – Data mart hanya mengandung sedikit informasi dibandingkan dengan data warehouse. Data mart lebih mudah dipahami dan dinavigasi.

 Data mart = subset of DW for community users, e. g. accounting department

Data mart = subset of DW for community users, e. g. accounting department Sometimes exist as Multidimensional Database Info mart = summarized data + report for community users

DATAWAREHOUSE vs DATAMART DATAWAREHOUSE • Perusahaan, melingkupi semua proses • Gabungan datamart • Data

DATAWAREHOUSE vs DATAMART DATAWAREHOUSE • Perusahaan, melingkupi semua proses • Gabungan datamart • Data didapat dari proses Staging • Merepresentasikan data dari perusahaan atau organisasi • Diorganisasi dlm E-R Model DATAMART Departemen Satu bisnis proses Start-Join (fakta dan dimensi) Teknologinya optimal untuk pengaksesan dan analisis data Cocok untuk merepresentasikan data departemen

DATAWAREHOUSE vs DATAMART • Datawarehouse = gabungan dari beberapa datamart yang levelnya berada perusahaan

DATAWAREHOUSE vs DATAMART • Datawarehouse = gabungan dari beberapa datamart yang levelnya berada perusahaan atau organisasi. • Datamart = bagian dari datawarehouse yang berada level departemen pada perusahaan atau organisasi tersebut. Data mart menangani sebuah business proses, misalkan penjualan.

Data Warehousing Architecture Monitoring & Administration OLAP servers Metadata Repository External Sources Operational dbs

Data Warehousing Architecture Monitoring & Administration OLAP servers Metadata Repository External Sources Operational dbs Analysis Query/ Reporting Extract Transform Load Refresh Serve Data Marts Data Mining

Three-Tier Architecture b Warehouse database server – Almost always a relational DBMS; rarely flat

Three-Tier Architecture b Warehouse database server – Almost always a relational DBMS; rarely flat files b OLAP servers – Relational OLAP (ROLAP): extended relational DBMS that maps operations on multidimensional data to standard relational operations. – Multidimensional OLAP (MOLAP): special purpose server that directly implements multidimensional data and operations. b Clients – Query and reporting tools. – Analysis tools – Data mining tools (e. g. , trend analysis, prediction)

Two Worlds -> Two Systems

Two Worlds -> Two Systems

Data warehouse Component

Data warehouse Component

6 Functional Components Extract, Transform, Load (ETL) tools DW databases & DBMS tools Data

6 Functional Components Extract, Transform, Load (ETL) tools DW databases & DBMS tools Data marts Meta data DW administration & management tools Information delivery system

 Data about data Field description, business rules (e. g. profit=? formula), log of

Data about data Field description, business rules (e. g. profit=? formula), log of file updates Help users understand content & locate data

Source data : Production Data data operasional persh. Internal Data spreadsheets, dokumen, Profil pelanggan,

Source data : Production Data data operasional persh. Internal Data spreadsheets, dokumen, Profil pelanggan, dan database departemen persh. Archived Data data operasional yang telah disimpan External Data data statistik, penelitian dari agenci luar, market share competitor, indikator financial standar, dll

Data staging component dari berbagai SO + eksternal data disimpan pd DW yg hrs

Data staging component dari berbagai SO + eksternal data disimpan pd DW yg hrs dirubah/disamakan formatnya shg dpt disimpan u/ query & analisa ada 3 komponen : 1. Ekstraksi data 2. Transformasi data, 3. Loading data (ETL)

Data Storage Component Repository data warehouse terpisah dengan repositori sistem operasional Sistem Operasional mendukung

Data Storage Component Repository data warehouse terpisah dengan repositori sistem operasional Sistem Operasional mendukung “day-to-day operation” (OLTP) Data warehouse data histori yang besar untuk kebutuhan analisa data.

KOMPONEN METADATA Metadata dalam Data Ware. House = Kamus Data/ Data Katalog dalam DBMS

KOMPONEN METADATA Metadata dalam Data Ware. House = Kamus Data/ Data Katalog dalam DBMS (Database Management System)

Metadata – – Informasi tentang logical struktur data Informasi file dan alamatnya Informasi index

Metadata – – Informasi tentang logical struktur data Informasi file dan alamatnya Informasi index Dll Intinya – Meta data = data mengenai data pada data warehouse

Pengenalan Metadata TIPE-TIPE METADATA OPERASI METADATA EKSTRAKSI DAN TRANSFORMASI METADATA END – USER METADATA

Pengenalan Metadata TIPE-TIPE METADATA OPERASI METADATA EKSTRAKSI DAN TRANSFORMASI METADATA END – USER METADATA

Pengenalan Metadata OPERASI METADATA Terdiri dari semua informasi tentang data sumber Proses: Pilih data

Pengenalan Metadata OPERASI METADATA Terdiri dari semua informasi tentang data sumber Proses: Pilih data dari sistem sumber untuk data warehouse, pisah recordnya, gabungkan bagian record dengan file sumber lainnya, dan berhasil dengan skema multiple coding dan panjang field

Pengenalan Metadata EXTRAKSI DAN INFORMASI METADATA Terdiri data dari data extraksi data dari sistem

Pengenalan Metadata EXTRAKSI DAN INFORMASI METADATA Terdiri data dari data extraksi data dari sistem sumber, yaitu: Extraction frequencies Extraction method Business rules untuk data extraction

Pengenalan Metadata END-USER METADATA Adalah Peta warehouse Navigasi pada data

Pengenalan Metadata END-USER METADATA Adalah Peta warehouse Navigasi pada data

Pengenalan Metadata FUNGSI METADATA Menggabungkan semua bagian pada data warehouse Menyediakan informasi tentang isi

Pengenalan Metadata FUNGSI METADATA Menggabungkan semua bagian pada data warehouse Menyediakan informasi tentang isi dan struktur pada pengembang Membuka pintu bagi end - user dan membuat isi yang dapat dikenal oleh mereka.

Contoh Software Data Mart • Smart. Mart (IBM) • Visual Warehouse (IBM) • Power.

Contoh Software Data Mart • Smart. Mart (IBM) • Visual Warehouse (IBM) • Power. Mart (Informatica)