AMTI Data Management: Data, Databases and Warehousing Antonius Rachmat C
Data Life Cycle Process
Forms for Modeling Data (ERD) •
Entities : suatu kesatuan data yang unik yang memisahkannya dari entitas lainnya
•
Attributes : ciri khas yang menempel pada entitas, biasa disebut field/column
•
Relations : relasi yang terjadi antar entitas yang dihubungkan oleh atribut masing-masing entitas –
Biasanya dihubungkan dengan key
Chapter 3
3
E-R Diagrams
•
Rectangles represent entity sets.
•
Diamonds represent relationship sets.
•
Lines link attributes to entity sets and entity sets to relationship sets.
•
Ellipses represent attributes
•
•
Double ellipses represent multivalued attributes.
•
Dashed ellipses denote derived attributes.
Underline indicates primary key attributes
E-R Diagram With Composite, Multivalued, and Derived Attributes
Relationship Sets with Attributes
Example of primary and foreign keys.
3-7
Hierarchy of Data
Chapter 3
8
Hierarchy of Data (cont’d)
Chapter 3
9
Indexing • Indexing sering dilupakan • Indexing pada tabel biasanya dilakukan otomatis pada primary key – Tidak demikian dengan field lainnya
• Field yang sering digunakan untuk query select klause where SEBAIKNYA diindex! – Index berdasarkan ASCII / Numerik – Index berdasarkan binary
Indexed sequential access method (ISAM)
3-11
MySQL -> MyISAM vs InnoDB
Computer based system data IS
Computer-based files of this type cause problems such as redundancy, inconsistency, and data isolation. 3-13
(a) Centralized database. (b) Distributed database with complete or partial copies of the central database in more than one location.
3-14
Data Problems
Copyright 2010 John Wiley & Sons, Inc.
3-15
Adv of DBMS
3-16
DBMS Ex: MySQL, FoxPro, SQLServer, Postgres, Access, SQLite, Oracle
Database management system provides access to all data in the database. 3-17
DBMS connector • Dibutuhkan juga DBMS connector yang berguna untuk menghubungkan antara DBMS dengan bahasa pemrograman yang sifatnya general • Connector sangat ditentukan oleh bahasa pemrogramannya • Contoh: JDBC, ODBC, Connector for .NET (ADO.NET)
JDBC
ADO.NET
Data Warehouse • Kumpulan bermacam-macam data yang bersifat subject oriented, integrated, time variant, dan persistent dalam mendukung proses pembuatan keputusan. • Sumber data berasal dari berbagai macam format, software, platform dan jaringan yang beda. – Biasanya berasal dari berbagai departemen
• Data pada datawarehouse harus tersimpan dalam sebuah format yang baku (standar).
Karakteristik DW • Data terintegrasi dari berbagai sumber yang berasal dari proses transaksional (OLTP) • Data harus dibuat konsisten • Merupakan aggregate data/kesimpulan data, bukan data yang detail • Data tersimpan dalam format yang standar sehinngga proses query dan analisa dapat dilakukan dengan cepat • Data bersifat read only
Data Mart • Data yang terdapat dalam data warehouse dapat dibagi perbagian sesuai dengan kebutuhan dalam informasi -> Data Mart • Data mart memiliki karakteristik yang sama dengan data warehouse, perbedaannya hanya terdapat pada jumlah data yang dimiliki. • Dalam data mart, data yang ada hanya berasal dari satu bagian atau satu departemen saja, sedangkan pada data warehouse, data yang ada berasal dari seluruh bagian dalam perusahaan tersebut.
Data Mart
Data Warehouse • Data di dalam data warehouse mempunyai karakter khusus berupa time-series dalam bentuk data historical • Data terdiri dari suatu seri dari “pemotretan” keadaan yang ditandai dengan waktu dan nilai data pada saat “pemotretan” tersebut • Hal ini dapat digunakan untuk melakukan trend analysis dari data tersebut • Data warehouse tidak diupdate secara terus menerus, tapi secara periodik
DW = OLAP • On-Line Analytical Processing • Umumnya digunakan oleh pembuat kebijakan seperti analis dan manajer • Data yang ada di dalam sebuah data warehouse umumnya berasal dari bermacam-macam OLTP (On-Line Transaction Processing) systems • Dikarakterisasikan oleh data reading (pelaporan, queries) bukan data entry
The use of DW
Copyright 2010 John Wiley & Sons, Inc.
3-27
Why DW Fails
Copyright 2010 John Wiley & Sons, Inc.
3-28
DW vs DM • DW: A generic term for a system of storing, retrieving and managing large amounts of data – Software often includes sophisticated compression and hashing techniques for fast searching and filtering
• DM: type of data warehouse designed mainly to address a specific function or department’s needs – Often uses aggregation or summarization of the data to enhance query performance – Important, however, to maintain the ability to access the underlying base data to enable drilldown analysis as necessary
The Data Warehouse & Data Management
Chapter 3
30
Model of an enterprise data warehouse. ETL : Extraction, Transformation, and Loading
(Source: From Syncsort, synchsort.com. Used with permission.)
3-31
Why Mine Data? - Commercial Viewpoint • Lots of data is being collected and warehoused – Web data, e-commerce – purchases at department/ grocery stores – Bank/Credit Card transactions • Data collected and stored at enormous speeds (GB/hour) – remote sensors on a satellite – telescopes scanning the skies – scientific simulations generating terabytes of data
What is Data Mining? • Exploration & analysis, by automatic or semi-automatic means, of large quantities of data in order to discover meaningful patterns
Data Mining the extraction of predictive information from large databases. • Data trend, connection and behavior pattern analysis • Data quality -> data cleaning • Data mining tools -> ex: RapidMiner • Use for predictive and description • Statistical techniques and algorithms
Data Mining Tasks... • • • • • •
Classification [Predictive] Clustering [Descriptive] Association Rule Discovery [Descriptive] Sequential Pattern Discovery [Descriptive] Regression [Predictive] Deviation/Anomaly Detection [Predictive]
Data Visualization • Visualisasi adalah konversi data ke dalam format visual atau tabel sehingga karakteristik dari data dan relasi diantara item data atau atribut dapat di analisis atau dilaporkan
Suhu permukaan laut pada bulan Juli tahun 1982
Teknik Visualisasi • Histogram
Teknik Visualisasi Data • Blok Plot
Teknik Visualisasi data • Scatter Plot
Teknik Visualisasi data • Countour Plot
Apa itu Business Intelligence? • Business Intelligence is the processes, technologies, and tools that help us change data into information, information to knowledge, and knowledge into plans that guide organization. • Technologies for gathering, storing, analysing dan providing access to data to help enterprise users make better business decisions. • Business Intelligence menjelaskan tentang suatu konsep dan metode bagiamana untuk meningkatkan kualitas pengambilan keputusan bisnis berdasarkan sistem yang berbasiskan data.
Apa itu Business Intelligence?...
Tiga Aspek Penting Business Intelligence 1. Converting Data Into Information 2. Making Better Decisions Faster 3. Rational Approach to Management
Arsitektur BI
BI Pyramid
Technologies Supporting BI • Database systems and database integration • Data warehousing, data stores and data marts • Enterprise resource planning (ERP) systems • Query and report technologies • Data mining and analytics tools • Decision support systems • Customer relation management software • Product lifecycle and supply chain management systems
Examples of BI Careers BI careers cross over all industries: • BI solution architects and integration specialists • Business and BI analysts • BI application developers and testers • Data warehouse specialists • Database analysts, developers and testers • Database support specialists
Bagaimana BI bekerja?
BI Component • Data – Data store collection by individual applications • Production systems
– Gathering of all data stores • Data warehousing
• Presentation – – – – –
Scorecards & Dashboards Enterprise Reporting OLAP Analysis Advanced & Predictive Analysis Alerts & Proactive Notification
Kategori Analisis Bisnis
NEXT • Networking: Discovery, Communication, Collaboration
