DATA MINING 3 SKS | Semester 6 | S1 Sistem Informasi
Pertemuan 3
Nizar Rabbi Radliya
[email protected]
Universitas Komputer Indonesia | 2015
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Definisi Set Data Set Data / Data Set / Himpunan Data → Kumpulan objek dan atributnya.
Objek = record, point, vector, pattern, event, observation, case, sample, instance, entitas. Atribut = variabel, field, fitur, atau dimensi.
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Tipe Data
Empat sifat yang dimiliki atribut secara umum, yaitu: 1. Pembeda (distinctness): = dan ≠ 2. Urutan (order): <, >, ≤, ≥
3. Penjumlahan, Pengurangan (addition): + dan – 4. Perkalian, Pembagian (multiplication): * dan /
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Tipe Data Tipe Atribut Nominal
Penjelasan
Contoh
Nilai atribut berupa nominal memberikan nilai Kode Pos, NIM, Jenis
berupa nama. Dengan nama inilah sebuah Kelamin. atribut membedakan dirinya pada data yang satu
Kategoris (Kualitatif)
dengan yang lain (=, ≠). Ordinal
Nilai atribut bertipe ordinal mempunyai nilai Indek Nilai (A, B, C, D,
berupa nama yang mempunyai arti informasi E) terurut (<, >, ≤, ≥). Interval
Nilai atribut dimana perbedaan diantara dua nilai Tanggal mempunyai makna yang berarti (+, -).
Numerik (Kuantitatif) Rasio
Nilai atribut dimana perbedaan diantara dua nilai Panjang, berat, tinggi dan rasio dua nilai mempunyai makna yang berarti (*, /)
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Tipe Data
Sementara berdasarkan jumlah nilainya, atribut dapat dibedakan menjadi: 1. Diskret Mempunyai nilai dalam himpunan jumlah yang terbatas atau domainnya terbatas.
Contoh: indek nilai (A, B, C, D, E), jenis kelamin (pria, wanita), benar/salah, ya/tidak, 0/1. 2. Kontinu Mempunyai jangkauan nilai real. Biasanya menggunakan representasi floating
point (desimal). Contoh: panjang, tinggi, berat.
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Karakteristik Set Data
1. Dimensionalitas (dimensionality) 2. Sparsitas (sparsity) 3. Resolusi (resolution)
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Karakteristik Set Data
1. Dimensionalitas (dimensionality) a) Dimensionalitas → jumlah atribut yang dimiliki oleh objek-objek dalam data set. b) Tinggi rendahnya dimensi menentukan perbedaan secara kualitatif. c) Curse of dimensionality.
d) Pengurangan dimensi (dimensionality reduction)
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Karakteristik Set Data
2. Sparsitas (sparsity) a) Untuk set data dengan fitur asimetrik banyak atribut data mempunyai nilai 0 di dalamnya; dalam banyak kasus, kurang dari 1% mempunyain nilai bukan 0. b) Komputasi menjadi lebih ringan (cepat) dan kapasitas penyimpanan juga lebih
sedikit.
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Karakteristik Set Data
3. Resolusi (resolution) a) Data yang digambarkan dalam bentuk grafik (memerlukan koordinat spasial) karakteristik resolusi yang digunakan juga akan berpengaruh. b) Pola dalam data bergantung pada level resolusi.
c) Jika resolusi terlalu baik (tidak ada perbedaan/halus), pola mungkin tidak akan kelihatan, jika resolusi terlalu kasar atau sempit, pola juga akan hilang.
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Jenis Data
1. data record, : (data matrik (matrix data), data keranjang belanja (market basket data), dan data dokumen), 2. data berbasis grafik (graph data), 3. dan data terurut (ordered data),
4. dll
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Jenis Data
1. Data Matrik Mempunyai sejumlah atribut (fitur) numerik yang sama. Sekumpulan data matrik dapat diinterpretasikan sebagai matrik M x N.
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Jenis Data
2. Data Keranjang Belanja/Transaksi Setiap recordnya berisi sejumlah item. Jumlah item untuk sebuah transaksi bisa berbeda dengan transaksi yang lain.
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Jenis Data
3. Data Dokumen Setiap dokumen merupakan satu vektor ‘term’. Tiap term merupakan satu komponen (atribut) dari vektor tersebut. Nilai dari setiap komponen menyatakan berapa kali kemunculan term tersebut
dalam suatu dokumen.
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Kualitas Data 1. Kesalahan Pengukuran (Measurement Error) a. Noise
Merupakan komponen random dari suatu error pengukuran. Noise berkaitan dengan modifikasi dari nilai asli. b. Bias Suatu variasi pengukuran dari kuantitas yang sedang diukur dengan pengurangan antara
mean dan nilai kuantitas yang diketahui. c. Precision Kedekatan dari pengukuran berulang (dari kuantitas yang sama) satu dengan yang lainnya. Diukur dengan standar deviasi.
d. Accuracy Kedekatan pengukuran terhadap nilai sebenarnya dari kuantitas yang sedang diukur.
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Kualitas Data Contoh kasus: Terdapat berat standar laboratorium suatu benda adalah 1 gram dan kita akan menghitung
precision dan bias dari skala benda dari hasil pengukuran yang baru. Kita melakukan pengukuran sebanyak lima kali dan memperoleh {1.015, 0.990, 1.013, 1.001, 0.986}. Jawab: Mean
= (1.015 + 0.990 + 1.013 + 1.001 + 0.986) / 5 = 1.001
Bias
= 1.001 – 1 = 0.001
Precision= 1.015 − 1.001
2
+ 0.990 − 1.001
2
+ 1.013 − 1.001 4
2
+ 1.001 − 1.001
2
+ 0.986 − 1.001
2
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Kualitas Data
2. Kesalahan Pengumpulan (Collection Error) Mengacu pada kesalahan-kesalahan (error) seperti hilangnya objek data atau nilai atribut, atau lingkup objek data yang tidak tepat. a. Outliers b. Missing value c. Duplicate data
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Kualitas Data Outliers Merupakan objek data dengan sifat yang berbeda sekali dari kebanyakan objek data dalam data-set. Terdapat beberapa hal yang mempengaruhi munculnya data outlier antara lain: 1) Kesalahan dalam pemasukan data 2) Kesalahan dalam pengambilan sample 3) Memang ada data-data ekstrim yang tidak dapat dihindarkan keberadaannya.
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Kualitas Data Missing value Merupakan nilai dari suatu atribut yang tidak ditemukan. Asalannya terjadinya missing value adalah: 1) Informasi tidak diperoleh 2) Atribut yang mungkin tidak bisa diterapkan ke semua kasus
Penanganan missing values adalah dengan: 1) Mengurangi objek data 2) Memperkirakan missing values 3) Mengabaikan missing values pada saat analisis 4) Mengganti dengan semua nilai yang mungkin (tergantung probabilitasnya)
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Kualitas Data Duplicate data Set data mungkin terdiri dari objek data yang ganda (duplikat), atau hampir selalu terjadi duplikasi antara satu dengan yang lainnya. Persoalan utama ketika menggabungkan data dari sumber-sumber yang bervariasi (heterogen).
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Similaritas dan Dissimilaritas
Kemiripan (similarity) adalah ukuran numerik dimana dua objeknya mirip, nilai 0 jika tidak mirip dan nilai 1 jika mirip penuh.
Ketidakmiripan (dissimilarity) adalah derajat numerik dimana dua objek yang berbeda,
jangkauan nilai 0 sampai 1 atau bahkan sampai ∞.
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Kemiripan dan Ketidakmiripan Data Satu Atribut
Istilah ketidakmiripan = ukuran jarak (distance) antara dua data.
Jika s = ukuran kemiripan dan d = ukuran ketidakmiripan, Jika interval/range nilainya adalah [0,1],
Maka dapat dirumuskan bahwa s+d=1. Atau s =
1 1+d
atau s = e-d.
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Kemiripan dan Ketidakmiripan Data Satu Atribut
Ada data dengan nilai ketidakmiripan {10, 12, 25, 30, 40} dengan intervalnya [10,40]. Jika akan ditransformasi ke dalam interval [0,1], kita bisa menggunakan formula:
𝑥−min(𝑥) x= max 𝑥 −𝑚𝑖𝑛(𝑥) sehingga nilai-nilai ketidakmiripan tersebut ditransformasi menjadi:
{0, 0.667, 0.5, 0.6667, 1}.
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Kemiripan dan Ketidakmiripan Data Satu Atribut
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Kemiripan dan Ketidakmiripan Data Satu Atribut Untuk fitur yang menggunakan tipe ordinal, misalnya sebuah atribut yang mengukur kualitas
produk dengan skala {rusak, jelek, sedang, bagus, sempurna},
Skala tersebut harus ditransformasikan ke dalam nilai numerik,
{rusak=0, jelek=1, sedang=2, bagus=3, sempurna=4}.
Kemudian, ada dua produk P1 dengan kualitas bagus dan P2 dengan kualitas jelek. Jarak
(ketidakmiripan) antara P1 dan P2 dapat dihitung dengan cara D(P1,P2) = 3-1 = 2, atau jika dalam interval [0,1] menjadi
3−1 4
= 0.5, sedangkan nilai kemiripannya adalah 1-0.5 = 5.
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Kemiripan dan Ketidakmiripan Data Satu Atribut Untuk atribut bertipe numerik (interval dan rasio), nilai ketidakmiripan didapat dari selisih
absolut di antara dua data.
Misalnya atribut usia, jika P1 adalah usia 45 dan P2 usia 25, sedangkan jangkauan nilai usia
dalam data adalah [5,75],
nilai ketidakmiripan P1 dan P2 adalah D(P1,P2) = 45-25 = 20, atau jika dalam interval [0,1] menjadi
20−5 75−5
= 0.21, sedangkan nilai kemiripannya adalah 1-0.21 = 0.79.
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Ketidakmiripan Data Multiatribut Jarak Euclidian D(x,y) =
𝑛 𝑗=1 |𝑥
− 𝑦|2
Jarak Manhattan/City Block D(x,y) =
𝑛 𝑗=1 |𝑥
− 𝑦|
Jarak Chebyshev D(x,y) = max (|x - y|)
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Ketidakmiripan Data Multiatribut Point
x
y
P1
1
1
P2
4
1
P3
1
2
Jarak Euclidian D(x,y) =
𝑛 𝑗=1 |𝑥
− 𝑦|2
Euclidean
P1
P2
P3
P1
0
3
1
P2
3
0
3.16
P3
1
3.16
0
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Ketidakmiripan Data Multiatribut Point
x
y
P1
1
1
P2
4
1
P3
1
2
Jarak Manhattan/City Block
D(x,y) =
𝑛 𝑗=1 |𝑥
− 𝑦|
Manhattan
P1
P2
P3
P1
0
3
1
P2
3
0
4
P3
1
4
0
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Ketidakmiripan Data Multiatribut Point
x
y
P1
1
1
P2
4
1
P3
1
2
Jarak Chebyshev
D(x,y) = max (|x - y|)
Chebyshev
P1
P2
P3
P1
0
3
1
P2
3
0
3
P3
1
3
0
[email protected] | PBD | 3 SKS | Semester 5 | S1 Sistem Informasi | UNIKOM | 2014
1. Atribut Kunci (Key) dan Atribut Deskriptif 2. Atribut Sederhana (Simple Attribute) dan Atribut Komposit (Composite Attribute) 3. Atribut Bernilai Tunggal (Single-Valued Attribute) dan Atribut Bernilai Banyak (Multivalued Attribute) 4. Atribut Harus Bernilai (Mandatory Attribute) dan Atribut Bernilai Null 5. Atribut Turunan (Derived Attribute)
[email protected] | PBD | 3 SKS | Semester 5 | S1 Sistem Informasi | UNIKOM | 2014
Atribut Kunci (Key): 1. Superkey 2. Candidate Key 3. Primary Key 4. Foreign Key Atribut deskriptif ≠ atribut primary key (pada sebuah tabel). Atribut deskriptif digunakan untuk tujuan informasi.
[email protected] | PBD | 3 SKS | Semester 5 | S1 Sistem Informasi | UNIKOM | 2014
Atribut sederhana tidak dapat dipilah lagi. Atribut komposit masih dapat diuraikan lagi.
[email protected] | PBD | 3 SKS | Semester 5 | S1 Sistem Informasi | UNIKOM | 2014
[email protected] | PBD | 3 SKS | Semester 5 | S1 Sistem Informasi | UNIKOM | 2014
spasi ekivalen dengan karakter ke-32 dalam tabel ASCII, sedangkan nilai Null ekivalen dengan karakter ke-0
[email protected] | PBD | 3 SKS | Semester 5 | S1 Sistem Informasi | UNIKOM | 2014
Atribut turunan adalah atribut yang nilai-nilainya diperoleh dari pengolahan atau dapat diturunkan dari atribut atau tabel lain yang berhubungan.
[email protected] | DM | 3 SKS | Semester 6 | S1 Sistem Informasi | UNIKOM | 2015
Materi Minggu Ke 4 Pemrosesan Awal Data
1. Agregasi (aggregation) 2. Penarikan contoh (sampling) 3. Diskretisasi dan binerisasi (discretization and binarization) 4. Pemilihan fitur (feature subset selection)
5. Pembuatan fitur (feature creation) 6. Transformasi atribut (attribute transformation)
DATA MINING 3 SKS | Semester 6 | S1 Sistem Informasi
Nizar Rabbi Radliya
[email protected]
Universitas Komputer Indonesia | 2015