Minggu XI ANALISIS KOMPONEN UTAMA. Utami, H

Minggu XI ANALISIS KOMPONEN UTAMA Utami, H

Pendahuluan

Tujuan

Analisis Komponen Utama

Contoh

Outline

1

Pendahuluan

2

Tujuan

3


4

Contoh

Utami, H

Minggu XIANALISIS KOMPONEN UTAMA

2 / 16

Pendahuluan

Tujuan


Contoh

Outline

1

Pendahuluan

2

Tujuan

3


4

Contoh

Utami, H


2 / 16

Pendahuluan

Tujuan


Contoh

Outline

1

Pendahuluan

2

Tujuan

3


4

Contoh

Utami, H


2 / 16

Pendahuluan

Tujuan


Contoh

Outline

1

Pendahuluan

2

Tujuan

3


4

Contoh

Utami, H


2 / 16

Pendahuluan

Tujuan


Contoh

Diperkenalkan oleh Pearson (1901) dan Hotelling (1933) yang menggambarkan variasi dari data multivariat untuk suatu himpunan variabel-variabel tak berkorelasi. Misalkan dipunyai matriks data n observasi untuk masing observasi p variabel berkorelasi, x1 , x2 , ..., xp . Analisis komponen utama mencari transformasi dari xi ke variabel baru yi yang tidak berkorelasi.

Utami, H


3 / 16

Pendahuluan

Tujuan


Contoh

Dalam statistika, analisis komponen utama (principal component analysis / PCA) adalah teknik yang digunakan untuk menyederhanakan suatu data, dengan cara mentransformasi linier sehingga terbentuk sistem koordinat baru dengan varians maksimum. PCA dapat digunakan untuk mereduksi dimensi suatu data tanpa mengurangi karakteristik data tersebut secara signifikan.

Utami, H


4 / 16

Pendahuluan

Tujuan


Contoh

Analisis komponen utama merupakan suatu tehnik statistik untuk mengubah dari sebagian besar variabel asli yang digunakan yang saling berkorelasi satu dengan yang lainnya menjadi satu set variabel baru yang lebih kecil dan saling bebas (tidak berkorelasi lagi). Jadi analisis komponen utama berguna untuk mereduksi data, sehingga lebih mudah untuk menginterpretasikan data-data tersebut (Johnson & Wichern, 1982). Analisis komponen utama merupakan analisis antara dari suatu proses penelitian yang besar atau suatu awalan dari analisis berikutnya, bukan merupakan suatu analisis yang langsung berakhir. Misalnya komponen utama bisa merupakan masukan untuk regresi berganda atau analisis faktor. Analisis komponen utama lebih baik digunakan jika variabel-variabel asal saling berkorelasi .

Utami, H


5 / 16

Pendahuluan

Tujuan


Contoh

Tujuan

mereduksi data memungkinkan untuk data berdimensi p dapat direpresentasikan dalam k dimensi dengan k < p tanpa kehilangan banyak informasi. menginterpretasikan komponen utama (variabel baru).

Utami, H


6 / 16

Pendahuluan

Tujuan


Contoh

Analisis Komponen Utama Misalkan vektor random: x0 =

x1 x2 · · ·

xp

dengan matriks kovariansi Σ dan eigenvalue dari Σ adalah λ1 ≥ λ2 ≥ ... ≥ λp . Pada analisis komponen utama, dikonstruksikan p kombinasi linear dari x : y1 = a01 x = a11 x1 + a12 x2 + ... + a1p xp y2 = a02 x = a21 x1 + a22 x2 + ... + a2p xp .. . yp = a0p x = ap1 x1 + ap2 x2 + ... + app xp Utami, H


7 / 16

Pendahuluan

Tujuan


Contoh

y1 , y2 , ..., yp merupakan komponen-komponen utama, dimana mereka tidak saling berkorelasi dan mempunyai variansi sebesar mungkin. Jadi var(yi ) = a0i Σai , untuk i = 1, 2, ..., p cov(yi , yk ) = a0i Σak , untuk i, k = 1, 2, ..., p

Utami, H


8 / 16

Pendahuluan

Tujuan


Contoh

Komponen utama pertama: Kombinasi linear a01 x yang memaksimalkan var(a01 x) dengan a01 a1 = 1, Komponen utama kedua: Kombinasi linear a02 x yang memaksimalkan var(a02 x) dengan a02 a2 = 1 dan cov(a01 x, a02 x) = 0. Ini berarti komponen utama kedua tidak berkorelasi dengan komponen utama pertama. .. . Komponen utama ke-i: Kombinasi linear a0i x yang memaksimalkan var(a0i x) dengan a0i ai = 1 dan cov(a0i x, a0k x) = 0 untuk k < i. Ini berarti komponen utama ke-i tidak berkorelasi dengan komponen utama sebelumnya. Utami, H


9 / 16

Pendahuluan

Tujuan


Contoh

Misalkan Σ adalah matriks kovariansi dari x0 = x1 x2 · · · xp dan mempunyai pasangan eigenvalue-eigenvektor (λ1 , e1 ), (λ2 , e2 ), ..., (λp , ep ) dengan λ1 ≥ λ2 ≥ ... ≥ λp ≥ 0, maka komponen utama dapat diperoleh sbb: yi = e0i x = ei1 x1 + ei2 x2 + ... + eip xp untuk i = 1, 2, ..., p di mana var(yi ) = e0i Σei , i = 1, 2, ..., p cov(yi , yk ) = e0i Σek , i 6= k Jika beberapa λi sama, maka komponen utama tidak tunggal.

Utami, H


10 / 16

Pendahuluan

Tujuan


Contoh

Misalkan Σ adalah matriks kovariansi dari x0 = x1 x2 · · · xp dan mempunyai pasangan eigenvalue-eigenvektor (λ1 , e1 ), (λ2 , e2 ), ..., (λp , ep ) dengan λ1 ≥ λ2 ≥ ... ≥ λp ≥ 0 dan y1 = e01 x, y2 = e02 x, ..., yp = e0p x adalah komponen-komponen utama maka σ11 + σ22 + ... + σpp =

p X

var(xi )

i=1

= λ1 + λ2 + ... + λp =

p X

var(yi ).

i=1

Utami, H


11 / 16

Pendahuluan

Tujuan


Contoh

Suatu ukuran penting dari komponan utama ke-k: λk p P

λi

i=1

yang merupakan variansi relatif yang diterangkan oleh masing-masing komponen utama. Pada analisis komponen utama, sejumlah komponen utama yang terbentuk akan dianggap cukup jika variansi kumulatif yang diterangkan oleh komponen-komponen utama lebih dari 50% sampai 70%. Perhatian: Dalam pembentukan Principle Component, terkadang perlu dilakukan transformasi data sehingga semua variabel mempunyai skala yang relatif sama. Utami, H


12 / 16

Pendahuluan

Tujuan


Contoh

Contoh

Dipunyai data tentang 4 observasi untuk variabel random x1 , x2 , x3 sebagai berikut: x1 x2 x3 1 6 9 4 12 10 3 12 15 4 10 12 Tentukan 3 komponen utama y1 , y2 , y3 !

Utami, H


13 / 16

Pendahuluan

Tujuan

Matriks kovariansi dari x0 = 


x1 x2 · · ·

xp

Contoh

adalah:

 1, 50 2, 50 1, 00 Σ =  2, 50 6, 00 3, 50  . 1, 00 3, 50 5, 25

Pasangan eigenvalue dan eigenvektor dari Σ : λ1 = 9, 92 e01 = 0, 29 0, 73 0, 61 λ2 = 2, 53 e02 = 0, 42 0, 48 −0, 77 λ3 = 0, 30 e03 = 0, 86 −0, 48 0, 16

Utami, H


14 / 16

Pendahuluan

Tujuan


Contoh

Komponen-komponen utama yang terbentuk: y1 = e01 x = 0, 29x1 + 0, 73x2 + 0, 61x3 y2 = e02 x = 0, 42x1 + 0, 48x2 − 0, 77x3 y3 = e03 x = 0, 86x1 − 0, 48x2 + 0, 16x3 σ11 + σ22 + ... + σpp = 1, 5 + 6, 0 + 3, 5 = 12, 75 = 9, 92 + 2, 53 + 0, 30 = λ1 + λ2 + ... + λp .

Utami, H


15 / 16

Pendahuluan

Tujuan


Contoh

Variansi relatif yang diterangkan oleh masing-masing komponen utama: 9, 93 λ1 = = 0, 778 3 P 12, 75 λi i=1

2, 53 λ2 = = 0, 198 3 P 12, 75 λi i=1

λ3 0, 30 = = 0, 024 3 P 12, 75 λi i=1

Komponen utama pertama, y1 , dapat menjelaskan 77, 8% keragaman data. Komponen utama kedua, y2 , bersama dengan y1 keduanya mempresentasikan 97, 6% keragaman total. Utami, H


16 / 16

Minggu XI ANALISIS KOMPONEN UTAMA. Utami, H

Recommend Documents