ANALISIS MULTIVARIAT
Pengantar g Analisis Multivariat Lanjutan j
Irlandia Ginanjar M.Si Jurusan Statistika‐FMIPA Unpad Statistika FMIPA Unpad
Notasi untuk variabel‐variabel berskala interval atau l rasio • Vektor k variabel b l acak: k
• Nilai harapan vektor variabel acak
⎡ X1 ⎤ ⎢X ⎥ ⎢ 2⎥ p X1 = ⎢ ... ⎥ ⎢ ⎥ ⎢⎣ X p ⎥⎦
⎡ E ( X 1 )⎤ ⎡ μ1 ⎤ ⎢ E ( X )⎥ ⎢ μ ⎥ 2 ⎥ 2 E( p X 1 ) = ⎢ =⎢ ⎥=μ ⎢ ... ⎥ ⎢ ... ⎥ ⎥ ⎢ ⎥ ⎢ ⎢⎣ E (X p )⎥⎦ ⎣⎢ μ p ⎥⎦
Matriks Ragam Ragam-peragam peragam (Variance Covariance Matrix) cov(x1, x2 ) ⎡ var(x1) ⎢cov(x , x ) var(x ) 2 1 2 Cov( X ) = p ∑p = ⎢ ⎢ M M ⎢ ⎢⎣cov(xp , x1) cov(xp , x2 )
L cov(x1, xp ) ⎤ ⎡σ11 σ12 L cov(x2 , xp )⎥⎥ ⎢⎢σ 21 σ 22 = ⎥ ⎢ M O M M ⎥ ⎢ L var(xp ) ⎥⎦ ⎢⎣σ p1 σ p2
dimana: Cov( X i , X i ) = Var ( X i ) = σ ii = σ i2 = E ( X i − E ( X i ) )
2
Cov( X i , X j ) = σ ij = E ( X i − E ( X i ) )(X j − E ( X j ) )
L σ1p ⎤ L σ 2 p ⎥⎥ O M ⎥ ⎥ L σ pp ⎥⎦
⎡ 1 ⎢ρ ⎢ 21 p Rp = ⎢ ⎢ ⎣⎢ ρ p1
• M Matriks korelasi berukuran t ik k l i b k pxp
• Hubungan matriks ragam peragam dengan matriks korelasi • Matriks D, matriks diagonal berukuruan pxp berukuruan pxp
p
ρ12
ρ1 p ⎤ ρ 2 p ⎥⎥
1 ...
ρ p2
⎥ ⎥ 1 ⎦⎥
⎛1⎞ ⎛1⎞ R p = D⎜⎜ ⎟⎟ ∑ D⎜⎜ ⎟⎟ ⎝σi ⎠ ⎝σi ⎠
⎡1 ⎢σ ⎢ 1 ⎛ 1⎞ ⎢0 D⎜⎜ ⎟⎟ = ⎢ ⎝ σ i ⎠ ⎢ ... ⎢ ⎢0 ⎢⎣
0 1
σ2 ... 0
⎤ 0 ⎥ ⎥ ... 0 ⎥ ⎥ ... ... ⎥ 1 ⎥ ... ⎥ σ p ⎦⎥ ...
Beberapa notasi untuk data sampel Beberapa notasi untuk data sampel • Vektor rataan berukuran px1, k b k merupakan penduga bagi vektor μ e to μ
• Matriks ragam peragam berukuran pxp, merupakan penduga bagi matriks Σ d b i t ik Σ
⎡ n ⎤ ⎢ ∑ x1i ⎥ ⎢ i =1 ⎥ ⎡ x1 ⎤ ⎢ n n ⎥ ⎢ x ⎥ ⎢ ∑ x2 i ⎥ ⎢ 2 ⎥ = ⎢ i =1 ⎥ = μˆ p x1 = ⎢ ... ⎥ ⎢ n ⎥ ⎢ ⎥ ⎢ ... ⎥ ⎥ ⎢⎣ x p ⎥⎦ ⎢ n ⎢ x ⎥ pi ⎥ ⎢∑ i =1 ⎢ ⎥ ⎣ n ⎦ ⎡ s11 ⎢s ⎢ 21 S = p p ⎢ ⎢ ⎣⎢ s p1
s22 s p2
∑ (x n
sii = si2 =
j =1
sij =
ij
− xi )
2
n −1
n
∑ (x k =1
... s1 p ⎤ ... s2 p ⎥⎥ ˆ =∑ ⎥ ⎥ s pp ⎦⎥
s12
ik
− xi )(x jk − x j ) n −1
• Matriks korelasi k k l berukuran pxp, merupakan penduga p p g bagi matriks ρ
⎡1 ⎢r ⎢ 21 R = p p ⎢ ... ⎢ ⎣⎢rp1
r12 1 ... rp 2
... r1 p ⎤ ... r2 p ⎥⎥ = ρˆ ... ... ⎥ ⎥ ... 1 ⎦⎥
rii = 1 n
rij =
∑ (x
ik
k =1
n
∑ (x k =1
ik
− xi )(x jk − x j )
− xi )
2
∑ (x n
k =1
− xj )
2
jk
Konsep Jarak Konsep Jarak • Jarak pengamatan ke k k titik pusat • Jarak antar Jarak antar pengamatan (i,j) – Jarak Euclidean – Jarak Mahalanobis – Jarak Minkowski (City Block))
di =
(x i − x )' (x i − x )
d i. j =
(x
d i. j =
(x
− x j )' (x i − x j )
i
i
− x j )' S −1 (x i − x j )
d i. j = k (x i − x j )' (x i − x j ), k = 2,3,4,....
¾ Definisi Matriks Definisi Matriks Susunan angka‐angka di dalam kotak yang dibagi ke dalam baris dan kolom. Misalkan terdiri dari n baris dan p kolom, maka matriks tersebut berdimensi n x p. contoh : ⎡3 ⎢1 ⎢ ⎢12 ⎢ ⎣5
5⎤ 9 2 ⎥⎥ 0 7⎥ ⎥ 5 10⎦ 4
¾ Matriks Putaran k Diperoleh dengan cara menukar baris dan kolomnya, di t ik d dinotasikan dengan A’. A’ contoh : ⎡1 2⎤ A = ⎢⎢3 4⎥⎥ ⎢⎣5 6⎥⎦
⎡1 3 5 ⎤ A' = ⎢ ⎥ 2 4 6 ⎣ ⎦
¾ Matriks Simetrik Jika A = A’ maka A adalah matriks simetrik ⎡1 ⎢2 ⎢ ⎣⎢ 5
2 7 9
5⎤ 9 ⎥⎥ 0 ⎥⎦
¾ Matriks Diagonal Jika matriks n x n yang semua unsur nondiagonalnya bernilai nol, disebut matriks diagonal. ⎡5 0 0 ⎤ ⎢0 0 0 ⎥ ⎥ ⎢ ⎣⎢0 0 7 ⎥⎦
¾ Matriks M t ik Khusus Kh - matriks identitas - matriks k noll - matriks segitiga
¾ Kebebasan Linier Sekumpulan vektor kolom atau baris tak nol dikatakan bebas linier jika tidak ada satupun yang bisa dituliskan sebagai kombinasi linier dari vektor lainnya. b i k bi i li i d i kt l i
⎡1 3⎤ ⎢9 4⎥ ⎢ ⎥ ⎣⎢10 11⎥⎦
¾ Pangkat Matriks Banyaknya baris atau kolom pada matriks itu yang bersifat bebas linier. pada matriks di atas berpangkat r(A)=2
¾ Matriks Singular dan Nonsingular Matriks A n x n dikatakan singular jika semua baris atau kolomnya y salingg bebas linier. ¾ Kebalikan Matriks Untuk matriks persegi A, jika berlaku AB = BA= I, maka B adalah matriks kebalikan dari A, dinotasikan A‐1. ⎡1 3⎤ A=⎢ ⎥ 9 4 ⎣ ⎦
3 ⎤ ⎡ 4 ⎢− 23 23 ⎥ −1 A =⎢ 9 1⎥ ⎢ − ⎥ 23 ⎦ ⎣ 23
¾ Normal Vektor Euclidian Sebuah vektor a berukuran n x 1 memiliki panjang Sebuah vektor a berukuran n x 1 memiliki panjang yang didefinisikan sebagai : aa' a
Dan vektor normal dari a =a/√a’a memiliki norma √22+12+22 =3 3 ⎡ 2⎤ a = ⎢⎢1 ⎥⎥ ⎢⎣2⎥⎦
⎡ ⎢ ⎡2⎤ ⎢ 1 ⎢ ⎥ 1⎥ = ⎢ b = ⎢ 3 ⎢ ⎢⎣ 2 ⎥⎦ ⎢ ⎣⎢
2 3 1 3 2 3
⎤ ⎥ ⎥ ⎥ ⎥ ⎥ ⎥⎦
¾ Jarak Euclid antar Dua Vektor Jika dua buah vektor a dan b berukuran n x 1 maka Jika dua buah vektor a dan b berukuran n x 1 maka jarak euclid: d (a, b) = (a − b)' (a − b) ⎡5 ⎤ a = ⎢⎢3⎥⎥ ⎢⎣2⎥⎦ ⎡6 ⎤ b = ⎢⎢1⎥⎥ ⎢⎣4⎥⎦
d ( a , b ) = (5 − 6 ) 2 + (3 − 1) 2 + ( 2 − 4 ) 2 = 3
¾ Vektor dan Matriks Ortogonal g Dua buah vektor berukuran n x 1 dikatakan ortogonal satu sama lain jika a’b=0. ⎡5 ⎤ a = ⎢⎢9⎥⎥ ⎢⎣5⎥⎦
⎡−11⎤ b = ⎢⎢ 0 ⎥⎥ ⎢⎣ 1 ⎥⎦
Sebuah matriks A berukuran n x n adalah matriks ortogonal jika A’A=AA’=I. ⎡ ⎢ ⎢ A=⎢ ⎢ ⎢ ⎢ ⎣
1 3 1 3 1 3
1 2 1 − 2 0
1 ⎤ 6 ⎥⎥ 1 ⎥ − 6⎥ 2 ⎥ ⎥ 6 ⎦ −
¾Akar Ciri dan Vektor Ciri Untuk matriks A berukuran n x n maka pasangan‐pasangan pasa ga pasa ga (λ1,,x1), ),…,(λ ,(λn,,xn) d dikatakan ata a sebagai pasangan akar ciri dan vektor ciri yang ortonormal jjika berlaku: Ax1= λ1x1 : : Axn= λnxn Atau memenuhi det(Ax ( – λIx)=0 )
¾ Penguraian Spektral dari Sebuah Matriks Simetrik A=PΛP ΛP’ dengan A adalah matriks simetrik n x n, P adalah suatu matriks ortogonal dan Λ adalah matriks diagonal. P=(x1|x2|…|xn) dan Λ=diag(λ1,…, λ λn) ¾ Determinan Determinan Matriks Matriks yaitu perkalian dari seluruh akar ciri dari matriks persegi n x n A, |A|= λ1x….x λn ¾ Teras Matriks teras dari matriks A n x n, tr(A) adalah penjumlahan semua teras dari matriks A n x n, tr(A) adalah penjumlahan semua akar cirinya. tr(A)= λ1+ ….+λn , yang sebanding dengan jumlah dari semua unsur diagonal utamanya unsur diagonal utamanya.
¾ Bentuk Kuadratik Mi l A d l h Misal A adalah matrik berukuran n x n dan x adalah ik b k d d l h vektor peubah berukuran n x 1 maka: n
n
x' Ax = ∑∑ aij xi x j i =1 j =1
= a11 x12 + ... + ann xn2 + (a12 + a21 ) x1 x2 + ... + (an −1,n + an ,n −1 ) xn −1 xn
Bentuk itu adalah bentuk kuadratik dari x. Contoh: ⎡1 2 3⎤ A = ⎢⎢4 2 1⎥⎥ ⎢⎣1 1 1⎥⎦
⎡ x1⎤ x = ⎢⎢x2⎥⎥ ⎢⎣x3⎥⎦
maka x ' Ax
= x 12 + 2 x 22 + x 32 + 6 x 1 x 2 + 4 x 1 x 3 + 2 x 2 x 3
¾ Matriks Definit dan Semidefinit Positif Matriks simetrik berukuran n x n bersifat: ik i ik b k b if ‐definit positif jika x’Ax > 0 untuk sembarang vektor x ≠ 0 ‐semidefinit positif jika x’Ax ≥ 0 untuk sembarang vektor x ≠ 0
¾Akar Kuadratik Matrik Semidefinit Positif ¾Akar Kuadratik Matrik Semidefinit Positif A=matrik semidefinit positif, diperoleh matriks ∆ atas U sehingga ∆ atas U sehingga A=U’U (penguraian Cholesky) Akar kuadrat dari matrik simetrik: A=PΛP’=(PΛ ( 1/2P’)(PΛ )( 1/2P’)=A ) 1/2A1/2 dimana P matrik ortogonal dan Λ matriks diagonal.
¾Perkalian Kronecker Perkalian Kronecker C denganD dinotasikan
C⊗D Yaitu dengan mengalikan setiap unsur matriks C dengan matriks D, dan kemudian membuat matriks gabungannya. 0 3 4 ⎤ ⎡1 ⎢3 0 9 12 ⎥⎥ contoh: h ⎢ ⎢ ⎥ 4⎤ ⎡1 0 3 C = ⎢⎢0 4 1 − 1⎥⎥ ⎣⎢1 1 − 3 2 ⎥⎦
⎡1⎤ D=⎢⎢3⎥⎥ ⎢⎣7⎥⎦
7 ⎢ ⎢0 C ⊗ D = ⎢0 ⎢ ⎢0 ⎢1 ⎢ ⎢3 ⎢7 ⎣
0
21
4 12 28
1 3 7
1 3
− 3 − 9
7
− 21
28
⎥ − 1⎥ − 3⎥ ⎥ − 7⎥ 2 ⎥ ⎥ 6 ⎥ 14 ⎥⎦
Partisi Matriks Partisi Matriks ⎡ x1 ⎤ ⎢ : ⎥ ⎢ ⎥ ⎢ xq ⎥ ⎡ x (1) ⎤ ⎢ ⎥ ⎢ ⎥ x = ⎢− − −⎥ = ⎢− − −⎥ ( px1) ⎢ xq +1 ⎥ ⎢ x ( 2) ⎥ ⎦ ⎢ ⎥ ⎣ ⎢ : ⎥ ⎢ x ⎥ ⎣ p ⎦
⎡ s11 ⎢ : ⎢ ⎢ sq1 ⎢ Sn = ⎢ − − ( pxp) ⎢sq+1,1 ⎢ ⎢ : ⎢s ⎣ p1
...
s1q
|
s1,q+1
...
... ...
: sqq
| |
: sq,q+1
... ...
−− −− −
−−
−−
... sq+1,q | sq+1,q+1 ... ... : | : ... ... q
q ⎡ s11
spq p−q
| s12 ⎤ = ⎢− − | − −⎥ ⎢ ⎥ p − q ⎢s ⎣ 21 | s22 ⎥⎦
|
sp,q+1
...
s1p ⎤ : ⎥⎥ sqp ⎥ ⎥ −− ⎥ sq+1, p ⎥ ⎥ : ⎥ spp ⎥⎦
TERIMAKASIH
