Ò w æ, Ò ò Ó Ê k x ¥ } ç* ÒÕ l é ë âU [ ò Ó ¢ó 9 ÓÉ @ ∗
)
" î r
1)e 6 x
2)s 6 x½ ¨
3)כ
¹
| ¾ Ó « Ñì r$ 3 \ " f þ j H_ Æ Ò[ j H ' a8 £ ¤> h^ _ Ã º ns & t H ü @\ Ã º_ Ã º p H
Y V[ þ ts ´ ú § t ¦ e H כ s . n> h > h^ y y \ " f S \ 1 p q ) a p> h à º[ þ t X
1, X2, . . . , Xpî rX < H s 2 £ §s > h¥ Æ & h Ü ¼ Ð H ½ ¨ì rs 0 p x t ë ß z ´] j Ð _ × æ4 ¤s ÷ & H à º[ þ ts e
` ¦ à º e HX <, s [ þ t à º[ þ ts ¸¿ º ì r$ 3 \ í < Ê÷ & # Q ë H] j Ä »µ 1 Ï| ¨ c à º e . \ V
@
/ Å Ò$ í ì r ì r$ 3 s ì r$ 3 \ " f H × æ4 ¤ Ã º[ þ ts Å Ò» ¡ ¤(s, principal axis) & ñ \ ,
'
a8 £ ¤> h^ ç H| 9 o\ " f H > h^ ç ß o í ß Ø ¦\ =/ B G ) a % ò ¾ Ó` ¦ × ¦ à º e . ¢ ¸ô Ç 3 l q& h à º
t & ñ ) a t ¸ < Æ_ þ v(supervised learning)\ " f [ O " î Ã º[ þ t_ × æ4 ¤$ í É r Æ Ò& ñ ¸+ þ A_ î ß & ñ
$ í
` ¦ K u H õ \ ¦ íA ô Ç . z ´] j « Ñ ì r$ 3 \ " f H ô Ç « Ñ [ jà Ô # Q l Z O Ü ¼ Ð Ã Ð Ò
o÷ & ¦ à º_ ¸+ þ As Æ ÒØ ¦÷ &Ù ¼ Ð Ã º[ jà Ô\ ¦ þ j@ /ô Ç ] X & h (parsimonious)Ü ¼ Ð ½ ¨$ í ½ + É
9
כ ¹ e .
:
r ½ ¨_ 3 l q& h É r X
1, X2, . . . , Xp× æ\ " f 9 כ ¹ô Ç Ã º[ þ t É r × þ ¦ Ô ¦ 9 כ ¹ô Ç Ã º[ þ t
É
r ] j < ÊÜ ¼ Ð+ Å Ò# Q Ã º[ jà Ô\ ¦ Ð & h É r ß ¼l _ Ã º[ jà Ô Ð @ /u H ~ ½ ÓZ O ` ¦ ] j r
H X < e . ] jî ß ~ ½ ÓZ O ` ¦ Y > > h_ à ºu & h Y V\ & h 6 xK 4 §Ü ¼ Ð+ × þ à ºü < ] j
à ºç ß ' a> _ r y o, r) ¸+ þ A\ " f_ Ä »6 x$ í , # 3 Å Ò+ þ A « Ñì r$ 3 \ " f_ Ö ¸6 x 1 p x\ @ /K
7
H_ ¦ ô Ç .
Å
Òכ ¹6 x# Q: Å Ò Ã º(principal variables), Ã º × þ , # 3 Å Ò+ þ A « Ñ.
1. ä : 5 } êÑ ä è Ð ü= . ã
Å
Ò$ í ì rì r$ 3 ` ¦ : x # ' a8 £ ¤ « Ñ\ ? /F H Y > > h_ Å Òכ ¹ $ í ì r` ¦ Æ ÒØ ¦½ + É Ã º e 6 £ § É r ¸ ú
· ú
94 R e . Õ ª Q y Å Ò$ í ì rs ¸ H ì r$ 3 Ã º\ ¦ í < Ê ¦ e # Q { 9 Â Ò Å Ò$ í ì rë ß × þ ô Ç
¦ 8 ¸ Ã º[ jà Ô ^ × ¦# Q[ þ tt H · ú § H . " f Å Ò$ í ì r` ¦ & ñ H Å Òכ ¹ Ã º[ þ t
`
¦ × þ H ~ ½ ÓZ O [ þ ts ] jî ß ) a e (Jolliffe, 1972, 1973; Krzanowski, 1996). Õ ª Q Å Ò
$ í
ì rì r$ 3 ` ¦ : xK p> h à º[ þ t X
1, X
2, . . . , X
pî rX < : x> & h Ü ¼ Ð × æ4 ¤s \ O H Ã º[ þ të ß ¹ 1 Ô
∗
s 7HëHÉr 2006¸¸ &ñÂÒ(§¹¢¤&h"é¶ÂÒ)_ F"é¶Ü¼Ð ôDzDG<ÆÕüt<ɪFéß_ t"é¶`¦ ~ÃΠú')a ½¨e (KRF-2006-312-C00486).1) (136-701) §$. "fÖ¦:£¤Z>r $í·¡¤½¨ îß1lx 5, ¦ 9@/<Ƨ :x><Æõ, §Ãº.
E-mail: [email protected]
2) (120-750) "fÖ¦:£¤Z>r "f@/ëH½¨ @/&³1lx 21, so#@/<Ƨ :x><Æõ, §Ãº.
E-mail: [email protected]
3) (156-756) "fÖ¦:£¤Z>r 1lx½¨ <ÉÊ$31lx, ×æ©@/<Ƨ :x><Æõ, §Ãº.
E-mail: [email protected]
? / H s Qô Ç ~ ½ ÓZ O [ þ t\ H è_ ë H] j e . Å Ò$ í ì r ^ e ç # Ã º[ þ t\ _ K ß ¼> % ò
¾
Ó` ¦ ~ Ã Î` ¦ Ã º e l M :ë Hs .
McCabe (1984) H s ë H] j\ ¦ _ d ¦ Å Ò$ í ì r(principal components)` ¦ @ / ½ + É ‘Å Ò Ã
º(principal variables)’ > h¥ Æ ` ¦ ] jr ¦ q> h(≤ p)_ Å Ò Ã º × þ õ Qt à º_ ` l \
@
/ô Ç s : r& h $ í | 9 [ þ t` ¦ K Í Ç x . Õ ª Q z ´] j& h Ü ¼ Ð H p> h à º × æ\ " f & ñ K > hà º_
à º\ ¦ ¹ 1 Ô ? / H כ É r ¸½ + Ë ë H] j(combinatoric problem) ÷ &Ù ¼ Ð þ j& h o ~ 1 t · ú § ¦
× þ
à º à º q_ þ j& h ° ú כ` ¦ & ñ H כ ¸ ~ 1 t · ú § É r ë H] js . s ½ ¨\ " f Ä ºo H McCabe (1984)\ ¦ © ÷ & Ð z ´6 x& h é ß > & h à º × þ /] j ~ ½ ÓZ O ` ¦ ] jî ß ¦ ô Ç .
McCabe (1984) H p | ¾ Ó S X Ò ¦ 7 ' X\ ¦ Å Ò Ð ì r$ 3 s ÷ &# Q ½ + É q(≤ p) | ¾ Ó X
[1]õ Q t
p − q | ¾ Ó X
[2] Ð ¾ ºl 0 AK " f H X = (X
[1], X
[2])_ / B Nì rí ß ' § > =
Σ = Ã
Σ
11Σ
12Σ
21Σ
22!
\
@ / #
i) min |Σ
22.1| (or max |Σ
11|), ii) min tr(Σ
22.1),
iii) min ||Σ
22.1||
2,
iv) min Σ
kρ
2k(# l " f ρ
k H × þ à ºç Hõ q × þ à ºç H s _ & ñ ï r © ' a) 1
p
x_ l ï rÜ ¼ Ð q> h Å Ò Ã º\ ¦ ¹ 1 Ô` ¦ כ ` ¦ ] jî ß ô Ç e . s × æ\ " f l ï r ii)\ ¦ s ½ ¨\ " f
6 x½ + É כ s .
2] X \ " f Å Ò Ã º × þ · ú ¦o 7 £ §` ¦ ] jr ¦ 3] X \ " f H ] jî ß · ú ¦o 7 £ §` ¦ Y > > h_ Ã ºu & h
Y V\ & h 6 xK ^ ¦ כ s . à ºu & h Y V\ " f × þ à ºü < ] j à ºç ß ' a> _ r y o, r) ¸ +
þ
A\ " f_ Ä »6 x$ í , # 3 Å Ò+ þ A « Ñì r$ 3 \ " f_ Ö ¸6 x 1 p x` ¦ 7 H_ l Ð ô Ç .
2. = ` l v î |q @ è´ * 0
ì
r$ 3 Ã º[ þ t X
1, X
2, . . . , X
p× æ\ " f ô Ç > h_ Ã º X
j\ ¦ × þ s à º Ð q × þ Ã
º[ þ t_ { 9 & ñ Â Òì rs [ O " î ) a . Ã º X
l_ « Ñ° ú כ 7 ' \ ¦ x
l Ð ³ ðl ½ + É M : (l = 1, 2, . . . , p), +
þ
A& h ' a> Ð Ð H â Ä º Ã º X
l_ 8 ú x 1 l x ||x
l||
2î rX <
¯ ¯
¯
¯ ¯
¯x
l− x
tjx
lx
tjx
jx
j¯ ¯
¯
¯ ¯
¯
2, l = 1, 2, . . . , p (2.1)
z H . " f s כ [ þ t` ¦ þ j è o H à º\ ¦ ¹ 1 Ô ô Ç . ô Ǽ # Ü ¼ Ð ¹ 1 Ô Ã º X
j\ _
# (2.1)_ ° ú כs { 9 & ñ ° ú כ Ð É r à º X
l É r 8 s © Ð > r½ + É 9 כ ¹ \ O . Ä ºo H Ã º _
× þ õ ` l \ ¦ é ß > Z > Ð Ã º' H 6 £ § · ú ¦o 7 £ §` ¦ ] jî ß ô Ç .
0) ¸ H Ã º[ þ t` ¦ t ¦ r ô Ç . 9 כ ¹ô Ç â Ä º Ã º[ þ t` ¦ ³ ðï r oô Ç . Ã º[ jà Ô_ ß
¼l \ ¦ p ¦ .
1) ß ¼l p_ Ã º[ jà Ô\ " f
X
p l=1¯ ¯
¯
¯ ¯
¯x
l− x
tjx
lx
tjx
jx
j¯ ¯
¯
¯ ¯
¯
2`
¦ þ j è o H Ã º X
j\ ¦ ¹ 1 Ô H . Õ ª Ã º\ ¦ X
j1s ¦ .
2) Ã º X
l` ¦ X
j1Ü ¼ Ð [ O " î ÷ &t · ú § É r ï ß X
l·j1Ü ¼ Ð @ /u ô Ç . 7 £ ¤ « Ñ 7 ' x
l` ¦
x
l·j1= x
l− x
tj1x
lx
tj1x
j1x
j1, l = 1, 2, . . . , p
Ð @ /u ô Ç .
3) ] jY L ß ¼l ||x
lj1||
2s { 9 & ñ ° ú כ c\ p ² ú ÷ & X
l` ¦ ] j # Ã º[ jà Ô\ ¦ \ O X <s à Ôô Ç . Ã
º [
jà Ô_ ß ¼l \ ¦ D h Ð ½ ¨ # p Ð Z ~ H .
4) p ≥ 1s é ß > 1 Ð [ t ç ß .
· ú
¦o 7 £ § ? / í H¨ 8  Òì rs q ì ø Í4 ¤÷ & (q ≤ p) Õ ª õ Ð q> h_ à º[ þ ts × þ ) a . Õ ª
à º[ þ t` ¦ X
j1, X
j2, . . . , X
jq ¦ . # l \ í < Ê÷ &t · ú § H p − q> h_ à º[ þ t É r × þ ) a q> h _
à º[ þ t Ð © { ©  Òì rs [ O " î ÷ &Ù ¼ Ð e ç # à º(redundant variables) Ð ^ ¦ à º e .
0
A · ú ¦o 7 £ § É r cut-off ° ú כ c\ É r õ \ ¦ ? /Ù ¼ Ð c ° ú כ` ¦ & ñ K HX < ð © d & h ñ
à ºï r\ " f ¸ ú H כ s a % ~ x . c H 8 ú x ] jY L 1 l x × æ × þ à º[ þ t Ð [ O " î ÷ &t · ú § É r ] jY L 1 l x _
q Ö ¦s Ù ¼ Ð, ¸ H Ã º[ þ ts ' ¸ o÷ &# Q ||x
l||
2=1\ " f r ô Ç , c = 0.2 ∼ 0.1 Ð Ñ
ü
t à º e ` ¦ כ Ü ¼ Ð : r . c\ ¦ ß ¼> ½ + Éà º2 ¤ × þ à º [ jà Ô_ ß ¼l .
É r ~ ½ Ód É r c = 0Ü ¼ Ð # Ã º 1> hm × þ H é ß > \ ¦ = å Q t = å J ¦ ÷ & y é ß > \ " f
max
l=1,...,p¯ ¯
¯ ¯
¯
¯ ¯
¯ ¯
¯ x
l− x
tj1x
lx
tj1x
j1x
j1¯ ¯
¯ ¯
¯
¯ ¯
¯ ¯
¯
2
(2.2)
`
¦ Ø ¦§ 4 · ' a¹ 1 Ï # × þ à º [ jà Ô_ ß ¼l \ ¦ Ê ê& h Ü ¼ Ð & ñ H כ s .
3. ®e = . ã N M
s
] X \ " f H 3> h_ à ºu & h Y V\ ¦ : xK × þ à ºü < ] j à ºç ß ' a> , r) ¸+ þ A\ " f_ Ä
»6 x$ í , # 3 Å Ò+ þ A « Ñì r$ 3 \ " f_ Ö ¸6 x 1 p x` ¦ ¶ ú ( R Ðl Ð ô Ç .
é
>W É Ù D כ Ø (R_ gclus s Ú Ô Qo _ body « Ñ) s
« Ñ H 507" î \ @ /ô Ç 21> h ^ Â Ò0 A 8 £ ¤& ñ ° ú כÜ ¼ Ð ½ ¨$ í ÷ &# Q e HX <, ¸ H Ã º\ ¦ '
¸ o ¦ c = 0.2 Ð Z ~ ¦ ] jî ß · ú ¦o 7 £ §` ¦ & h 6 xô Ç õ 6 £ § 15> h à º × þ ÷ &% 3 .
× þ
) a à º[ þ t É r í H" f@ / Ð
Õ
ªa Ë > 3.1: 2–$ í ì r ì r$ 3 > h^ e ¦2 ©
“ForearmG” “HipG” “Biiliac” “AnkleD” “CalfG” “ChestDp”
“Biacrom” “KneeD” “AnkleG” “Bitro” “ChestD” “WristD”
“AbdG” “KneeG” “ThighG”
s
¦ q × þ à º o Û ¼à Ô H 6 £ §õ ° ú .
“BicepG” “WaistG” “ShoulderG” “ChestG” “ElbowD” “WristG”
s
[ þ t 6> h q × þ Ã º[ þ t\ @ /ô Ç ¼ # / B Nì rí ß ' § > = É r 6 £ §õ ° ú s z ¤ .
BicepG WaistG ShoulderG ChestG ElbowD WristG BicepG 0.09 0.02 0.03 0.03 0.00 0.01 WaistG 0.02 0.14 0.02 0.03 -0.02 0.00 ShoulderG 0.03 0.02 0.11 0.04 0.01 0.00 ChestG 0.03 0.03 0.04 0.09 0.01 0.00 ElbowD 0.00 -0.02 0.01 0.01 0.15 0.00 WristG 0.01 0.00 0.00 0.00 0.00 0.11
@
/y © \ H 0.2 s _ ° ú כ[ þ të ß z ¤ ¦ Õ ª ü @ q @ /y כ ¹ è[ þ t ¸ @ /Â Òì r B Ä º & 6 £ §` ¦ S
X
½ + É Ã º e .
Õ
ªa Ë > 3.2: 2–$ í ì r ì r$ 3 à º e ¦2 ©: (ý a) × þ à º, (Ä º) ] j à º
× þ ) a 15> h à º[ jà Ô\ @ /ô Ç Å Ò$ í ì r_ ¦Ä »° ú כ É r % 6 £ § 2> hë ß 1.0 s © s % 3 ¦ (8.94ü <
1.98) ¾ º& h ( G ' pà Ô H 72.8%% i . s \ 2-$ í ì r ì r$ 3 ` ¦ % i ¦ > h^ e ¦2 ©Ü ¼ Ð Õ ªa Ë >
3.1` ¦, à º e ¦2 ©Ü ¼ Ð Õ ªa Ë > 3.2_ ¢ , aA á ¤ כ ` ¦ % 3 % 3 . Õ ªa Ë > 3.2_ ¸ É rA á ¤ כ É r × þ ÷ &t · ú § É r 6> h à º\ ¦ Æ Ò Ã º(supplementary variables) l Z O Ü ¼ Ð r y oô Ç כ s () " î r, 1999).
:
£
¤s > ¸, q × þ 6> h à º ] j2 _ : £ ¤& ñ Â Ò ñ Ð j " t 9 e . s [ þ t à º[ þ t É r 2> h_ H é
# Qo Ð ) a Õ ªa Ë > 3.1\ " f é # Qo ½ ¨ì rõ ' aº e t ë ß Õ ªa Ë > 3.2_ ¢ , aA á ¤ Õ ªa Ë >\ " f ì r$ 3
\
È Ò{ 9 ) a 15> h à º × æ\ Õ ª 0 Au \ © { © à º_ à º e 6 £ §` ¦ ^ ¦ à º e .
NIR כ Ø Q d (R_ pls s Ú Ô Qo ! Q 1_ NIR « Ñ)
"
é
¶ « Ñ H 28> h PET (ø) @ / © 268> h © \ @ /ô Ç H& h ü @ Û ¼& 7 à Ô! 3 ° ú כÜ ¼ Ð ½ ¨$ í ÷ &# Q e
. % o Ð" f 268> h à º y y \ @ / # × æd o\ ¦ % i ¦ ' ¸ o H t · ú § ¤ . Õ ªo
¦ þ j@ / ³ ðï r¼ # \ ¦ 1s ¦ ½ + É M : 0.1 s © _ ³ ðï r¼ # \ ¦ ° ú H à º_ à º H 107> hs % 3 t ë ß c = 0.1 Ð # 2] X _ · ú ¦o 7 £ §` ¦ & h 6 xô Ç õ x.11, x.112 1 p x 2> h à ºë ß × þ ÷ &% 3 ¦ PET
_ x 9 ¸ y\ ¦ x.11õ x.112\ r) r õ 96.4%_ & ñ > Ã º\ ¦ × æ + þ A r) ¸+ þ A s
¸Ø ¦÷ &% 3 . Õ ªa Ë > 3.3\ " f yü < x.11, x.112 ç ß í ß & h ¸ ' § > =` ¦ Ð .
s
Y V\ " f H p n Ð ß ¼Ù ¼ Ð ¸ H [ O " î Ã º\ _ ô Ç × æ + þ A r) H & h ½ + Ës 0 p x t
· ú § . @ /î ß & h Ü ¼ Ð PCR r) (principal component regression)ü < PLS r) (partial least squares regression)\ ¦ ½ + É Ã º e HX < s ~ ½ ÓZ O [ þ t É r 2> h $ í ì r` ¦ ¦ 9ô Ç ¦ 8 ¸ y \ V8 £ ¤\
¸ H Ã º[ þ t` ¦ 9 כ ¹ Ð ô Ç . Ã Ð ¦ Ð 2> h $ í ì r_ PCR ¸+ þ Aõ PLSR ¸+ þ A_ & ñ > Ã º H y y
4.6%ü < 96.4%% i . " f yü < ' aº f ± t · ú § ¦ × þ ) a 2> hë ß _ Ã º\ ¦ Ö ¸6 x " f ¸ Ä º o
] jî ß H r) ¸+ þ A_ [ O " î § 4 s ¸ H Ã º\ _ > r H É r ¿ º r) ¸+ þ A\ q # s `
Õ
ªa Ë > 3.3: NIR « Ñ\ " f yü < 2> h_ × þ Ã º ç ß í ß & h ¸ ' § > =
z f þ j èô Ç 3 l wt · ú § . þ j H ) " î r 1 p x (2007) É r s « Ñ\ @ /ô Ç r y o õ \ ¦ ] jr ô
Ç e .
German Credit כ Ø Q d s
Y V_ « Ñ H 6 x@ /Ø ¦ 1,000" î \ @ /ô Ç 20> h F KÖ 6 x x 9 ½ ¨ r& h à º X1, . . ., X20õ õ à º 6 x½ ¨ì r ï× ¼ Ð ½ ¨$ í ÷ &# Q e () " î r (2003, p. 30–32) ¢ ¸ H http://
mlearn.ics.uci.edu/MLSummary.html à Р¸). X1 Ò' X20_ 20> h à º × æ 7> h H 5 Å q+ þ As t ë
ß
13> h H # 3 Å Ò+ þ As (# 3 Å Ò Ã º 2> h Ò' 11> h t ). s Y Vì r$ 3 \ " f H # 3 Å Ò+ þ A à º à º\ ¦
×
¦s ¦ 8 × þ ) a à º\ @ / # H 0 p xô Ç ô Ç # 3 Å Ò[ þ t` ¦ : x½ + Ë H כ ` ¦ 3 l q³ ð Ð ô Ç .
% o Ð" f # 3 Å Ò+ þ A à º " î 3 l q+ þ A â Ä º H 8p à º Ð Ë ¨% 3 . \ V @ / X20 É r foreign worker Ð ‘yes’ ¢ ¸ H ‘no’_ ¿ º ° ú כ` ¦ ° ú H s ½ Ó+ þ A à º X < s à º\ ¦
A201 = 1 if ’yes’, = 0 otherwise, A202 = 1 if ’no’, = 0 otherwise
Ð ³ ð & ³ % i . " f ¿ º Ã º × æ H redundant Ù ¼ Ð × þ ÷ & 1 l x& h Ü ¼ Ð
É
r H ` l ) a . s X O > % o ) a à º H X20 (foreign worker, 2> h # 3 Å Ò) ü @\ X4 (purpose,
11> h # 3 Å Ò), X9 (personal status and sex), X14 (other installment plans, 3> h # 3 Å Ò), X15 (housing, 3> h # 3 Å Ò), X19 (telephone, 2> h # 3 Å Ò) 1 p xs . s M : k> h_ # 3 Å Ò\ ¦ ° ú H Ã º\ ¦ ° ú
É
r à º_ 8p à º Ð ³ ð & ³ % i HX < Ó ü t : r Õ ª × æ H redundant . Õ ª Q 8p à º[ þ t _
# QÖ ¼ ¸½ + Ës ¸ × þ | ¨ c à º e ¸2 ¤ l 0 A # s ³ ð & ³ ~ ½ ÓZ O s | à Ðf . Ó ü t : r k> h _
8p à º ¸¿ º × þ ÷ &t H · ú § H .
¿
º P : Ä »+ þ A É r í H" f # 3 Å Ò+ þ A Ã º_ â Ä º X < ¾ º& h # 3 Å Ò ~ ½ Ód Ü ¼ Ð s ½ Ó+ þ A Ã º\ ¦ Ò q t$ í r
( . \ V\ ¦ [ þ t# Q X3 H credit history Ð all credits paid back duly(= 0), all credits at this bank paid back duly(= 1), existing credits paid back duly(= 2), delay in paying off in the past(= 3), critical account(= 4)_ 5> h # 3 Å Ò\ ¦ 2 [ HX < 6 £ §õ ° ú s 4> h s ½ Ó+ þ A ï× ¼ Ð
¨ 8
% i .
A31 = 1 if X3 ≥ 1, = 0 otherwise, A32 = 1 if X3 ≥ 2, = 0 otherwise, A33 = 1 if X3 ≥ 3, = 0 otherwise, A34 = 1 if X3 ≥ 4, = 0 otherwise.
s
X O > % o ) a à º H X3 (credit history, 5> h # 3 Å Ò) ü @\ X7 (present employment since, 5> h
# 3
Å Ò), X10 (other debtors, 3> h # 3 Å Ò), X12 (property, 4> h # 3 Å Ò), X17 (job, 4> h # 3 Å Ò) 1 p xs
.
[
j P : Ä »+ þ A É r í H" f+ þ Aõ " î 3 l q+ þ As D ¥½ + Ë ) a # 3 Å Ò+ þ A Ã º X < s â Ä º í H" f+ þ A Â Òì r É r
¾
º& h # 3 Å Ò ~ ½ Ód Ü ¼ Ð, " î 3 l q+ þ A # 3 Å Ò H ½ ¨ì r÷ & ¸2 ¤ s ½ Ó+ þ A à º\ ¦ Ò q t$ í r ( . \ V\ ¦ [ þ t# Q X1 É r checking account X < 0 or less(= 1), between 0 and 200(= 2), 200 or more(= 3), no account(= 4)_ 4> h # 3 Å Ò\ ¦ 6 £ §õ ° ú s ï` ç % i .
A11 = 1 if 1 ≤ X1 ≤ 3, = 0 otherwise, A12 = 1 if 2 ≤ X1 ≤ 3, = 0 otherwise, A13 = 1 if 3 ≤ X1 ≤ 3, = 0 otherwise, A14 = 1 if X1 = 4, = 0 otherwise.
" f s [ þ t × æ H redundant . s X O > % o ) a à º H X1 (checking account, 4> h # 3 Å
Ò) ü @\ X6 (savings account, 5> h # 3 Å Ò) e .
s
ü < ° ú s % o Ð ¸¿ º 1/0 ï× ¼ oô Ç 6 £ § × æd o % i Ü ¼ ' ¸ o H t · ú § ¤ .
" f m> h_ 1õ n−m> h_ 0Ü ¼ Ð ï` ç ) a \ P _ × æd o ) a 7 ' \ ¦ x
j Ð ³ ðl ½ + É M : ||x
j||
2/n É r r · (1 − r) ) a (# l " f r = m/n). · ú ¦o 7 £ § & h 6 xr cut-off ° ú כ` ¦ 0.09 (= 0.1 · 0.9) Ð ô Ç
õ , A11, A12, A33, A40, A42, A41, A61, A62, A73, A74, A75, A92, A93, A122, A123, A143, A152, A173, A174, A191 1 p xs × þ ÷ &% 3 (# l " f t } Õ ü w H # 3 Å Ò\ ¦, Õ ª · ú ¡ Õ ü w
H Ã º\ ¦ · p ). 7 £ ¤, X10 (other debtors, 3> h # 3 Å Ò)õ X20 (foreign worker, 2> h # 3 Å
Ò)\ K { © H 1/0 ï× ¼ à º ¸¿ º × þ ÷ &t · ú § ¤ . " f ¿ º à º X10õ X20 É r z ´] j
Ð redundant ¦ ½ + É Ã º e . ¢ ¸ô Ç Ã º_ # 3 Å Ò½ ¨ì rs Ô ¦ 9 כ ¹ < Ê` ¦ · ú à º e HX < \ V @ /
X3\ @ /ô Ç ï× ¼ × æ\ " f A33ë ß × þ ÷ &% 3 Ü ¼Ù ¼ Ð X3 (credit history = 0, 1, 2, 3, 4)_ 5> h # 3 Å Ò
×
æ 0,1,2\ ¦ ô Ç # 3 Å Ò Ð Ó ü ¦ 3,4\ ¦ É r ô Ç # 3 Å Ò Ð # î ½ + ˽ + É Ã º e .
4. ß ò Y ¶Ë H x
s
© Ü ¼ Ð Å Ò# Q p> h à º X
1, X
2, . . . , X
p× æ\ " f 9 כ ¹ô Ç Ã º[ þ t É r × þ H é ß > & h ~ ½ Ó Z
O
õ Y V\ ¦ ] jr % i . cut-off ° ú כ c\ ¦ 0Ü ¼ Ð Z ~ H â Ä º 2] X _ · ú ¦o 7 £ §` ¦ Gram-Schmidt f
§ o õ & ñ Ü ¼ Ð ¸ ^ ¦ Ã º e x HX < : x © & h Gram-Schmidt õ & ñ õ H \ P ( Ã º) × þ l 0 p x
\
" f s e . s ½ ¨\ " f ] jî ß ô Ç “ à º × þ Gram-Schmidt f § o · ú ¦o 7 £ §” É r
|
¾
Ó « Ñ_ 3 l q& h ì r$ 3 \ Ä »6 xô Ç » ¡ ¤ è ) a à º[ jà Ô\ ¦ ] j/ B Nô Ç .
Ú
y N ù ý
)
" î r (1999). < | ¾ Ó Ã º| ¾ Ó o>, Ä » X <p , " fÖ ¦.
)
" î r (2003). <X <s ' s _ ç ¸4 S qa Aõ Y V>, SPSS X <p , " fÖ ¦.
)
" î r, s 6 x½ ¨, s $ í H (2007). PLS l Z O \ _ ô Ç (X, Y) « Ñ_ r y o, <6 £ x6 x: x> ½ ¨>, 20, 345–355.
Jolliffe, I. T. (1972). Discarding variables in a principal component analysis. I: Artificial data, Applied Statistics, Journal of the Royal Statistical Society, Ser. C., 21, 160–173.
Jolliffe, I. T. (1973). Discarding variables in a principal component analysis. II: Real data, Applied Statistics, Journal of the Royal Statistical Society, Ser. C., 22, 21–31.
Krzanowski, W. J. (1996). A stopping rule for structure-preserving variable selection, Statis- tics and Computing, 6, 51–56.
McCabe, G. P. (1984). Principal variables, Technometrics, 26, 137–144.
[ 2007¸ 8 Z 4 ] X Ã º, 2007¸ 9 Z 4 G × þ ]
Variable Selection for Multi-Purpose Multivariate Data Analysis ∗
Myung-Hoe Huh
1)Yong Bin Lim
2)Yonggoo Lee
3)Abstract
Recently we frequently analyze multivariate data with quite large number of vari- ables. In such data sets, virtually duplicated variables may exist simultaneously even though they are conceptually distinguishable. Duplicate variables may cause problems such as the distortion of principal axes in principal component analysis and factor analysis and the distortion of the distances between observations, i.e. the input for cluster analysis. Also in supervised learning or regression analysis, duplicated explana- tory variables often cause the instability of fitted models. Since real data analyses are aimed often at multiple purposes, it is necessary to reduce the number of variables to a parsimonious level.
The aim of this paper is to propose a practical algorithm for selection of a subset of variables from a given set of p input variables, by the criterion of minimum trace of partial variances of unselected variables unexplained by selected variables. The usefulness of proposed method is demonstrated in visualizing the relationship between selected and unselected variables, in building a predictive model with very large number of independent variables, and in reducing the number of variables and purging/merging categories in categorical data.
Keywords: Principal variables, variable selection, categorical data.
∗
This work was supported by the Korea Research Foundation Grant funded by the Korean Govern- ment(MOEHRD)(KRF-2006-312-C00486).1) Corresponding author. Professor, Dept. of Statistics, Korea University, Anam-dong 5, Sungbuk-Gu, Seoul 136-701, Korea.
E-mail: [email protected]
2) Professor, Dept. of Statistics, Ewha Women’s University, Seoul 120-750, Korea.
E-mail: [email protected]
3) Professor, Dept. of Statistics, Chungang University, Seoul 156-756, Korea.
E-mail: [email protected]
