다중회귀모형

제18장 다중회귀분석

다중회귀모형



다중회귀모형(multiple regression model)



독립변수가 2개 이상인 회귀모형

. )

, 0 ( :

, , ,

:

,:

, , ,

: ,

2 2

1 0

2 1

2 2 1

1 0

따른다 분포를

의 독립적이며

서로 는

회귀계수 절편 회귀식의

값 독립변수의 번째

값 종속변수의 번째

단























N i

X X

X i Y

X X

X Y

i

k ik i

i i

i ik

k i

i i





  









회귀식의 추정



최소자승법 이용



추정치 계산법



독립변수가 3개 이상 되면 손으로 풀기는 불

가능: 컴퓨터 이용

분산분석



제곱합의 계산



단순회귀분석과 동일



분산분석표



SSTO의 자유도: n-1



SSE의 자유도: n-k-1



SSR의 자유도: k

결정계수와 상관계수



다중회귀모형의 결정계수



다중회귀모형의 상관계수

1 0

1

2 2











R

SSTO SSE SSTO

R SSR

R

R  

결정계수의 조정



조정결정계수(adjusted coefficient of multiple determination)

 독립변수의 수가 많아지면 결정계수 값이 증가하는데 이는 독립변수를 추가하면 독립변수들이 회귀모형의 변동을 설 명하는 힘이 커지게 되어 SSR은 항상 커진다.

 그러나 독립변수의 수가 증가하면 모형도 복잡해지고, 독립 변수의 상관관계가 높아져서 독립변수들 간에 서로 영향을 미치는 다중공선성의 문제가 발생

 따라서 상대적인 조정이 필요

 독립변수 하나가 추가되어 SSE가 충분히 줄어들지 않으면 조정결정계수가 줄어듬

SSTO SSE k

n R_a n

1 1 1

2





 



통계적 추정



회귀모형의 유의성 검정



다중회귀에서의 모형 유의성 검정

 종속변수와 독립변수 전체의 집합간의 관계에 대하여 검정: F 검정



가설

 H₀: β₁= β₂=···= β_k=0

 H₁: 위의 회귀계수 중 적어도 하나는 0이 아니다.



다중선형회귀모형

) 1 ,

(  

 F k n k MSE

MSR

회귀계수의 추정과 검정



회귀계수의 추정



단순회귀와 동일, t분포의 자유도만 n-k-1



회귀계수의 검정



단순회귀와 동일, t분포의 자유도만 n-k-1 )

( 1 2 ;

1

1

k k

k

b s k

n t

b 



 



   









 ^{에 대한 신뢰구간}