제4장 다중회귀분석

(1)

1.다중회귀모형 및 가정 2.회귀계수의 추정

3.OLS 추정량의 특성

4.교란항 및 회귀계수의 분산 추정 5.결정계수

6.가설검정 7.예측

(2)

1.다중회귀모형 및 가정 (1)다중회귀모형

(참고) 회귀계수 를 부분회귀계수라고 하는데 이는 특정 회귀계수 의 크기는 다른 독립변수들의 값이 변하지 않고 특정 독립변수의 값이 1단위 증가할 때 종속변수의 평균변화의 크기를 의미

(3)

(2)가정

① 독립변수 X는 확률변수가 아닌 확정변수이다

-표본을 반복해서 잡아볼 때 X는 고정된 것으로 해 놓고 Y와 u의 값은 표본에 따라 다름

-X는 오차없이 측정됨

② 교란항의 평균은 0이다

(4)

③ 교란항은 모든 X에 대한 동일한 분산을 갖는다(동분산)

(동분산 및 비자기상관 분산-공분산행렬)

④ 교란항은 정규분포에 따른다

(5)

(1)보통최소자승법(Ordinary Least Squares : OLS)

(잔차) (목적함수)

(6)

(7)

(참고) 단순회귀와 다중회귀의 회귀계수 추정 단순회귀 : 𝛽 = 𝐶𝑜𝑣(𝑋, 𝑌)

𝑉𝑎𝑟(𝑋)

다중회귀 : ^𝛽^𝑘 ⁼ ^{𝐶𝑜𝑣(}_{𝑉𝑎𝑟(}^𝑋_𝑋^𝑘^,𝑌)

𝑘) , k=2,…k

(예) ^𝑌𝑖 = 𝛽₁ + 𝛽₂𝑋_2𝑖 + 𝛽₃𝑋_3𝑖 + 𝑢_𝑖 𝛽₂ = ^{𝐶𝑜𝑣(}^𝑋²^,𝑌)

𝑉𝑎𝑟( 𝑋₂)

단, 𝑋_2𝑖 = 𝛼₁ + 𝛼₂𝑋_3𝑖 + 𝑋_2𝑖 𝛽₃ = ^{𝐶𝑜𝑣(}^𝑋³^,𝑌)

𝑉𝑎𝑟( 𝑋₃)

단, 𝑋_3𝑖 = 𝛼₁ + 𝛼₂𝑋_2𝑖 + 𝑋_3𝑖

(8)

(2)표준화된 회귀모형

(9)

(10)

(11)

(12)

(13)

(1)선형추정량

(2)불편추정량

(14)

(3)최소분산추정량

(15)

(16)

4.교란항 및 회귀계수의 분산 추정 (1)교란항의 분산

(2)회귀계수의 분산

𝑌 = 𝑋 𝐵 (정규방정식에서)

(17)

(18)

5.결정계수(coefficient of determination)

(19)

(20)

(21)

(1)단일 회귀계수 검정

(22)

(2)결합 검정

(23)

(24)

(3)전체 검정

(25)

1

12.706

_{1, 0.025}

12.7

(26)

(27)

추가한 다음의 모형을 추정하고 연구개발 지출액과 달러환율이 매출액에 영향 을 주지 않는다는 귀무가설을 검정해 보자.

Y 1 1 2 3 3

X2 1 2 3 2 4 X3 2 1 1 2 3 X4 2 3 2 4 2 F= ^(𝑅^𝑢𝑟² ^−𝑅^𝑟²^)/𝑞

(1−𝑅_𝑢𝑟² )/(𝑛−𝑘) = (0.8356−0.4327)/2

(1−0.8356)/1 = 1.225~𝐹₁²

5% 유의수준 하에서 F-분포의 임계값은 199.5이므로 귀무가설을 기각하지 못함

(28)

7.예측

(29)

(30)

(31)