제8장회귀방정식모형제8장회귀방정식모형

제8장

회귀방정식 모형 제8장

회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 선형회귀모형(linear regression model)

• 종속변수 y_i는 독립변수 x_i1, x_i2, ×××, x_ik와 관찰되지 않은 오차 항(error term) ε_i의 선형함수로 다음과 같이 나타낼 수 있음.

y_i=β₀+β₁x_i1+β₂x_i2+ ××× +β_kx_ik+ε_i, i=1, 2, ×××, n

여기서 β₀, β₁, ×××, β_k는 추정해야 할 모수(parameter)이고, ε_i 는 오차항(error term)을 나타냄.

• 위의 회귀모형에서 우변의 β₀+β₁x_i1+β₂x_i2+ ××× +β_kx_ik는 회귀 함수(regression function)라 하고, β₀, β₁, β₂, ×××, β_k는 회귀계 수(regression coefficient)라고 함.

• 각각의 회귀계수는 다른 독립변수들이 일정하다고 가정할 때 해당 독립변수가 종속변수에 미치는 영향을 나타냄(즉, 편미분계수를 의미).

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 선형회귀모형(linear regression model)

• 오차항 ε_i는 독립변수로 설명되지 않는 종속변수의 부분을 나타내며, 오차항은 종속변수와 독립변수들 간의 안정적 관 계를 교란한다는 의미로 교란항(disturbance)이라고도 함.

• 일반적으로 앞의 회귀모형에서 x_i0=1, 즉 독립변수 중 하나 는 상수(constant)라고 가정함.

• 회귀모형에서 상수가 아닌 독립변수가 하나인 모형은 단순 회귀모형(simple regression model)이라 하며, 다음과 같이 나타냄.

y_i=β₀+β₁x_i+ε_i

• 회귀모형에서 상수가 아닌 독립변수가 둘 이상인 모형은 다 중회귀모형(multiple regression model)이라 함.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 단순회귀모형의 추정(estimation of simple regression model)

• 단순회귀모형의 추정을 위하여 모집단으로부터 추출한 표 본 85명의 소득(income : y)과 연령(age : x)에 대한 자료를 이용하여 단순회귀모형을 추정함(eviews sample-02).

• 회귀방정식의 분석모형은 다음과 같음.

y_i=β₀+β₁x_i+ε_i

여기서 y_i는 소득(income)이고, x_i는 연령(age)임.

• 우선, 회귀모형을 추정하기에 앞서 EViews에서 외부자료 (Foreign data)를 작업파일(Workfile)로 불러들이기 위하여 주 메뉴의 File/Open/Foreign Data as Workfile…을 클릭함.

제8장 회귀방정식 모형

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 단순회귀모형의 추정(estimation of simple regression model)

• File/Open/Foreign Data as Workfile…을 클릭한 후 파일을 선택한 후 다음의 그림과 같이 진행함.

클릭하면3단계 중 2단계로 진행됨.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 단순회귀모형의 추정(estimation of simple regression model)

• File/Open/Foreign Data as Workfile… 3단계 중 2단계는 다 음과 같음.

클릭하면3단계 중 3단계로 진행됨.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 단순회귀모형의 추정(estimation of simple regression model)

• File/Open/Foreign Data as Workfile… 3단계 중 3단계는 다 음과 같음.

클릭하면 EViews 창에 외부자료의 작업파일이 생성됨.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 단순회귀모형의 추정(estimation of simple regression model)

• 이와 같이 클릭하고 나면 다음과 같은 작업파일 창이 활성 화됨.

계수벡터(vector of coefficient) 상수항 c, 잔차계열 (series of residuals) resid, 특정 자료들의 작업파일 디렉토리를 나타냄(여기서 age는 연령, income은 소 득임).

작업파일에 대한 정보가 제시됨. 관측값의 개수(obs)는 85개임.

이 대화창(dialog window)에 대한 정보를 아직 저장하지 않았기 때문에 작업파일명은 무제 (Untitled)로 나타남.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 단순회귀모형의 추정(estimation of simple regression model)

• 주 메뉴의 Quick을 선택한 후 모형의 추정방정식 대화창을 열기 위하여 Estimate Equation…을 선택함.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 단순회귀모형의 추정(estimation of simple regression model)

• Estimate Equation…을 선택하면 다음과 같이 Equation Specification 대화창이 나타남.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 단순회귀모형의 추정(estimation of simple regression model)

• Estimate Equation 대화창에서 회귀모형을 구성하고 있는 종속변수, 상수항, 독립변수 순으로 콤마(,)없이 띄어씀.

이 창의 공란에 회귀모형에 대한 추정방정식 모형을 구성하고 있는 종속변수인 income(소득)과 c(상 수항), 독립변수인 age(연령)을 순 서대로 다음과 같이 입력함.

income c age

만약 상수항을 포함하지 않으려면 상수항 c는 제외함.

대화창에서 회귀방정식의 추정설 정(Estimation settings) 입력란의 방법(Method)은 최소자승법 (Least Squares Method)임.

확인을 클릭함.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 단순회귀모형의 추정(estimation of simple regression model)

• 또 다른 방법으로는 직접 명령어 창에 다음과 같이 입력한 후 엔터키를 누르면 회귀분석의 추정결과가 나타남.

여기서 ls는 최소자승법(least squares)을 의미함.

종속변수와 상수항, 그리고 독립변수를 순 서대로 한 칸씩 콤마없이 띄어쓰고 입력함.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 단순회귀모형의 추정(estimation of simple regression model)

• 다음의 그림은 회귀분석의 추정결과를 나타내는 창임.

회귀계수의 추정값

회귀모형의 적합도 검정결과F-통계량 과 유의확률값(Prob)은 통계적으로 유 의함.

회귀계수의 유의성을 나타내는t-통계 량과 유의확률값(Prob)임.

여기서 age(연령)의 회귀계수는 통계적 으로 유의하지만c(상수항)는 통계적으 로 유의하지 않음.

R-squared(R²)가 0.084290으로 나타나 전체 회귀모형의 설명력이 떨어짐을 알 수 있음.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 단순회귀모형의 추정(estimation of simple regression model)

• 잔차에 따른 실제값(actual)과 적합값(fitted)을 그래프로 나 타내기 위하여 회귀분석의 추정결과 창에서 View/Actual, Fitted, Residual/Actual, Fitted, Residual Graph를 클릭함.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 단순회귀모형의 추정(estimation of simple regression model)

• 그래프로 결과를 보면 실제값과 적합값의 차이가 큼.

종속변수 y의 실제값

독립변수 x가 설명하는 종속변수 y의 부분 독립변수 x가 설명하지 못하는 종속변 수y의 부분으로 잔차임.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 단순회귀모형의 추정(estimation of simple regression model)

• 이는 다시 다음과 같이 표(Table)로 나타낼 수도 있음.

중앙수직선을 기준으로 오른쪽에 있는 점은 잔차가 양수(+)인, 즉 종속변수가 회귀선의 위쪽에 위치한 관찰값임.

중앙수직선(녹색)은 회귀선을 나타내며 선상의 점은 각y값의 위치를 나타냄.

중앙수직선을 기준으로 왼쪽에 있는 점은 잔차가 음수(-) 인, 즉 종속변수가 회귀선의 아래쪽에 위치한 관찰값임.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 단순회귀모형의 추정(estimation of simple regression model)

• 주 메뉴에서 View/Representation을 클릭하면 다음과 같이 회귀방정식과 회귀계수로 설명된 결과를 나타냄.

여기에는 분석에 이용된 변수들의 추정명령어(Estimation Command), 종속변수와 독립변수 앞에 계수를 사용한 추정방정식(Estimation Equation), 그리고 마지막으로 추 정방정식의 계수를 대체한 추정값 으로 구축된 회귀방정식

(Substituted Coefficients)을 나타 내고 있음.

회귀방정식 추정결과에서 방정식 에 나타난 각각의 순서대로 회귀계 수가 작성된다는 것을 알 수 있음.

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 다중회귀모형의 추정(estimation of multiple regression model)

• 1952년 1/4분기부터 1996년 4/4분기까지 분기별 자료 (quarterly data)를 이용하여 다중회귀모형을 추정함 (eviews sample-03).

• 회귀방정식의 분석모형은 다음과 같음.

lm1_i=β₀+β₁lgdp_i+β₂interest_i+β₃dlprice_i+ε_i

여기서 lm1은 통화공급량(money supply), lgdp는 소득 (income), interest는 단기이자율, dlprice는 물가수준(인플 레이션 근사값)의 로그차분값임.

제8장 회귀방정식 모형

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 다중회귀모형의 추정(estimation of multiple regression model)

• 우선, 자료들의 특성을 살펴보기 위하여 그룹(Group)을 생 성함.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 다중회귀모형의 추정(estimation of multiple regression model)

• 그 결과 다음과 같이 새로운 계열인 그룹(Group)이 생성됨.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 다중회귀모형의 추정(estimation of multiple regression model)

• 선택된 그룹(Group)에 대하여 View/Descriptive

Stats/Individual Sample를 선택하고 클릭하면 다음과 같이 기술통계량을 제시함.

1차 로그차분(first prder logarithm difference)했기 때문에 자료(관측 값)수가 1개 줄어듬.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 다중회귀모형의 추정(estimation of multiple regression model)

• View/Graph를 선택하고 OK를 클릭하면 다음과 같음.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 다중회귀모형의 추정(estimation of multiple regression model)

• 그래프를 개별적으로 보기 위하여 View/Graph의 Graph Options 창의 Multiple series에서 Multiple graphs를 선택함.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 다중회귀모형의 추정(estimation of multiple regression model)

• Multiple graphs를 선택하고 OK를 클릭하면 다음과 같음.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 다중회귀모형의 추정(estimation of multiple regression model)

• 변수들 간의 상관관계를 보기 위하여 View/Covariance Analysis…를 선택함.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 다중회귀모형의 추정(estimation of multiple regression model)

• View/Covariance Analysis…를 선택하면 Covariance Analysis 대화창이 다음과 같이 나타남.

Covariance(공분산) Correlation(상관관계) t-statistic(t-통계량) Probability(유의확률) 등

분석에 필요한 부분을 선택한 후 OK를 클릭함.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 다중회귀모형의 추정(estimation of multiple regression model)

• Covariance Analysis 대화창에서 필요한 부분을 선택한 후 클릭하면 다음과 같은 상관분석결과가 나타남.

위쪽은 상관계수(correlation coefficient)이고, 아래쪽은 유의확률값(p-value)임.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 다중회귀모형의 추정(estimation of multiple regression model)

• 주 메뉴의 Quick을 선택한 후 모형의 추정방정식 대화창을 열기 위하여 Estimate Equation…을 선택함.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 다중회귀모형의 추정(estimation of multiple regression model)

• Estimate Equation…을 선택하면 다음과 같이 Equation Specification 대화창이 나타남.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 다중회귀모형의 추정(estimation of multiple regression model)

• Estimate Equation 대화창에서 회귀모형을 구성하고 있는 종속변수, 상수항, 독립변수들 순으로 콤마(,)없이 띄어씀.

이 창의 공란에 회귀모형에 대한 추정방정식 모형을 구성하고 있는 종속변수인 lm1과 c(상수항), 독립 변수인 lgdp, interest, dlprice를 순 서대로 다음과 같이 입력함.

lm1 c lgdp interest dlprice

대화창에서 회귀방정식의 추정설 정(Estimation settings) 입력란의 방법(Method)은 최소자승법 (Least Squares Method)임.

확인을 클릭함.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 다중회귀모형의 추정(estimation of multiple regression model)

• 다음의 그림은 회귀분석의 추정결과를 나타내는 창임.

회귀모형의 적합도 검정결과 F-통계량 과 유의확률값(Prob)은 1% 유의수준하 에서 통계적으로 유의함.

회귀계수의 유의성을 나타내는 t-통계 량과 유의확률값(Prob)임.

여기서 모든 회귀계수들이 1% 유의수 준하에서 통계적으로 유의함.

Adjusted R-squared가0.99로 전체 회귀 모형의 설명력이 매우 높음 알 수 있음.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 다중회귀모형의 추정(estimation of multiple regression model) 잔차에 따른 실제값(actual)과 적합값(fitted)을 그래프로 나타내 기 위하여 회귀분석의 추정결과 창에서 View/Actual, Fitted, Residual/Actual, Fitted, Residual Graph를 클릭함.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 다중회귀모형의 추정(estimation of multiple regression model)

• 그래프로 결과를 보면 실제값과 적합값이 유사함.

종속변수 y의 실제값

독립변수 x가 설명하는 종속변수 y의 부분 독립변수 x가 설명하지 못하는 종속변 수y의 부분으로 잔차임.

제8장 회귀방정식 모형

회귀방정식과 가설검정 (Regression Eq. & Hypothesis Test)

§ 다중회귀모형의 추정(estimation of multiple regression model) 주 메뉴에서 View/Representation을 클릭하면 다음과 같이 회 귀방정식과 회귀계수로 설명된 결과를 나타냄.