회귀분석의 전제조건과 타당성 검정 방식

[alun]

1. 회귀분석의 전제조건

1) 표본이 무작위 표집( random sampling)

2) 변인이 정상분포(normal distribution)

3) 독립변인과 종속변인간의 관계는 선형성 ( linearity)

4) 변량이 동질적 ( homogeneity of variance)

2. 회귀모형의 타당성 검정

1) 결정계수 살펴보기

지나치게 작다면 회귀선은 적합하지 못하다.

2) 분산분석에서 회귀식의 유의도를 살펴보기

가설이 기각된 경우에는 다른 모형을 개발해야 한다.

3) 적합결여검정 (lack of fit test ) 실시하기

 선형회귀식의 타당성을 조사

 적합결여검정을 위해서는 잔차의 독립성, 정규성, 등분산성을 가정되어야 한다.

4) 잔차(residual)를 검토

독립변인과 종속변인간의 선형성 검토와 변량의 동질성 검토가 목적

잔차 자기상관과 잔차의 이분산성을 밝힌다.

[출처] 회귀분석의 전제조건과 타당성 검정|작성자 isabella

회귀식의 타당성을 위해서는

잔차를 살피게 되는데

우선 잔차의 자기상관과 잔차의 이분산성을 검정해본다.

잔차 자기상관 (autocorrelation) 또는 잔차 계열 상관 ( serial correlation )

1. 개념

어떤 잔차항이 다른 잔차항에 영향을 주게 되는 경우

잔차간에 선형성이 이루어지는 경우

2. 일반적인 검정 방법

Durbin-Watson 검정으로

잔차의 독립성 검정으로 잔차의 자기상관 여부를 밝힐수 있다.

3. 가설 설정

영가설은 일계자기상관계수가 0 이다.

대립가설은 일계자기상관계수는 0 보다 크다.

4. 검정 예시

독립변수 2 이고 관찰치가 10 일 때

Durbin –Watsin 의 임계치는   이다.

검정통계량 d 가 이면 영가설 기각이고  이면 영가설 채택한다.

 에서는 불확정적이다.

여기서는 d 값이 1.952 이므로 영가설 채택으로

따라서 자기상관이 없다고 결론 짓는다.

[출처] 회귀분석의 타당성 검정 방식 1|작성자 isabella

잔차 이분산성 ( heteroscedasticity ) 검정

1. 개념

종속변수가 독립변수의 변화에 따라 다른 분산을 보이는 경우

2. 목적

회귀모형의 선형성과 분산의 동질성을 살펴볼수 있다.

3. 검정 방법

표준예측점수 ( standardized predicted value : ZPRED )

표준잔차점수 ( standardized residual : ZRESID )

를 이용하여

잔차를 표준화시킨 표준화된 잔차( standardized residual ) 점수 분포를

살펴보는 것이다.

4. 가설 설정

영가설 : 종속변수 오차항의 분산이 모든 독립변수의 값에 대해 동일하다.

대립가설 : 종속변수 오차항의 분산이 모든 독립변수의 값에 따라 다르다.

5. 검정 결과 해석

1) 분산의 동질성이 보임

위와 같이

잔차의 모양이 가로축과 세로축의 0을 중심으로 무작위적으로

즉

예측치의 증감과 관계없이 특정한 추세를 보이지 않아야

영가설을 채택할수 있다.

2) 분산의 동질성이 보이지 않음

위는 표준화 예측 점수에 따라서 표준화 잔차 점수가

상관관계를 가지며

일정한 규칙을 따르는 것을 보여주며

이는 분산의 분포가 비동질적이고 

종속변인과 독립변인과의 관계가 선형이 아니라는 것을 보여준다.

[출처] 회귀분석의 타당성 검정 방식 2 |작성자 isabella