발트 검정

Wald test

통계학에서, Wald 검정(Abraham Wald의 이름을 딴)은 제한되지 않은 추정치와 귀무 가설에서 가설된 값 사이의 가중 거리를 기반으로 통계 모수에 대한 제약을 평가한다. 여기서 가중치는 [1][2]추정치의 정밀도이다.직관적으로 이 가중 거리가 클수록 제약조건이 참일 가능성은 낮아집니다.Wald 검정의 유한 표본 분포는 일반적으로 [3]알려져 있지 않지만, 통계적 유의성을 [4]결정하는 데 사용할 수 있는 사실인 귀무 가설 하에서 점근 δ-분포2 가지고 있다.

Lagrange 승수 검정 및 우도비 검정과 함께 Wald 검정은 가설 검정에 대한 세 가지 고전적 접근법 중 하나입니다.다른 두 가지에 비해 Wald 검정의 장점은 제한되지 않은 모델의 추정만 요구하므로 우도비 검정에 비해 계산 부담이 줄어든다는 것이다.그러나, 주요 단점은 (유한 표본에서) 귀무 가설의 표현의 변화에 불변하지 않는다는 것이다. 즉, 비선형 매개변수 제한의 대수적 등가 표현은 검정 [5][6]통계량의 다른 값으로 이어질 수 있다.그 이유는 Wald 통계량이 Taylor [7]확장에서 파생되고 등가 비선형 식을 쓰는 다른 방법이 해당 Taylor [8]계수의 중요한 차이를 초래하기 때문이다.때로 추정되는(어렴성 없는)매개 변수 설비가 갖추어져 있는 확률은 George:미국의 생화학자 시험에서 0이나one—which 결과 더 이상 monotonically은 uncons 사이의 거리에서 증가하고 가까이에 있는 것을 매개 변수 space—for 인스턴스의 경계에 가까운 또 다른 수차, Hauck–Donner로 알려진 effect,[9]이항 모델에서 일어날 수 있다.trained 파라미터 및 제약 파라미터.[10][11]

수학적 상세

Wald 검정에서는 제한되지 않은 우도함수의 최대 인수로 확인된 ^^ {\{\ 가설값 0 {\ _과 비교한다. - 0 { { hat { - \_ { 제곱차이는 로그우도함수의 곡률에 의해 가중치가 부여됩니다.

단일 매개 변수에 대한 검정

가설에 모수 제한이 하나만 포함되는 경우 Wald 통계량은 다음과 같은 형태를 취합니다.

이 값은 귀무 가설에서 자유도가 1개인 점근 δ-분포를2 따릅니다.단일 제한 Wald 통계량의 제곱근은 (의사) t-비로 이해될 수 있지만, 정규 분포 [12]오차가 있는 특별한 선형 회귀 분석 경우를 제외하고는 실제로 t-분포가 아닙니다.일반적으로 점근 z [13]분포를 따릅니다.

서 se ( ) { )는 최대우도 추정치(MLE)의 표준 오차이며 분산의 제곱근입니다.분산 행렬을 일관되게 추정할 수 있는 방법은 여러 가지가 있으며, 이는 유한 표본에서 표준 오차 및 관련 검정 통계량[14]p-값의 대체 추정치로 이어집니다.

여러 파라미터에 대한 테스트

Wald 검정을 사용하여 여러 모수에 대한 단일 가설을 검정할 수 있을 뿐만 아니라 단일/복수 모수에 대한 다중 가설을 공동으로 검정할 수 있습니다.{}(를) P(즉, { P × 1 { P 벡터)의 샘플 추정기로 하자. 이 벡터는 공분산 행렬 V 을 점근적으로 정규 분포를 따라야 . ( ,) { { { \ hat { { } - \ } , \ x { { } , N ( , )。 P 파라미터에 대한 Q Q × PTYLE MATIALASSTYLE MATIONS TYLE MATIC RTES TYLE R TYLE MATES TYLE MATIALES

테스트 통계는 다음과 같습니다.

서 V^ \ \ _ { 공분산 [15]행렬의 추정치입니다.

증명

( ^ - ) N( , { { n ( { \ { { n } - \ ) 、 \ { D( , V )Slutsky의 정리 및 정규 분포에 의한 곱셈,

정규 분포의 2차 형식이 카이 제곱 분포를 갖는다는 점을 상기하면 다음과 같습니다.

n을 재배치하면 다음과 같은 이점이 있습니다.

공분산 행렬이 a-priori로 알려져 있지 않고 데이터로부터 추정해야 하는 경우에는 어떻게 합니까?- V^{ \ V^ n { \ ^ { - } { \{ } { \ hat { V } { } { n } - P \ _ { n} } ^{ n } } }^{ n } } } } } } 위의 방정식은 다음과 같습니다.

비선형 가설

표준 형식에서 Wald 검정은 단일 행렬 R로 나타낼 수 있는 선형 가설을 검정하는 데 사용됩니다.형식의 비선형 가설을 검정하려는 경우:

테스트 통계는 다음과 같습니다.

서 c ( n ){ c}}는 샘플 추정기에서 평가된 c의 도함수입니다.이 결과는 분산의 1차 근사치를 사용하는 델타 방법을 사용하여 얻을 수 있습니다.

재매개변수화에 대한 불변성

분산의 근사치를 사용한다는 사실은 Wald 통계량이 가설의 비선형 변환/재변환과 달라지지 않는다는 단점을 가지고 있다: 그것은 질문이 어떻게 [16][5]표현되는지에 따라 같은 질문에 다른 답을 줄 수 있다.예를 들어, R = 1이 로그 R = 0인지 여부를 묻는 것과 같지만 R = 1에 대한 Wald 통계량은 로그 R = 0에 대한 Wald 통계량과 같지 않습니다(일반적으로 R과 로그 R의 표준 오차 사이에는 명확한 관계가 없으므로 근사치를 [17]구해야 합니다).

Wald 테스트의 대체 방법

Wald 검정에는 우도비 검정과 라그랑주 승수 검정(점수 검정이라고도 함) 등 여러 가지 대안이 있습니다.로버트 F. Engle은 Wald 검정, 우도비 검정, 라그랑주 승수 검정이라는 세 가지 검정이 점근적으로 [18]동일하다는 것을 보여주었다.점근적으로 동일하지만 유한 표본에서는 서로 다른 결론을 도출할 수 있을 정도로 의견이 일치하지 않을 수 있습니다.

Wald [19][20][21]검정보다 우도비 검정 또는 Lagrange 승수를 선호하는 이유는 다음과 같습니다.

  • 비변동:위에서 논의한 바와 같이, Wald 테스트는 리파라메트리제이션 하에서 불변하지 않는 반면, 우도비 테스트는 R, 로그 R 또는 [5]R의 다른 단조 변환에 대해 작업하든 정확히 동일한 답을 제공합니다.
  • 또 다른 이유는 Wald 검정이 두 가지 근사치(표준 오차 또는 피셔 정보와 최대우도 추정치를 알고 있음)를 사용하는 반면, 우도비 검정은 귀무 가설과 대립 가설에서 우도 함수의 비율에만 의존하기 때문입니다.
  • Wald 검정을 수행하려면 "완전" 모형에 해당하는 최대화 인수를 사용하여 추정해야 합니다.경우에 따라서는 귀무 가설 하에서 모델이 더 단순하기 때문에 점수 검정(라그랑주 승수 검정이라고도 함)을 사용하는 것을 선호할 수 있으며, 최대화 원소의 변동성을 추정하거나 최대 가능성에 따라 추정치를 계산하기 어려운 상황에서 공식화할 수 있다는 장점이 있다.추정기는 어렵다.를 들어 Cochran-Mantel-Haenzel 테스트는 점수 [22]테스트이다.

「 」를 참조해 주세요.

레퍼런스

  1. ^ Fahrmeir, Ludwig; Kneib, Thomas; Lang, Stefan; Marx, Brian (2013). Regression : Models, Methods and Applications. Berlin: Springer. p. 663. ISBN 978-3-642-34332-2.
  2. ^ Ward, Michael D.; Ahlquist, John S. (2018). Maximum Likelihood for Social Science : Strategies for Analysis. Cambridge University Press. p. 36. ISBN 978-1-316-63682-4.
  3. ^ Martin, Vance; Hurn, Stan; Harris, David (2013). Econometric Modelling with Time Series: Specification, Estimation and Testing. Cambridge University Press. p. 138. ISBN 978-0-521-13981-6.
  4. ^ Davidson, Russell; MacKinnon, James G. (1993). "The Method of Maximum Likelihood : Fundamental Concepts and Notation". Estimation and Inference in Econometrics. New York: Oxford University Press. p. 89. ISBN 0-19-506011-3.
  5. ^ a b c Gregory, Allan W.; Veall, Michael R. (1985). "Formulating Wald Tests of Nonlinear Restrictions". Econometrica. 53 (6): 1465–1468. doi:10.2307/1913221. JSTOR 1913221.
  6. ^ Phillips, P. C. B.; Park, Joon Y. (1988). "On the Formulation of Wald Tests of Nonlinear Restrictions" (PDF). Econometrica. 56 (5): 1065–1083. doi:10.2307/1911359. JSTOR 1911359.
  7. ^ Hayashi, Fumio (2000). Econometrics. Princeton: Princeton University Press. pp. 489–491. ISBN 1-4008-2383-8.,
  8. ^ Lafontaine, Francine; White, Kenneth J. (1986). "Obtaining Any Wald Statistic You Want". Economics Letters. 21 (1): 35–40. doi:10.1016/0165-1765(86)90117-5.
  9. ^ Hauck, Walter W., Jr.; Donner, Allan (1977). "Wald's Test as Applied to Hypotheses in Logit Analysis". Journal of the American Statistical Association. 72 (360a): 851–853. doi:10.1080/01621459.1977.10479969.
  10. ^ King, Maxwell L.; Goh, Kim-Leng (2002). "Improvements to the Wald Test". Handbook of Applied Econometrics and Statistical Inference. New York: Marcel Dekker. pp. 251–276. ISBN 0-8247-0652-8.
  11. ^ Yee, Thomas William (2020). "On the Hauck–Donner Effect in Wald Tests: Detection, Tipping Points, and Parameter Space Characterization". arXiv:2001.08431.
  12. ^ Cameron, A. Colin; Trivedi, Pravin K. (2005). Microeconometrics : Methods and Applications. New York: Cambridge University Press. p. 137. ISBN 0-521-84805-9.
  13. ^ Davidson, Russell; MacKinnon, James G. (1993). "The Method of Maximum Likelihood : Fundamental Concepts and Notation". Estimation and Inference in Econometrics. New York: Oxford University Press. p. 89. ISBN 0-19-506011-3.
  14. ^ Martin, Vance; Hurn, Stan; Harris, David (2013). Econometric Modelling with Time Series : Specification, Estimation and Testing. New York: Cambridge University Press. p. 129. ISBN 978-0-521-13981-6.
  15. ^ Harrell, Frank E., Jr. (2001). "Section 9.3.1". Regression modeling strategies. New York: Springer-Verlag. ISBN 0387952322.
  16. ^ Fears, Thomas R.; Benichou, Jacques; Gail, Mitchell H. (1996). "A reminder of the fallibility of the Wald statistic". The American Statistician. 50 (3): 226–227. doi:10.1080/00031305.1996.10474384.
  17. ^ Critchley, Frank; Marriott, Paul; Salmon, Mark (1996). "On the Differential Geometry of the Wald Test with Nonlinear Restrictions". Econometrica. 64 (5): 1213–1222. doi:10.2307/2171963. hdl:1814/524. JSTOR 2171963.
  18. ^ Engle, Robert F. (1983). "Wald, Likelihood Ratio, and Lagrange Multiplier Tests in Econometrics". In Intriligator, M. D.; Griliches, Z. (eds.). Handbook of Econometrics. Vol. II. Elsevier. pp. 796–801. ISBN 978-0-444-86185-6.
  19. ^ Harrell, Frank E., Jr. (2001). "Section 9.3.3". Regression modeling strategies. New York: Springer-Verlag. ISBN 0387952322.
  20. ^ Collett, David (1994). Modelling Survival Data in Medical Research. London: Chapman & Hall. ISBN 0412448807.
  21. ^ Pawitan, Yudi (2001). In All Likelihood. New York: Oxford University Press. ISBN 0198507658.
  22. ^ Agresti, Alan (2002). Categorical Data Analysis (2nd ed.). Wiley. p. 232. ISBN 0471360937.

추가 정보

외부 링크