베른트-할-할-하우스만 알고리즘

Berndt-Hall-Hall-Hausman(BHHH) 알고리즘은 뉴턴-Raphson 알고리즘과 유사한 수치 최적화 알고리즘이지만 관측된 음의 헤시안 매트릭스를 그라데이션의 외부 산물로 대체한다.이 근사치는 정보 매트릭스 동등성에 기초하므로 우도 함수를 최대화하는 동안에만 유효하다.^[1]BHHH 알고리즘은 네 개의 기원자: Ernst R의 이름을 따서 명명되었다. 베른트, 브론윈 홀, 로버트 홀, 그리고 제리 하우스만.^[2]

사용법

비선형 모델이 데이터에 적합할 경우 최적화를 통해 계수를 추정해야 하는 경우가 많다.다수의 최적화 알고리즘은 다음과 같은 일반적인 구조를 가지고 있다.최적화할 함수가 Q(β)라고 가정한다.그런 다음 알고리즘은 반복적이며, 근사치의 순서를 정의하며, β는_k 다음과 같다.

${\displaystyle \beta \{k+1}=\beta _{k}-\lambda _{k}$$A_{k}{\frac {\partial Q}{\partial \beta$ $\}\}\}\}\},,$

여기서 $\beta {\displaystyle {}_{}}$ ${\displaystyle k_{}}$ ${\$는 k단계에서 모수 추정치이고$$, $\beta {\displaystyle {}_{}}$ ${\displaystyle k_{}}$ ${\$은 특정 알고리즘을 부분적으로 결정하는 모수(단계 크기라고 함)이다$$.BHHH 알고리즘의 경우 λ은_k 특정 기준을 만족하는 점이 발견될 때까지 선 검색을 포함하는 주어진_k+1 반복 단계 내의 계산에 의해 결정된다.덧붙여 BHHH 알고리즘의 경우 Q는 그 형태를 가지고 있다.

${\displaystyle Q=\sum _{i=1}^{{N}Q_{i}}}}$

A는 다음과 같이 계산된다.

${\displaystyle A_{k}=\left[\sum _{i=1}^{N}{\frac {\partial \ln Q_{i}}{\partial \beta }}(\beta _{k}){\frac {\partial \ln Q_{i}}{\partial \beta }}(\beta _{k})'\right]^{-1}.}$

다른 경우, 예를 들어 뉴턴-랩슨, ${\displaystyle A_{}}$ k ${\$는 다른 형태를 가질 수 있다$$.BHHH 알고리즘은 특정 조건이 적용될 경우 반복 절차의 정합성이 보장된다는 장점이 있다.^{[citation needed]}

참고 항목

• 다비던-플레처-파월(DFP) 알고리즘
• 브로이든-플레처-골드파브-샨노(BFGS) 알고리즘

참조

추가 읽기

• V. 마틴, S. Hurn, D.해리스, 시계열을 이용한 계량계 모델링, 제3장 '수리적 추정 방법'케임브리지 대학 출판부, 2015.
• Amemiya, Takeshi (1985). Advanced Econometrics. Cambridge: Harvard University Press. pp. 137–138. ISBN 0-674-00560-0.
• Gill, P.; Murray, W.; Wright, M. (1981). Practical Optimization. London: Harcourt Brace.
• Gourieroux, Christian; Monfort, Alain (1995). "Gradient Methods and ML Estimation". Statistics and Econometric Models. New York: Cambridge University Press. pp. 452–458. ISBN 0-521-40551-3.
• Harvey, A. C. (1990). The Econometric Analysis of Time Series (Second ed.). Cambridge: MIT Press. pp. 137–138. ISBN 0-262-08189-X.