스코어링 알고리즘

채점 알고리즘은 피셔의 채점이라고도 하며,^[1] 로널드 피셔의 이름을 따서 수치로 최대우도 방정식을 풀기 위해 통계에 사용되는 뉴턴의 방법의 한 형태다.

파생의 스케치

Let ${\displaystyle Y_{1},\ldots ,Y_{n}}$ be random variables, independent and identically distributed with twice differentiable p.d.f. ${\displaystyle f(y;\theta )}$, and we wish to calculate the maximum likelihood estimator (M.L.E.) ${\displaystyle \theta ^{*}}$ of ${\displaystyle$$\theta$$}.$ 먼저 알고리즘 $\theta {\displaystyle {}_{}}$ ${\$ $_{0}$의 시작점이 있다고 가정하고 점수 함수인 $V{\displaystyle }$ ($){\$$displaystyle$ $V(\$$theta$ $)}$의 테일러 확장을 ${\displaystyle {고려해보자\mathrm{}}_{}}.$

${\displaystyle V(\theta )\관련 V(\theta _{0}-{0})(\theta _{0})(\theta -\theta _{0})\,}$

어디에

${\displaystyle {\mathcal{J}(\theta _{0})=-\sum _{i=1}^{n}\왼쪽.\nabla \nabla ^{\top }\오른쪽 _{\theta =\0}\log f(Y_{i};\theta )}$

$\theta {\displaystyle {}_{}}$ ${\$에서 관찰된 정보 매트릭스. 이제 $V{\displaystyle (}$ )${\displaystyle {}^{}0}$ ) = 0 {\$displaystyle$ V$(\the ^{*}=0})$를 사용하여$$$\theta {\displaystyle }$= ${\displaystyle {}^{}}$ = ${\displaystyle {}^{}}$ =$\$ =\displaystytylease$:$

${\displaystyle \theta \cHB}{*}\cHB 관련 \theta _{0}+{\mathcal{J}^{-1}(\theta _{0}V)(\theta _{0}).\,}$

따라서 우리는 알고리즘을 사용한다.

${\displaystyle \theta _{m+1}=\theta _{m}+{\mathcal{J}^{-1}(\theta _{m}),\,}$

그리고 특정한 규칙성 조건에서는 ${\displaystyle {\theta m}_{}}$→ ${\displaystyle {}^{}}$ ${\displaystyle {\ast }^{}}$ $∗{\$ 화살표 $\the ^{*}}}}}}$라고 나타낼 수 있다$.$

피셔 득점

In practice, ${\displaystyle {\mathcal {J}}(\theta )}$ is usually replaced by ${\displaystyle {\mathcal {I}}(\theta )=\mathrm {E} [{\mathcal {J}}(\theta )]}$, the Fisher information, thus giving us the Fisher Scoring Algorithm:

${\displaystyle {\theta m}_{}}$+ ${\displaystyle 1_{}}$= ${\displaystyle {\theta m}_{}}$+ I${\displaystyle {}^{}}$- ${\displaystyle 1^{}}$ (${\displaystyle {}^{}{}_{}{}_{}}$) V ( (${\displaystyle m_{}}$ ${\displaystyle {}_{}}$ ${\displaystyle V}$ $(\displaystyle \theta _{m+1}=\theta _{m}+{\mathcal{I}^{-1}(\teta _{m})V(\ta _{m}}}}).$

참고 항목

• 점수(통계)
• 점수 테스트
• 피셔 정보

참조

추가 읽기

• Jennrich, R. I. & Sampson, P. F. (1976). "Newton-Raphson and Related Algorithms for Maximum Likelihood Variance Component Estimation". Technometrics. 18 (1): 11–17. doi:10.1080/00401706.1976.10489395.