최소 거리 추정

최소 거리 추정(MDE)은 통계적 모형을 데이터에 적합시키기 위한 개념적 방법이며, 일반적으로 경험적 분포다.일반 최소 제곱과 같이 자주 사용되는 추정기는 최소 거리 추정의 특별한 경우로 생각할 수 있다.

일관되고 점증적으로 정상이지만, 최소 거리 추정기는 일반적으로 우도함수에 존재하는 자코비안을 생략하기 때문에 최대우도 추정기와 비교할 때 통계적으로 효율적이지 않다.그러나 이것은 최적화 문제의 계산 복잡성을 상당히 감소시킨다.

정의

Let ${\displaystyle \displaystyle X_{1},\ldots ,X_{n}}$ be an independent and identically distributed (iid) random sample from a population with distribution ${\displaystyle F(x;\theta )\colon \theta \in \Theta }$ and ${\displaystyle \Theta \subseteq \mathbb {R} ^{$$k}(k\geq$ 1$)}$.

$F{\displaystyle {\displaystyle {}_{}}}$ ${\displaystyle {\displaystyle n_{}}}$( ${\displaystyle {\displaystyle x}}$) ${\$을(를) 샘플에 기초한 경험적 분포 함수가 되도록 한다$$.

Let ${\displaystyle {\hat {\theta }}}$ be an estimator for ${\displaystyle \displaystyle \theta }$. Then ${\displaystyle F(x;{\hat {\theta }})}$ is an estimator for ${\displaystyle \displaystyle F(x;\theta )}$.

$d{\displaystyle }$ [${\displaystyle \cdot }$ ,${\displaystyle ]}$ ${\displaystyle ]}$ ${\displaystyle$ d$[\cdot ,\cdot ]}$을(를) 두 주장 사이의 "거리"의 일부 측도를 반환하는 기능이 되도록$$ 하자.기능 $d{\displaystyle {\displaystyle }}$ ${\$ d$}$을(를) 기준 함수라고도 한다$$.

If there exists a ${\displaystyle {\hat {\theta }}\in \Theta }$ such that ${\displaystyle d[F(x;{\hat {\theta }}),$$F_{n}(x)=\inf\{d[F(x;\theta ),F_{n}(x)]$$;\theta$ $\$$in \$$theta$ $\backslash \}\},$ 그 다음 $\theta {\displaystyle {\displaystyle }}$${\displaystyle \stackrel{}{^}}$ ${\$ ${\\theta}}$의 최소 거리 추정치라고 한다$.$

(Drossos & Philipou 1980, 페이지 121)

추정에 사용된 통계량

최소 거리 추정에 대한 대부분의 이론적 연구와 대부분의 적용은 이미 확립된 적합성 시험의 기초가 되는 "거리" 측정치를 사용한다: 이러한 시험 중 하나에 사용된 시험 통계는 최소화할 거리 측정으로 사용된다.다음은 최소 거리 추정에 사용된 통계적 시험의 몇 가지 예들이다.

카이-제곱 기준

카이-제곱 검정은 사전 정의된 그룹에 대한 경험적 분포의 증가와 추정된 분포의 증가 사이의 제곱 차이 합을 그 그룹에 대한 추정치의 증가에 의해 가중되는 기준으로 사용한다.

크래머-본 미세스 기준

Cramér-von Mises 기준은 경험적 분포 함수와 추정된 분포 함수 사이의 제곱 차이(Parr & Schucany 1980, 페이지 616)의 적분을 사용한다.

콜모고로프-스미르노프 기준

Kolmogorov-Smirnov 검정에서는 경험적 분포 함수와 추정된 분포 함수의 절대 차이에 대한 우월성을 사용한다(Parr & Schucany 1980, 페이지 616).

앤더슨-달링 기준

앤더슨-달링 테스트는 가중치가 경험적 분포 함수의 분산과 관련된 경우(Parr & Schucany 1980, 페이지 616)의 가중치 차이의 정수라는 점을 제외하고 Cramér-von Mises 기준과 유사하다.

이론적 결과

최소 거리 추정 이론은 해당 적합도 검정의 통계적 선량함의 점증적 분포에 대한 이론과 관련이 있다.종종 Cramér-von Mises 기준, Kolmogorov-Smirnov 테스트 및 Anderson-Darling 테스트의 경우는 거리 측정의 보다 일반적인 공식화의 특별한 사례로 취급함으로써 동시에 처리된다.사용할 수 있는 이론적 결과의 예는 모수 추정치의 일관성, 모수 추정치의 점근 공분산 행렬이다.

참고 항목

• 최대우도 추정
• 최대 간격 추정

참조