한계우도

통계에서 한계우도함수 또는 통합우도는 일부 모수 변수가 한계화된 우도함수다. 베이지안 통계학의 맥락에서, 그것을 증거 또는 모델 증거라고도 할 수 있다.

개념

Given a set of independent identically distributed data points ${\displaystyle \mathbf {X} =(x_{1},\ldots ,x_{n}),}$ where ${\displaystyle x_{i}\sim p(x_{i} \theta )}$ according to some probability distribution parameterized by ${\displaystyle \theta }$, where ${\displaystyle \theta }$${\displaystyle \theta }$ itself is a random variable described by a distribution, i.e. ${\displaystyle \theta \sim p(\theta \mid \alpha ),}$ the marginal likelihood in general asks what the probability ${\displaystyle p(\mathbf {X} \mid \alpha )}$ is, where ${\displaystyle \theta }$ has been mArginalized out(통합 out):

${\displaystyle p(\mathbf {X} \mid \alpha )=\int_{\theta }p(\mathbf {X}\mid \theta \alpha )\,p(\theta \mid \alpha )\operatorname {d}!\ta }$

위의 정의는 베이지안 통계학의 맥락에서 표현된다. 고전적(주파수) 통계에서 한계우도의 개념은 대신 공동 매개 변수 $\theta {\displaystyle }$= (${\displaystyle \psi }$ ,${\displaystyle \lambda }$) ${\displaystyle \theta =(\psi ,\lambda )}$의 맥락에서 발생한다$.$ 여기서 $where{\displaystyle }$ ${\displaystyle \psi}$은 관심의 실제 매개 변수, $\lambda {\displaystyle }$ ${\displaysty \lamba$ \lamba $}$은 관심 없는 성가 된다. $\lambda {\displaystyle }$ ${\displaystyle \lambda$ $\}$에 대한 확률 분포가 있는 경우, $\lambda {\displaystyle }$ ${\displaystyle \psi$ $\}$의 관점에서만 우도함수를 고려하는 것이 바람직할 경우가 많다. $:$ ${\displaystyle \lambda }::$

${\displaystyle {\mathcal {L}}(\psi ;\mathbf {X} )=p(\mathbf {X} \mid \psi )=\int _{\lambda }p(\mathbf {X} \mid \lambda ,\psi )\,p(\lambda \mid \psi )\ \operatorname {d} \!\lambda }$

불행히도, 한계 가능성은 일반적으로 계산하기 어렵다. 정확한 해법은 소량의 분포에 대해 알려져 있으며, 특히 한계화된 모수가 데이터 분포 이전의 결합인 경우 더욱 그러하다. 다른 경우에는 가우스 통합이나 몬테카를로 방법과 같은 일반적인 방법이나 라플라스 근사치, Gibbs/Metropolis 샘플링 또는 EM 알고리즘과 같은 통계적 문제에 특화된 방법 중 하나로 일종의 수치적 통합 방법이 필요하다.

또한 위의 고려사항을 관측치 집합이 아닌 단일 랜덤 변수(데이터 포인트$)$ x {\$displaystyle x}$에 적용할 수도 있다$.$ 베이지안 맥락에서 이것은 데이터 포인트의 사전 예측 분포와 동일하다.

적용들

베이시안 모델 비교

베이지안 모델 비교에서 한계변수는 특정 유형의 모형에 대한 모수이며, 나머지 변수는 모형의 정체성이다. 이 경우 한계우도는 특정 모형 모수를 가정하지 않고 모형 유형이 주어진 데이터의 확률이다. 모델 매개 변수에 $대해$ ▼ ${\displaystyle \theta}$을(를) 쓰는 중, 모델 M에 대한 한계 가능성은 다음과 같다.

${\displaystyle p(\mathbf {X}\mid M)=\int p(\mathbf {X}\mid \theta ,M)\,p(\theta \mid M)\,\operatorname {d} \!\teta }$

모델 증거라는 용어가 일반적으로 사용되는 것은 이러한 맥락에서이다. 다른 모델 M에₂ 대한 모델 M의₁ 후발 오즈비에는 한계우도비, 이른바 베이즈 인자(Bayes factor)가 포함되기 때문에 이 양은 중요하다.

${\displaystyle {\frac {p(M_{1}\mid \mathbf {X} )}{p(M_{2}\mid \mathbf {X} )}}={\frac {p(M_{1})}{p(M_{2})}}\,{\frac {p(\mathbf {X} \mid M_{1})}{p(\mathbf {X} \mid M_{2})}}}$

라고 개략적으로 말할 수 있는.

후방 오즈 = 선행 오즈 × 베이지 인자

참고 항목

• 경험적 베이즈 방법
• 린들리의 역설
• 한계 확률
• 베이시안 정보 기준

이 글에는 참고문헌, 관련 독서 또는 외부 링크 목록이 수록되어 있으나 인라인 인용구가 부족하여 출처가 불분명하다. 좀 더 정밀한 인용구를 도입하여 이 기사를 개선할 수 있도록 도와주십시오. (2010년 7월) (이 템플릿 메시지를 제거하는 방법과 시기 알아보기)

참조

• 찰스 S. 보스 "소외우도 계산 방법의 비교" W. Hardle과 B에서. Ronz, 편집자, COMPSTAT 2002: Procedures in Computing Statistics, 페이지 111–117. (웹에서 사전 인쇄로 사용 가능: [1])
• 온라인 교과서: David J.C.에 의한 정보 이론, 추론 및 학습 알고리즘. 맥케이.