스타인의 예증

이 글은 검증을 위해 인용구가 추가로 필요하다. 신뢰할 수 있는 출처에 인용문을 추가하여 이 기사를 개선할 수 있도록 도와주십시오. 공급되지 않은 재료는 도전하여 제거할 수 있다. 출처 찾기: "스타인의 예시 증명" – 뉴스 · 신문 · 책 · 학자 · JSTOR (2006년 12월) (이 템플릿 메시지를 제거하는 방법과 시기 학습)

스타인의 예는 다음과 같이 말할 수 있는 의사결정 이론의 중요한 결과물이다.

다변량 가우스 분포의 평균 추정에 대한 일반적인 결정 규칙은 최소 3차원에서의 평균 제곱 오차 위험에서는 허용되지 않는다.

다음은 그 증거의 개요다.^[1]독자는 더 많은 정보를 얻기 위해 주요 기사를 참조한다.

스케치된 교정쇄

의사결정 규칙 $d{\displaystyle (}$ ${\displaystyle x\mathbf{}}$)${\displaystyle }$= ${\displaystyle x\mathbf{}}$ ${\$의 위험 함수는 다음과$$ 같다$.$

${\displaystyle R(\theta ,d)=\operatorname {E} _{\theta }[ \mathbf {\theta -X} ^{2}]}$

${\displaystyle =\int (\mathbf {\theta -x} )^{T}(\mathbf {\theta -x} )\left({\frac {1}{2\pi }}\right)^{n/2}e^{(-1/2)(\mathbf {\theta -x} )^{T}(\mathbf {\theta -x} )}m(dx)}$

${\displaystyle =n.}$

이제 결정 규칙을 고려하십시오.

${\displaystyle d'(\mathbf {x} )=\mathbf {x} -{\frac {\mathbf {x}{\mathbf {x}{{2}}}\mathbf {x}}}}}}}}}}}$

여기서 $\alpha {\displaystyle }$= ${\displaystyle n}$- ${\displaystyle 2}$ ${\displaystyle \alpha =n-2$ $d{\displaystyle {}^{}}$ ${\displaystyle {\prime }^{}}$ ${\$이(가) $d{\displaystyle }$ ${\displaystyle d}$보다 더 나은 결정 규칙임을$$ 보여줄 것이다$.$위험 함수는

${\displaystyle R(\theta ,d')=\operatorname {E} _{\theta }\왼쪽[\왼쪽] \mathbf {\theta -X} +{\frac {\alpha }{\mathbf {X}{2}}}\x}\오른쪽 ^{2}\}}}}$

${\displaystyle =\operatorname {E} _{\theta }\left[ \mathbf {\theta -X} ^{2}+2(\mathbf {\theta -X} )^{T}{\frac {\alpha }{ \mathbf {X} ^{2}}}\mathbf {X} +{\frac {\alpha ^{2}}{ \mathbf {X} ^{4}}} \mathbf {X} ^{2}\right]}$

${\displaystyle =\theta }\left[ \mathbf {\theta -X} \mathbf[{2}\right]+2\alpha \operatorname {E} _{\theta }\frac {\mathbf {(\ta -X)^{T}X}{ \mathbf {X} ^{2}}\오른쪽]+\alpha ^{2}\operatorname {E} _{\theta }\왼쪽[{\frac {1}{\mathbf {X}{2}}}\오른쪽]}}}}}}$

$\alpha {\displaystyle }$ ${\displaystyle \alpha$}의 2차$.$ 우리는 일반적인 "well-beh"( ${\displaystyle x\mathbf{}}$ ) ${\displaystyle 함수\mathbb{}}$ $h{\displaystyle }$ :${\displaystyle x\mathbf{}(}$ ${\displaystyle h}$( )${\displaystyle }$∈ R$${\$displaysty$ h$:\mathbf {x} \in \mapsto h(\mathbf {x})$를 고려하고 부품별 통합을 사용하여 중기를 단순화할 수 있다.$1{\displaystyle {}_{}}$ ${\displaystyle \le }$ ${\displaystyle i}$$n$ {\$displaystyle 1\leq$ i$\leq n$ 큰 x ${\displaystyle i_{}}$ ${\$displaystyle h$}$에 $대해$충분히$느리게$ 성장하는 모든 연속적인$$$$ h ${\$ h}에 대해 다음을 $수행$하십시오.

${\displaystyle \operatorname {E} _{\theta }[(\theta _{i}-X_{i})h(\mathbf {X} ) X_{j}=x_{j}(j\neq i)]=\int (\theta _{i}-x_{i})h(\mathbf {x} )\left({\frac {1}{2\pi }}\right)^{n/2}e^{-(1/2)\mathbf {(x-\theta )} ^{T}\mathbf {(x-\theta )} }m(dx_{i})}$

${\displaystyle =\left[h(\mathbf {x} )\left({\frac {1}{2\pi }}\right)^{n/2}e^{-(1/2)\mathbf {(x-\theta )} ^{T}\mathbf {(x-\theta )} }\right]_{x_{i}=-\infty }^{\infty }-\int {\frac {\partial h}{\partial x_{i}}}(\mathbf {x} )\left({\frac {1}{2\pi }}\right)^{n/2}e^{-(1/2)\mathbf {(x-\theta )} ^{T}\mathbf {(x-\theta )} }m(dx_{i})}$

${\displaystyle =-\operatorname {E} _{\theta}\왼쪽[{\frac {\partial h}{\i}}}(\mathbf {X} ) X_{j}=x_{j}(j\neq i)\right].}$

그러므로

${\displaystyle \operatorname {E} _{\theta _{i}][(\theta _{i}-{i})]=-\operatorname {E} _{\theta }\}\{\partial h}{\partial x_{i}}}}}(\mathb {X}오른쪽).}$

(이 결과는 스타인의 보조정리라고 알려져 있다.)

이제 우리는 선택한다.

${\displaystyle h(\mathbf {x} )={\frac {x_{i}}{\mathbf {x} ^2}}.}$

$h{\displaystyle }$ ${\displaystyle h}$이(가) "잘 처신된" 조건(그렇지 않지만 이는 교정할 수 있음—아래 참조)을$$ 충족하면 다음과 같은 결과를 얻을 수 있을 것이다.

${\displaystyle {\frac {\fract h}{\reason x_{i}}}={\frac {1}{1}{\mathbf {x}^{2}}-{\frac {2x_{i}^{2}}{\mathbf{x}{4}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}}$

등등

${\displaystyle \operatorname {E} _{\theta }\왼쪽[{\frac {\mathbf {(\theta -X)^{T}X} }{ \mathbf {X} ^{2}}}\right]=\sum _{i=1}^{n}\operatorname {E} _{\theta }\left[(\theta _{i}-X_{i}){\frac {X_{i}}{ \mathbf {X} ^{2}}}\right]}$

${\displaystyle =-\sum _{i=1}^{n}\operatorname {E} _{\theta }\왼쪽[{\frac {1}{{2}}-{{2}}-{\frac {2X_{i}^{2}}:{\mathbf{4}}}}}\오른쪽]}$

${\displaystyle =-(n-2)\operatorname {E} _{\theta }\왼쪽[{\frac {1}{\mathbf {X} ^{2}}}\오른쪽].}$

$그런{\displaystyle {}^{}}$ 다음 d ${\displaystyle {\prime }^{}}$ ${\$의 위험 함수로 돌아가십시오$.$

${\displaystyle R(\theta ,d')=n-2\alpha (n-2)\operatorname {E} _{\theta }\left[{\frac {1}{ \mathbf {X} ^{2}}}\right]+\alpha ^{2}\operatorname {E} _{\theta }\left[{\frac {1}{ \mathbf {X} ^{2}}}\right].}$

$\alpha {\displaystyle }$ ${\displaystyle \alpha }$의 이차치는 다음에서 최소화된다$$.

${\displaystyle \filename =n-2,}$

부여

${\desplaystyle R(\theta ,d')=R(\theta ,d)-(n-2)^{2}\operatorname {E} _{\theta }\왼쪽[{\frac {1}{\mathbf{X}{2}}}\오른쪽]}}}}}}}$

물론 어느 것이 만족스러운 것

$R(\theta,d')<R(\theta,d')}$

$d{\displaystyle }$ ${\displaystyle d}$을(를) 허용할$$ 수 없는 결정 규칙으로 만드는 것.

의 사용을 정당화할 수 있는 것은 남아 있다.

${\displaystyle h(\mathbf {X} )={\frac {\mathbf {X}{\mathbf {X}{{2}}.}$

이 함수는 ${\displaystyle \mathrm{x}}$= 0 ${\displaystyle \mathbf {x} =0}$에서 단수이기 때문에 계속 다를 수 없지만$,$ 함수는

${\displaystyle h(\mathbf {X} )={\frac {\mathbf {X}{\\barepsilon + \mathbf {X} ^2}}:$

계속 다를 수 있으며, 대수학을 따라가서 ${\displaystyle \mathrm{\epsilon }}$→ 0 ${\displaystyle \varepsilon \to 0}$을(를) 통과시킨 후에 동일한 결과를 얻는다$.$

참조