랜덤 변수의 수렴

확률론에서는 랜덤 변수의 수렴에 대한 몇 가지 다른 개념들이 존재한다. 무작위 변수의 순서가 일부 한계 랜덤 변수에 수렴되는 것은 확률 이론에서 중요한 개념이며, 통계와 확률적 프로세스에 그 적용이 된다. 같은 개념은 확률적 융합이라고 더 일반적인 수학에서 알려져 있으며, 그들은 본질적으로 무작위적이거나 예측할 수 없는 일련의 사건들이 때로는 순서에 충분히 가까운 항목을 연구할 때 본질적으로 변하지 않는 행동으로 정착되기를 기대할 수 있다는 생각을 공식화한다. 수렴의 다른 가능한 개념은 그러한 행동을 특징 지을 수 있는 방법에 관련된다. 쉽게 이해되는 두 가지 행동은 순서가 결국 일정한 값을 취하며, 순서의 값은 계속 변화하지만 변하지 않는 확률 분포로 설명할 수 있다는 것이다.

배경

"스토크틱 컨버전스"는 본질적으로 무작위적이거나 예측할 수 없는 일련의 사건들이 때때로 패턴으로 정착될 것으로 기대할 수 있다는 생각을 공식화한다. 예를 들어 패턴은

• 고전적 의미에서의 고정값으로의 수렴, 아마도 그 자체가 무작위적인 사건에서 비롯되었을 것이다.
• 순수하게 결정론적 함수가 산출할 결과와 결과의 증가하는 유사성
• 특정 결과에 대한 선호도 증가
• 특정 결과로부터 멀리 떨어져 있는 것에 대한 증가하는 "혐오"
• 다음 결과를 설명하는 확률 분포가 특정 분포와 점점 비슷해질 수 있다는 것

덜 명백하고 더 이론적인 패턴은

• 특정 값에서 결과 거리의 기대값을 계산하여 형성된 연속물이 0으로 수렴할 수 있다는 것
• 다음 사건을 설명하는 변수의 분산이 점점 더 작아지는 것.

발생할 수 있는 이러한 다른 유형의 패턴은 연구된 확률적 수렴의 다른 유형에 반영된다.

상기 논의는 단일 시리즈를 한계값으로 융합하는 것과 관련이 있지만, 서로에 대한 두 시리즈의 융합 개념도 중요하지만, 두 시리즈의 차이 또는 비율로 정의된 순서를 연구하면 쉽게 처리할 수 있다.

예를 들어, n개의 독립 랜덤 변수 Y_i, i = 1, ..., n의 평균이 모두 동일한 유한 평균과 분산을 갖는 경우,

${\displaystyle X_{n}={\frac {1}{n}}\sum _{i=1}^{n}Y_{i}\...}$

그런 다음 n이 무한대로 되므로 X는_n 확률로 수렴(아래 참조)하여 랜덤 변수 Y의_i 공통 평균인 μ로 수렴한다. 이 결과는 대수의 약한 법칙으로 알려져 있다. 다른 형태의 수렴은 중심 한계 정리를 포함한 다른 유용한 이론에서 중요하다.

다음에 걸쳐서 우리는 (X_n)가 랜덤 변수의 시퀀스라고 가정하고, X는 랜덤 변수라고 가정하며, 그 모든 것이 동일한 확률 공간$({\displaystyle \mathrm{\Omega },}$ ${\displaystyle F}$, $){\displaystyle$(\$Oomega ,{\mathcal {F},\operatorname {Pr})}$에 정의된다$.$

분포의 수렴

분포의 수렴 예제

주사위 공장
새로운 주사위 공장이 막 지어졌다고 가정해보자. 처음 몇 개의 주사위는 제작 과정의 불완전성 때문에 상당히 편향적으로 나온다. 이들 중 어느 하나를 던졌을 때의 결과는 원하는 균일 분포와 현저하게 다른 분포를 따를 것이다. 공장이 개선되면 주사위는 점점 적어지고, 새로 생산되는 주사위를 던짐으로 인한 결과는 점점 더 균일한 분포를 따를 것이다.
동전 던지기
X는n 편향되지 않은 동전을 N번 토해낸 후 머리가 되게 하라. 그 다음 X는1 기대값 μ = 0.5, 분산 μ2 = 0.25의 베르누이 분포를 가진다. 이후의 임의 변수 X2, X3, ...는 모두 이항 분포한다. n이 커짐에 따라 이 분포는 점차적으로 정규 분포의 종곡선과 비슷한 형태를 띠기 시작할 것이다. X를n 적절히 이동 및 재조정하면 $Z{\displaystyle {}_{}}$ ${\displaystyle n_{}}$= n ${\displaystyle \frac{}{}}$ (${\displaystyle {}_{}}$ ${\displaystyle n_{}}$ -$){\$이(가) 지정된 중앙 한계 정리에서 따르는 표준 정규 분포로 수렴될 것이다$$.
그래픽 예
{Xi}이(가) 균일한 U(1, 1) 랜덤 변수의 iid 시퀀스라고 가정해 보십시오. $Z{\displaystyle {}_{}}$ ${\displaystyle n_{}}$= ${\displaystyle \underset{}{\overset{}{1n}}}$ ${\displaystyle \frac{}{}\underset{}{\overset{}{}}}$ i${\displaystyle \underset{}{\overset{}{}}}$= ${\displaystyle \underset{}{\overset{}{}}}$ X ${\displaystyle i_{}}$ ${\$을(정규화된) 합으로 한다$$. 그리고 그 중심 극한 정리에 따르면,이 아연의 분배가 정상적인 N(0,.mw-parser-output .sfrac{white-space:nowrap}.mw-parser-output.sfrac.tion,.mw-parser-output.sfrac .tion{디스플레이:inline-block, vertical-align:-0.5em, font-size:85%;text-align:센터}.mw-parser-output.sfrac .num,.mw-parser-output.sfrac .den{를 찾아갑니다.디스플레이:블록, line-height:1em, 마진:00.1em}.mw-parser-output.sfrac .den{border-top:1px 고체}.mw-parser-output .sr-only{국경:0;클립:rect(0,0,0,0), 높이:1px, 마진:-1px, 오버 플로: 숨어 있었다. 패딩:0;위치:절대, 너비:1px}1/3)분포를 보여 준다. 이 수렴은 그림에 나타나 있다: n이 커질수록 확률밀도함수의 모양이 가우스 곡선에 점점 가까워진다.

이러한 수렴 모드와 함께, 우리는 주어진 확률 분포에 의해 더 좋고 더 나은 모델링이 되는 일련의 무작위 실험에서 다음 결과를 볼 수 있을 것으로 점점 더 기대하고 있다.

분포의 수렴은 이 글에서 언급된 다른 모든 유형의 수렴에 의해 함축되기 때문에 일반적으로 논의되는 수렴의 가장 약한 형태다. 그러나 분포의 수렴은 실제로 매우 빈번하게 사용된다. 대부분의 경우 중심 한계 정리의 적용에서 발생한다.

정의

실제₂ 값 랜덤 변수의 시퀀스₁ X, X, ...는 분포에서 수렴하거나, 약하게 수렴하거나, 법칙에서 임의 변수 X로 수렴한다고 한다.

${\displaystyle \lim _{n\to \inflt }F_{n}(x)=F(x),}$

F가 연속적인 모든 숫자 $x{\displaystyle }$ ${\displaystyle \in }$ ${\displaystyle R\mathbb{}}$ ${\$에 대해$$. 여기서 F와_n F는 각각 랜덤 변수 X와_n X의 누적 분포함수다.

F의 연속성 지점만 고려해야 한다는 요건은 필수적이다. 예를 들어 X가_n 간격(0, 1/n)에 균일하게 분포된 경우 이 시퀀스는 분포에서 퇴보된 랜덤 변수 X = 0으로 수렴된다. 실제로, x ) 0일 때는 모든 n에 대해 F_n(x) = 0이고, n > 0일 때는 모든_n x ≥ 1/n에 대해 F(x) = 1이다. 단, 이 제한 랜덤 변수 F(0) = 1의 경우, 모든 n에 대해_n F(0) = 0이 된다. 따라서 f가 불연속적인 x = 0 지점에서 cdfs의 수렴이 실패한다.

분포의 수렴은 다음과 같이 나타낼 수 있다.

${\displaystyle {\begin{aligned}{}\\&X_{n}\ {\xrightarrow {d}}\ X,\ \ X_{n}\ {\xrightarrow {\mathcal {D}}}\ X,\ \ X_{n}\ {\xrightarrow {\mathcal {L}}}\ X,\ \ X_{n}\ {\xrightarrow {d}}\ {\mathcal {L}}_{X},\\&X_{n}\rightsquigarrow X,\ \ X_{n}\Rightarrow X,\ \ {\mathcal {L}}(X_{n})\to {\mathcal {L}}(X),\\\\\end{aligned}}}$

(1)

여기서 $L{\displaystyle {\mathcal{}}_{}}$ ${\displaystyle X_{}}$ ${\$는 X의 법칙(확률 분포)이다$$. 예를 들어 ${\displaystyle X_{}}$가 표준 정상이라면 $X{\displaystyle {}_{}}$ n${\displaystyle {}_{}\stackrel{}{}}$→ d ${\displaystyle N\stackrel{}{}\mathcal{}}$( 0 ,${\displaystyle 1\mathrm{}}$ )${\displaystyle X_{n}\,{\xrightarrow{d}\,{\mathcal{N}}}(0,\,1)}$라고 쓸 수 있다$.$

임의 벡터 {X₁₂, X, ...의 경우}} ⊂ R^k 분포의 수렴도 이와 유사하게 정의된다. 이 시퀀스는 다음과 같은 경우 무작위 k-벡터 X로 분포되어 수렴된다고 한다.

${\displaystyle \lim _{n\to \flt }\operatorname {Pr}(X_{n}\in A)=\operatorname {Pr}(X\in A)}$

X의 연속성 집합인 모든 A ⊂ R에^k 대하여.

분포의 수렴의 정의는 임의 벡터에서 임의의 메트릭 공간에서 더 일반적인 무작위 요소까지 확장될 수 있으며, 심지어 측정할 수 없는 "랜덤 변수"까지 확장될 수 있다. 예를 들어 경험적 프로세스의 연구에서 일어나는 상황이다. 이것은 "법이 정의되지 않은 취약한 법률의 융합"이다. 다만 무증상으로는 예외다.^[1]

이 경우 약한 수렴이라는 용어가 선호되며(측정의 약한 수렴을 참조), 우리는 다음과 같은 경우 무작위 요소 {X_n}의 순서가 X(X_n ⇒ X로 표시됨)로 약하게 수렴된다고 말한다.

${\displaystyle \operatorname {E} ^{*}h(X_{n})\to \operatorname {E} \,h(X)}$

모든 연속 경계 함수 h.^[2] 여기서 E*는 "h(X_n)를 지배하는 가장 작은 측정 가능한 함수 g"에 대한 기대치를 나타낸다.

특성.

• F(a) = Pr(X ≤ a)이기 때문에 분포의 수렴은 주어진 범위에 X가_n 있을 확률은 해당 범위에 있을 확률을 근사적으로 같음을 의미한다. 단, n은 충분히 크다.
• 일반적으로 분포의 수렴은 해당 확률밀도함수의 순서도 수렴한다는 것을 의미하지 않는다. 예를 들어, f_n(x) = (1 - cos(2nx))1_(0,1) 밀도의 랜덤 변수를 고려할 수 있다. 이러한 랜덤 변수는 분포에서 균일한 U(0, 1)로 수렴되는 반면, 밀도는 전혀 수렴되지 않는다.^[3]
  • 그러나 쉐페의 정리대로라면 확률밀도함수의 수렴은 분포의 수렴을 내포하고 있다.^[4]
• portmantau 보조정리기는 분배의 수렴에 대한 몇 가지 동등한 정의를 제공한다. 비록 이러한 정의들이 덜 직관적이긴 하지만, 그것들은 많은 통계적 이론들을 증명하기 위해 사용된다. 보조정리자는 다음과 같은 문장이 하나라도 참일_n 경우에만 {X}이(가) X로 분포되어 수렴된다고 명시한다.^[5]
  • ${\displaystyle }$${\displaystyle Pr}$${\displaystyle }$( ${\displaystyle {}_{}}$ ${\displaystyle n_{}}$ ${\displaystyle {}_{}}$ ${\displaystyle x}$)${\displaystyle }$→ ${\displaystyle Pr}$( ${\displaystyle X}$ ${\displaystyle \le }$ ${\displaystyle x}$) ${\displaystyle \Pr(X_{n}\leq x)\to \Pr$${\displaystyle (X\backslash \mathrm{leq}}$ x${\displaystyle )\backslash }$to $displaystylem x\Pr(X\leq x$의 모든 연속성 지점에 대해$$ \Pr(Pr)
  • ${\displaystyle }$$모든$ 경계 연속 함수 ${\displaystyle$$\operatorname {E}f(X_{n})\$to \$operatorname {E}f(X)$에 대해$$ $$$\$operatorname {E}($여기$서 E ${\displaysty \operatorname {E}}은($으) 예상 값 연산자를 나타냄);
  • ${\displaystyle \mathrm{E}}$ ${\displaystyle }$ ${\displaystyle f}$( ${\displaystyle {}_{}}$ ${\displaystyle n_{}}$)${\displaystyle }$→ ${\displaystyle \mathrm{E}}$ ${\displaystyle }$ ${\displaystyle f}$( ${\displaystyle X}$) ${\displaystyle \operatorname {E}f(X_{n}})\to \operatorname {E}f(X)$에 모든 경계선에 대해$$ Lipschitz $함수{\displaystyle }$ f ${\displaysty f}$;
  • ${\displaystyle lim}$ ${\displaystyle inf}$ ${\displaystyle \mathrm{E}}$ ${\displaystyle }$ ${\displaystyle f}$( ${\displaystyle X_{}}$ n${\displaystyle {}_{}}$) ${\displaystyle \ge }$ ${\displaystyle \mathrm{E}}$ ${\displaystyle }$ ${\displaystyle f}$( ${\displaystyle X}$) ${\displaystyle \inf \inf$ \inf \inf $\operatorname {E}f(X_{n})\geq \operatorname {E} f(X$$)\};$ 모든 음성이 아닌 연속 $함수$ f$${\$displaystystystysty f};$
  • ${\displaystyle im}$ ${\displaystyle inf}$ ${\displaystyle Pr}$(${\displaystyle \mathrm{Xn}}$ ${\displaystyle {}_{}}$ G${\displaystyle }$) ${\displaystyle \ge }$ ${\displaystyle Pr}$ ${\displaystyle (X}$ ${\displaystyle \in }$ ${\displaystyle G}$) $\displaystyle \inf \Pr(X_{n}\in$ G$)\geq \Pr(X\in$ G$)};$ 모든$$ $오픈{\displaystyle }$ 세트 G${\displaysty$ G$\};$
  • ${\displaystyle }$모든 닫힌 ${\displaystyle 집합}$ F ${\displaystyle F}$에 대해$$${\displaystyle im}$ Sup ${\displaystyle Pr}$( ${\displaystyle X}$ $n ∈$ ${\displaystyle F}$) $\backslash$$displaystyle$ \pr$($X_${n}\in$ F)\$leq \Pr(X\in$F);
  • ${\displaystyle Pr}$( ${\displaystyle {}_{}}$ ${\displaystyle n}$ ${\displaystyle {}_{}}$ B${\displaystyle }$)${\displaystyle }$→ ${\displaystyle Pr}$( ${\displaystyle X}$ ${\displaystyle \in }$ B${\displaystyle }$) ${\displaystyle \Pr(X_{n}\in B)\to \Pr(X\in B)}$ 랜덤 변수$$$$ X {\$displaystyle{\displaystyle }$ X}의$모든$연속성 집합 $B{\displaystyle }$ ${\$$displaystystyle B$$\};$
  • ${\displaystyle }$위에 ${\displaystyle 지정}$된 모든 ${\displaystyle 상위}$ 반연속 $함수{\displaystyle }$f {\$displaystyle \limsup$ \$operatorname$ {$E}f(X_{n})\leq \operatorname$ {$E}f(X$)}에$$ 대해$$$$^{[citation needed]}im Sup ${\displaystyle \mathrm{E}}$ ${\displaystyle }$ f${\displaystyle (X)}$$displaysty f};$
  • ${\displaystyle im\; inf}$ ${\displaystyle \mathrm{E}}$ ${\displaystyle }$ ${\displaystyle f}$( ${\displaystyle X_{}}$ n${\displaystyle {}_{}}$) ${\displaystyle \ge }$ ${\displaystyle E}$ ${\displaystyle }$ f${\displaystyle }$( ${\displaystyle X}$) ${\displaystyle \liminf \operatorname {E}f({n})\geq \operatorname {E}f($^{[citation needed]}X)}(아래에 바인딩된$$ 모든 하위 반연속 $함수{\displaystyle }$ f$$ ${\displaystystystylem f}).$
• 연속 매핑 정리는 연속함수 g의 경우, 시퀀스 {X_n}이(가) X로 분포에서 수렴되는 경우, {g_n(X)}이(가) g(X)로 분포에서 수렴한다고 명시한다.
  • 그러나 일반적으로 {X_n} 대 X, {Y_n} 대 Y의 분포에서 정합성이란 {X_n + Y} 대 X + Y_n 또는 {XY_nn} 대 XY의 분포에서 정합성을 의미하지는 않는다는 점에 유의하십시오.
• 레비의 연속성 정리: 해당하는 특성함수 {φ_n}의 순서가 X의 특성함수 φ에 포인트로 수렴되는 경우에만, 분포에서 {X_n} 순서가 X로 수렴된다.
• 분포의 수렴은 레비-프로코로프 미터법으로 측정할 수 있다.
• 분배의 수렴과 자연적인 연결고리는 스코로크호드의 표현 정리다.

확률의 수렴

확률의 수렴 예제

사람의 키
다음 실험을 생각해 보십시오. 첫째, 거리에서 무작위로 사람을 골라라. X를 그들의 키가 되게 하라. 그것은 임의의 변수다. 그리고 나서 다른 사람들에게 이 높이를 눈으로 추정해 달라고 부탁해. X를n 첫 번째 n개의 반응의 평균이 되게 하라. 그런 다음(계통 오차가 없는 경우) 대수의 법칙에 의해, 순서 X는n 랜덤 변수 X에 확률로 수렴된다.
난수생성예측
난수 생성기가 0과 1 사이의 유사 부동 소수점 번호를 생성한다고 가정합시다. 랜덤 변수 X가 알고리즘에 의한 가능한 출력 분포를 나타내도록 한다. 가성 번호는 결정적으로 생성되기 때문에 다음 값은 실제로 무작위가 아니다. 랜덤하게 생성된 숫자의 순서를 관찰하면서 패턴을 추론하고 다음 랜덤하게 생성된 숫자의 값을 점점 더 정확하게 예측할 수 있다고 가정합시다. 첫 번째 n개의 난수를 관찰한 후에 다음 난수의 값을 X가n 추측하도록 하자. 패턴을 배우고 추측이 정확해지면 X의n 분포가 X의 분포로 수렴될 뿐만 아니라 X의n 결과도 X의 결과로 수렴하게 된다.

이러한 유형의 수렴 뒤에 숨겨진 기본적인 생각은 "비정상적인" 결과의 확률은 순서가 진행됨에 따라 점점 더 작아진다는 것이다.

확률의 수렴 개념은 통계에서 매우 자주 사용된다. 예를 들어 추정기는 추정할 수량으로 확률로 수렴할 경우 일관성이 있다고 한다. 확률의 수렴은 또한 대수의 약한 법칙에 의해 확립된 수렴의 유형이다.

정의

모든 ε > 0에 대해 랜덤 변수 X를 향해 확률로 수렴되는 랜덤 변수의 순서 {X_n}

$\displaystyle \lim _{n\to \flt }\Pr {\big (}X_{n}-X >\varepsilon {\big )}=0.}$

보다_n 분명히 P(()를 X를 중심으로 반경 ε의 공 바깥에 X가_n 있을 확률로 한다. 그 다음 X는_n 어떤 ≥ > 0과 어떤_n Δ > 0에 대해 모든 n definition N, P(ε) < Δ(한계의 정의)에 대해 숫자 N(ε, Δ에 의존할 수 있음)이 존재한다면 X에 확률로 수렴한다고 한다.

여기서 주목하지 않는 한 X 큰 num이 약한 법을 위해 같은 결정론적입니다는 조건 충족 하기 위해 각각의 n는 확률 변수 X와 Xn 독립심(공동 누적 분포 함수의 연관성에 대해 확률 수렴인 상황으로 유통에서 convergence는 개인 누적 분포 함수의 이면에는 조건)은 불가능하다.bers. 동시에 결정론적 X의 경우는 결정론적 값이 불연속점(격리되지 않음)일 때마다 불연속점을 명시적으로 배제해야 하는 분포의 수렴으로 처리할 수 없다.

확률의 수렴은 수렴을 나타내는 화살표 위에 문자 p를 추가하거나 "플림" 확률 한계 연산자를 사용하여 나타낸다.

${\displaystyle X_{n}\\\xrightarrow {p}\x}\ X_{n}\\\\xrightarrow {P}\\X\\\\\nderset {n\to \fto \}{\operatorname}}}}}}}}}\,X_{n}=X}X.}$

(2)

분리 가능한 메트릭 공간(S, d)의 무작위 요소 {X_n}에 대해 확률의 수렴은 다음과^[6] 같이 정의된다.

${\displaystyle \for \varepsilon >0,\Pr {\big (}d(X_{n}X)\geq \varepsilon {\big )}\to 0.}$

특성.

• 확률의 수렴은 분포의 수렴을 의미한다.^[proof]
• 반대 방향에서 분포의 수렴은 한계 랜덤 변수 X가 상수일 때 확률의 수렴을 의미한다.^[proof]
• 확률의 수렴이 거의 확실한 수렴을 의미하지는 않는다.^[proof]
• 연속 매핑 정리는 모든 ${연속}_{}$ 함수 g(·)에 대해 $X{}_{}$ n${}_{}\stackrel{}{}$→ $\stackrel{}{}$ $\stackrel{}{X}$ ${\textstyle X_{n}\xrightarrow {p}$ X$\}$인 경우 $g$( $X_{}$n$\stackrel{}{}$) → $\stackrel{}{}$ g ( ${}_{}$ ) → p g ($X$) ${\textstyle g(X_{n})\xrigarrow {p}g(X$
• 확률의 수렴은 고정된 확률 공간에 대한 랜덤 변수의 공간에 대한 위상을 정의한다. 이 토폴로지는 Ky Fan 미터법으로 측정할 수 있다.^[7]
  $${\displaystyle d(X,Y)=\inf \!{\big \{}\varepsilon >0:\Pr {\big (}X-Y >\big)\leq \varepsilon {\\big\}}}$$

  
  또는 이 미터법으로 번갈아
  $$\displaystyle d(X,Y)=\mathb {E} \왼쪽[\min(X-Y ,1)\오른쪽].}$$

  

거의 확실한 수렴

거의 확실한 수렴의 예

예 1
어떤 짧은 종의 동물을 생각해 보라. 우리는 이 동물이 하루에 소비하는 음식의 양을 기록한다. 이 숫자의 순서는 예측할 수 없겠지만, 언젠가는 그 숫자가 0이 되고, 그 후에도 영원히 영(0)에 머무를 것이라고 우리는 꽤 확신할 수 있다.
예 2
매일 아침 일곱 개의 동전을 던지는 사람을 생각해 보라. 매일 오후, 그는 나타난 각각의 머리들을 위해 자선단체에 1파운드를 기부한다. 그러나 첫 번째 결과가 모두 꼬리가 될 때 그는 영구적으로 멈출 것이다. 자선이1 그에게서2 받은 일일 금액이 X, X가 되게 하라. 우리는 언젠가는 이 양이 영이 될 것이고, 그 후에도 영원히 영이 될 것이라고 거의 확신할 수 있을 것이다. 그러나, 우리가 유한한 일수를 고려할 때, 종료 조건이 발생하지 않을 확률은 0이 아니다.

이것은 기초 실측 분석에서 알려진 점근법 수렴과 가장 유사한 확률론적 수렴 유형이다.

정의

X_n 시퀀스가 거의 확실하거나 거의 모든 곳에서 또는 확률 1과 함께 X를 향해 강하게 수렴된다고 말하는 것은

${\displaystyle \operatorname {Pr} \!\왼쪽(\lim _{n\to \fty }\!X_{n}=X\right)=1.}$

이는 X가_n X에 수렴하지 않는 사건이 확률 0을 갖는다는 의미에서_n X의 값이 X의 값에 접근한다는 것을 의미한다(거의 확실한 참조). 확률 공간$({\displaystyle \mathrm{\Omega }}$, ${\displaystyle F}$, ${\displaystyle \mathrm{Pr}}$) ${\displaystyle(\Oomega ,{\mathcal {F},\operatorname {Pr})$ 및$$ 임의 변수의 개념을 Ω에서 R까지 함수로 사용한다면 이는 문장과 동등하다.

${\displaystyle \operatorname {Pr} {\Big(}\omega:\lim_{n\to \infit }X_{n}(\omega )=X(\omega ){\Big )}=1.}$

일련의 집합보다 상위의 한계라는 개념을 사용하여 거의 확신에 찬 수렴도 다음과 같이 정의할 수 있다.

${\displaystyle \operatorname {Pr} {\Big (}\limsup _{n\to \infty }{\big \{}\omega \in \Omega : X_{n}(\omega )-X(\omega ) >\varepsilon {\big \}}{\Big )}=0\quad {\text{for all}}\quad \varepsilon >0.}$

수렴을 나타내는 화살표 위에 a.s를 추가하면 수렴이 거의 확실하다.

${\displaystyle {}{X_{n}\, {\xrightarrow {\mathrm {a.s.}}}}\,X.}}}$

(3)

메트릭 공간$({\displaystyle S}$, d${\displaystyle }$) ${\디스플레이$ 스타일$(S,d$의 일반 랜덤 요소 {X_n}의 경우 수렴은 거의 유사하게 정의된다.

${\displaystyle \operatorname {Pr} {\Big (}\\Oomega :\,d{n}(\omega }),X(\omega ){\big}\\\\underset {n\to \fto \{longrightarrow}}}},0\Big}=1}=1}$

특성.

• 거의 확실시되는 수렴은 확률의 수렴(파투의 보조정리)을 의미하며, 따라서 분포의 수렴을 의미한다. 대수의 강법칙에 쓰이는 융합 개념이다.
• 거의 확실한 수렴의 개념은 랜덤 변수의 공간에 있는 위상에서 오는 것이 아니다. 즉, 거의 확실히 수렴 시퀀스가 위상에 대한 수렴 시퀀스인 랜덤 변수의 공간에 위상이 없음을 의미한다. 특히 거의 확실한 수렴의 척도가 없다.

확실한 정합화 또는 점근거

동일한 확률 공간(즉, 무작위 공정_n)에 걸쳐 정의된 랜덤 변수(X)의 시퀀스가 확실하거나 어디서나 X 평균을 향해 포인트로 수렴된다고 말하는 것

여기서 Ω은 랜덤 변수가 정의되는 기본 확률 공간의 표본 공간이다.

이것은 일련의 함수를 무작위 변수의 순서로 확장하는 점적합성의 개념이다. (임의 변수 자체는 함수라는 점에 유의하십시오.)

무작위 변수의 확실한 수렴은 위에 언급된 다른 모든 종류의 수렴을 의미하지만, 거의 확실한 수렴을 사용하는 것에 비해 확실한 수렴을 사용함으로써 확률 이론에서는 보상이 없다. 둘 사이의 차이는 확률 0의 집합에서만 존재한다. 랜덤 변수의 확실한 수렴이라는 개념이 거의 사용되지 않는 이유다.

평균의 수렴

실제 숫자 r ≥ 1을 고려할 때, X와_n X의 r번째 절대 모멘트 E( X )와 E( X )가 존재하는 경우, 시퀀스 X가_n r번째 평균(또는_n L-규범^r)에서 랜덤 변수 X를 향해 수렴된다고 말하고,

${\displaystyle \lim _{n\to \infit }\operatorname {E} \left(X_{n}-X ^{r}\right)=0,}$

여기서 연산자 E는 기대값을 나타낸다. r-th 평균의 수렴은 $X{\displaystyle {}_{}}$ ${\displaystyle n_{}}$ ${\$과(와) $X{\displaystyle }${\$displaystyle X}$의 차이에 대한 r-th번째 검정력에 대한 기대치가 0으로$$ 수렴된다는 것을 알려준다.

이러한 유형의 수렴은 종종 수렴을 나타내는 화살표 위에 L자를^r 추가하여 나타낸다.

${\displaystyle {}{X_{n}\,{\xrightarrow {L^{r}}\,X.}}}$

(4)

r-th 평균에서 정합화의 가장 중요한 예는 다음과 같다.

• r_n = 1에 대해 X가 r번째 평균에서 X로 수렴될 때, 우리는 X가_n 평균에서 X로 수렴된다고 말한다.
• r_n = 2에 대해 X가 r-th 평균에서 X로 수렴될 때, X가_n 평균 제곱(또는 2차 평균)에서 X로 수렴된다고 한다.

r번째 평균의 수렴은 r ≥ 1에 대해 확률의 수렴(마코프의 불평등에 의한)을 의미한다. 더욱이 r > s ≥ 1이면 r-th 평균의 수렴은 s-th 평균의 수렴을 의미한다. 따라서 평균 제곱의 수렴은 평균의 수렴을 의미한다.

이 또한 주목할 가치가 있다.

${\displaystyle \stackrel{}{X_{}}}$ ${\displaystyle \stackrel{}{n_{}\stackrel{}{}}}$→ ${\displaystyle \stackrel{}{\stackrel{}{L{}^{}}}}$ ${\displaystyle \stackrel{}{\stackrel{}{r^{}}}}$ ${\displaystyle \stackrel{}{\stackrel{}{{}^{}}}}$ $displaystyle {}{X_{n}{\xrightarrow {L^{r}X$

(4)

그때

${\displaystyle \lim _{n\to \infit }E[ X_{n} ^{r}]=E[ X ^{r}]}$

특성.

확률 공간이 완성되는 경우:

• ${\displaystyle {Xn}_{}{}_{}\stackrel{}{}}$→ p ${\displaystyle X\stackrel{}{\stackrel{}{}}}$ ${\$$displaystyle X_{n}\\\\xrightarrow {}{$p}\$X}$과$($${\displaystyle \stackrel{}{와}}$) ${\displaystyle {Xn}_{}}$ ${\displaystyle \to {}_{}\stackrel{}{}}$ ${\displaystyle p\stackrel{}{\stackrel{}{}}}$ Y$${\$displaystyle X_{n}\\xrightarrow {}\{p$$displaysty$ X$=Y}$가 거의 확실하다.
• $만약{\displaystyle {}_{}}$ ${\displaystyle X_{}{}_{}\stackrel{}{}}$n → ${\displaystyle \stackrel{}{a\stackrel{}{\text{.}}}s\stackrel{}{\stackrel{}{}}\stackrel{}{\stackrel{}{\text{.}}}}$ X$${\$displaystyle X_{n}\\\xrightarrow {\}{\text{a.s.$$}}}}\ X}$과(와) ${\displaystyle X_{}}$ n${\displaystyle {}_{}\stackrel{}{}}$→ ${\displaystyle \stackrel{}{a\stackrel{}{\text{.s.}}}}$${\displaystyle X_{n}\\\xrightarrow {}{}{\text{a.s.$$}}}}\ Y$ ${\displaystyle \mathrm{그러면}}$ X$$=${\displaystyle }$Y {\$displaystyle$ X=$Y}$ 거의$$ 확실하다.
• If ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ X}$ and ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ Y}$, then ${\displaystyle X=Y}$ almost surely.
• If ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{p}}}\ X}$ and ${\displaystyle Y_{n}\ {\xrightarrow {\overset {}{p}}}\ Y}$, then ${\displaystyle aX_{n}+bY_{n}\ {\xrightarrow {\overset {}{p}}}\ aX+bY}$ (for any real numbers a 및 b) 및 $X{\displaystyle {}_{}}$ ${\displaystyle n_{}}$ ${\displaystyle {}_{}{}_{}}$ ${\displaystyle n_{}\stackrel{}{}}$→ ${\displaystyle \stackrel{}{p\stackrel{}{}}}$ ${\displaystyle X}$ Y ${\displaystyle X_{n}$$Y_{n}{\xrightarrow {}{p}}\ XY}$.
• $만약{\displaystyle {}_{}}$ ${\displaystyle X_{}{}_{}\stackrel{}{}}$n → ${\displaystyle \stackrel{}{a\stackrel{}{\text{.}}}s\stackrel{}{\stackrel{}{}}\stackrel{}{\stackrel{}{\text{.}}}}$ X$${\$displaystyle X_{n}\\\xrightarrow {\}{\text{a.s.$$}}}}\ X}$ 및$$ $Y{\displaystyle {}_{}}$ ${\displaystyle n_{}{}_{}\stackrel{}{}}$→ ${\displaystyle \stackrel{}{a\stackrel{}{\text{.s.}}}}$${\displaystyle Y_{n}\\\xrightarrow {}{}{\text{a.s.$$}}}\ Y}$ 그$$다음 ${\displaystyle {}_{}}$ ${\displaystyle n_{}}$+ b ${\displaystyle Y_{}{}_{}\stackrel{}{}{}_{}}$ → ${\displaystyle \stackrel{}{a\stackrel{}{\text{.}}}s\stackrel{}{\stackrel{}{\text{.}}}}$ X${\displaystyle }$+ b ${\displaystyle Y}$ ${\displaystyle aX_{n}+BY_{n}\\xrightarrow {}{}{\cext{a.s.$$}}}}\ aX+bY}($실수 a 및 b) $및{\displaystyle {}_{}}$ X ${\displaystyle {}_{}{}_{}}$ Y${\displaystyle {}_{}\stackrel{}{}{n}_{}}$ →${\displaystyle \stackrel{}{\stackrel{}{}a}}$.${\displaystyle \stackrel{}{\stackrel{}{\text{s.}}}}$ ${\displaystyle X\stackrel{}{\stackrel{}{}}}$ ${\displaystyle Y}$ ${\displaystyle X_{n}$$Y_{n}{\xrightarrow {\overset {}{\text{a.s.$$}}}\ XY$
• If ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ X}$ and ${\displaystyle Y_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ Y}$, then ${\displaystyle aX_{n}+bY_{n}\ {\xrightarrow {\overset {}{L^{r}}}}\ aX+$$bY}($실수 a와 b의 경우).
• 위의 문구 중 어느 것도 분포의 수렴에 해당되지 않는다.

수렴의 다양한 개념들 사이의 함의 연쇄는 각각의 절에 명시되어 있다. 화살표 표기법을 사용하는 경우:

${\displaystyle {\begin{matrix}{\xrightarrow {\overset {}{L^{s}}}}&{\underset {s>r\geq 1}{\Rightarrow }}&{\xrightarrow {\overset {}{L^{r}}}}&&\\&&\Downarrow &&\\{\xrightarrow {\text{a.s.}}}&\오른쪽 화살표 &{\x오른쪽 화살표 {{p}}&\오른쪽 화살표 &{\x오른쪽 화살표 {d}\end{matrix}}}$

이러한 특성은 기타 여러 특수 사례와 함께 다음 목록에 요약되어 있다.

• 수렴은 확률의 수렴을 의미한다고 거의 확실하다.^[8][proof]

  ${\displaystyle X_{n}\\\xrightarrow {\text{a.s.}}}\ X\quad \rightarrow \quad X_{n}\\\\xrightarrow {\{p}}\X}$

• 확률의 수렴은 거의 확실히 수렴되는$$ 하위 순서$({\displaystyle k_{}}$ n${\displaystyle {}_{}}$) ${\displaystyle(k_{n})$가 있음을 의미한다.^[9]

  ${\displaystyle X_{n}\\\x오른쪽 화살표 {}{p}}\X\quad \오른쪽 화살표 \quad X_{k_{n}}\\x오른쪽 화살표 {\text{a.s.}}}\ X}$

• 확률의 수렴은 분포의 수렴을 의미한다.^[8][proof]

  ${\displaystyle X_{n}\\\x오른쪽 화살표 {}{p}}\X\quad \오른쪽 화살표 \quad X_{n}\\x오른쪽 화살표 {\}{d}}\X}$

• r-차 평균의 수렴은 확률의 수렴을 의미한다.

  ${\displaystyle X_{n}\\\x오른쪽 화살표 {}{L^{r}}\ X\quad \오른쪽 화살표 \quad X_{n}\\\x오른쪽 화살표 {\\}{p}}\X}}}$

• r-차 평균의 수렴은 두 순서가 모두 1보다 크거나 같다고 가정할 때 낮은 순서 평균의 수렴을 의미한다.

  ${\displaystyle X_{n}\\\x오른쪽 화살표 {}{{L^{r}}}\ X\quad \오른쪽 화살표 \quad X_{n}\\\x오른쪽 화살표 {}{{L^{s}}}}}}\****************,}}$ 제공된 r ≥ s ≥ 1

• X가_n 분포에서 상수 c로 수렴되는 경우, X는_n 확률로 c:^[8][proof]

  ${\displaystyle X_{n}\\\x오른쪽 화살표 {}}\{d}}\c\오른쪽 화살표 \quad X_{n}\\\x오른쪽 화살표 {}{p}}\c,}$ 제공된 c는 상수다.

• X가_n 분포에서 X로 수렴되고 X와_n Y의_n 차이가 확률에서 0으로 수렴되는 경우 Y도_n 분포에서 X로 수렴된다.^[8][proof]

  ${\displaystyle X_{n}\ {\xrightarrow {\overset {}{d}}}\ X,\ \ X_{n}-Y_{n} \ {\xrightarrow {\overset {}{p}}}\ 0\ \quad \Rightarrow \quad Y_{n}\ {\xrightarrow {\overset {}{d}}}\ X}$

• X가_n 분포에서 X로 수렴되고 Y가_n 분포에서 상수 c로 수렴되는 경우, 이음매 벡터(X_n, Y_n)가 분포에서${\displaystyle }$(${\displaystyle }$X ,${\displaystyle c}$ ) ${\displaystyle (X,c)}$로 수렴된다$.$^[8][proof]

  ${\displaystyle X_{n}\\\xrightarrow {}}\{d}\\\ Y_{n}\\\xrightarrow {\}\\{d}\c\quad \rightarrowquad \rightarrowquad (X_{n},)Y_{n}\\\xrightarrow {\\{d}}\(X,c)}$ 제공된 c는 상수다.

  Y가_n 상수로 수렴하는 조건이 중요하다는 점에 유의하십시오. 랜덤 변수 Y로 수렴할 경우 (X_n, Y_n)가${\displaystyle }$(${\displaystyle X}$, ${\displaystyle Y}$) ${\displaystyle (X,Y)}$로 수렴한다고 결론을 내릴 수 없을 것이다.

• X가_n 확률에서 X로 수렴되고 Y가_n 확률에서 Y로 수렴되는 경우, 관절 벡터_n(X_n, Y)^[8][proof]는 확률에서 (X, Y)로 수렴한다.

  ${\displaystyle X_{n}\\\xrightarrow {}{p}\x}\Y_{n}\\\xrightarrow {\\\\{p}\{p}\Y\quad \rightarrow \quad \quad(X_{n}),Y_{n}\\\x오른쪽 화살표 {\}{p}}\(X,Y)}$

• X가_n 확률로 X로 수렴되고, P(X_n b b)가 모든 n과 일부 b에 대해 1이면, X는_n 모든 r ≥ 1에 대해 r번째 평균에서 X로 수렴한다. 즉, 확률로 X가_n X로 수렴되고 모든 랜덤 변수 X가_n 거의 확실히 위아래로 경계를 이루면 X는_n 어떤 r번째 평균에서도 X로 수렴된다.^[10]
• 거의 확실하다. 일반적으로 분포의 수렴은 거의 확실하게 수렴을 의미하지 않는다. 그러나 분포에서₀ X로 수렴되는 지정된 시퀀스 {X_n}의 경우 항상 새로운 확률 공간(Ω, F, P)과 랜덤 변수 {Y_n, n = 0, 1, ...을 찾을 수 있다.}}은(는) n defined 0에 대해 Y가 X에_n 균등하게_n 분포하고 Y가_n Y에 거의₀ 확실하게 수렴되도록 정의된다.^[11][12]
• 만약 모든 > > 0에 대해서,

  $\displaystyle \sum _{n}\mathb {P} \left(X_{n}-X >\varepsilon \right)<\infty ,}$

  그러면 우리는 X가_n 거의 완전히 또는 거의 확률적으로 X로 수렴된다고 말한다. X가_n X를 향해 거의 완전히 수렴되면 X도 거의 확실히 X로 수렴한다. 즉 X가 충분히_n 빨리 X로 확률을 수렴하면(즉, 위의 꼬리 확률 순서는 모든 for > 0에 대해 합산할 수 있다), X도_n X로 거의 확실하게 수렴한다. 이것은 보렐-칸텔리 보조정리로부터 직접적인 함축이다.

• S가_n n개의 실제 독립 랜덤 변수의 합계인 경우:

  ${\displaystyle S_{n}=X_{1}+\cdots +X_{n}\,}$

  S는_n 확률로 S가_n 수렴할 경우에만 거의 확실하게 수렴한다.

• 지배적인 정합화 정리는 L-정합성을¹ 암시하기에 거의 확실한 정합화를 위한 충분한 조건을 제공한다.

$왼쪽.{\begin{matrix}X_{n}{\xrightarrow {\overset {}{\text{a.s.}}}}}}}}} {Y\\\\mathrm {E}(Y)<\infit \end{matrix}\right\}\quad \right\}\quad \rightarrow \quad X_{\xrightarrow {L^{1}X}}}}}X}$

(5)

• L¹ 수렴에 필요하고 충분한 조건은 $X{\displaystyle {}_{}}$ ${\displaystyle n_{}\stackrel{}{}}$→ P ${\displaystyle \stackrel{}{\stackrel{}{}}}$ ${\displaystyle X_{n}{\xrightarrow {}{{P}}X}$이며 시퀀스(X_n)는 균일하게 통합할 수 있다.

참고 항목

위키북 계량학 이론에는 다음과 같은 주제에 대한 페이지가 있다: 무작위 변수의 수렴

• 랜덤 변수의 수렴 증명
• 조치의 수렴
• 측정의 수렴
• 연속적인 확률적 과정: 확률적 과정의 연속성 문제는 본질적으로 수렴성의 문제이며, 위에서 사용된 것과 동일한 개념과 관계의 많은 부분이 연속성 질문에 적용된다.
• 점근 분포
• 확률 표기법에서 큰 O
• 스코로크호드의 표현 정리
• 트위디 컨버전스 정리
• 슬루츠키의 정리
• 연속 매핑 정리

메모들

참조

• https://www.ma.utexas.edu/users/gordanz/notes/weak.pdf

본 기사는 Creative Commons Attribution-ShareAlike 3.0 Unported License에 따라 허가되었지만 GFDL에 따라 허가되지 않은 Citizendium 기사 "Stopchastic Convergence"의 자료를 통합하고 있다.