무메모리

확률과 통계에서 기억력이 없는 것은 특정 확률 분포의 속성이다.대개 특정 사건까지의 「대기 시간」의 분배가 이미 경과한 시간의 양에 좌우되지 않는 경우를 말한다.기억력이 없는 상황을 정확하게 모델링하기 위해, 우리는 시스템이 어떤 상태에 있는지 끊임없이 '잊어버려야 한다: 확률은 프로세스의 역사에 의해 영향을 받지 않을 것이다.^[1]

오직 두 종류의 분포만이 기억력이 없다: 비 음의 정수의 기하학적 분포와 비 음의 실수의 지수 분포.

마르코프 프로세스의 맥락에서, 기억력이 없는 것은 마르코프 속성을 가리키는데,^[2] 이것은 미래와 관련된 무작위 변수의 속성이 과거의 정보가 아니라 현재 시간에 대한 관련 정보에만 의존한다는 것을 암시하는 훨씬 더 강력한 가정이다.이 글은 마르코프 재산 밖의 용도에 대해 설명하고 있다.

대기 시간 예제

기억을 가지고

대부분의 현상들은 기억력이 없는 것이 아니며, 이것은 관찰자들이 시간이 지남에 따라 그것에 대한 정보를 얻게 된다는 것을 의미한다.예를 들어 $X$ 가 "엔진이 고장날 때까지 주행한 마일 수"라는 관점에서 표현되는 자동차 엔진의 수명인 임의 변수라고 가정해 보자.우리의 직관에 따르면, 이미 30만 마일을 주행한 엔진은 1,000 마일을 주행한 두 번째(동등) 엔진보다 훨씬 낮은 $X$ 를 가질 것이 분명하다.따라서 이 랜덤 변수는 메모리 없는 속성을 가지지 않을 것이다.

기억력없음

이와는 대조적으로 기억력이 없는 상황을 살펴보자.수천 개의 금고가 있는 한쪽 벽에 길게 늘어선 복도를 상상해 보라.각 금고에는 500개의 위치가 있는 다이얼이 있으며, 각 금고에는 임의로 개방 위치가 할당되어 있다.괴팍한 사람이 복도를 걸어 내려가서 각각의 금고에 한 번씩 들러서 그것을 열려고 무작위로 시도한다고 상상해 보라.이 경우, 무작위 $변수$ X를 "사용자가 성공적으로 금고를 열 때까지 수행해야 하는 시도 횟수"라는 관점에서 검색의 수명으로 정의할 수 있다.이 경우 $E[X]$ 는 이미 몇 번의 시도가 있었든 상관없이 항상 500의 가치와 같을 것이다.각각의 새로운 시도는 성공할 가능성이 (1/500) 있기 때문에, 그 사람은 다음 500번의 시도 중에 정확히 하나의 금고를 열 것 같지만, 각각의 새로운 실패는 궁극적으로 성공하기 위한 "진전"을 하지 않는다.세이프 크래커는 499회 연속(4999회)에 실패했을 뿐이지만 다음 성공을 지켜볼 때까지 500번의 시도를 더 기다릴 것으로 예상된다.대신에, 만약 이 사람이 하나의 금고에 그들의 시도를 집중하고, 그것을 열려고 했던 이전의 시도를 "기억"한다면, 그들은 최대 500번의 시도 후에 금고를 열 것을 보장받을 것이다(그리고 실제로 시작할 때는 500번의 시도가 아니라 250번의 시도만 필요할 것으로 예상한다).

기억력이 없는 실생활의 예로는 주어진 방사성 입자가 소멸할 때까지의 시간을 기술하는 방사성 붕괴의 보편적 법칙과, 잠재적으로 이것이 문제시 되긴 했지만 새로운 비트코인 블록이 발견될 때까지의 시간을 기술하고 있다.^[3]줄서기 이론에서 기억력이 없는 것에 대해 자주 사용되는 (이론적) 예는 가게 주인이 다음 고객이 도착하기 전에 기다려야 하는 시간이다.

이산기억불능

$X$ 가 값이 {0, 1, 2, ...} 집합에 있는 이산형 랜덤 변수라고 가정합시다. $만약$ {0,1 $, 2$ , $...}$ 의 $어떤$ $m$ 과 n에 대해서도 정확히 기억력이 없다면 X의 확률 분포는 기억력이 없다.

[\displaystyle \Pr(X)m+n\mid X\geq m)=\Pr(X>n)}

여기서 $Pr(X$ > $m$ + n $X$ ≥ $m)$ 은 X $값$ 이 $m$ 보다 크거나 같은 경우 $m$ + $n$ 보다 클 조건부 확률을 나타낸다.

기억력이 없는 유일한 이산 확률 분포는 기하 분포로, 하나의 "성공"을 얻기 위해 필요한 독립적이고 동일한 분포의 베르누이 시험의 수를 계산한다.다시 말해, 이것들은 베르누이 과정에서의 대기 시간의 분포다.

위의 정의는 {0, 1, 2, ...}을(를) 지원하는 기하 분포의 정의에 적용된다는 점에 유의하십시오.{1, 2, ...을 지원하는 대체 매개 변수화}}은 이산 메모리 무성의 약간 다른 정의에 해당한다. 즉, $\Pr(X>m+n\mid X>m)=\Pr(X>n).$ ( $\Pr(X>m+n\mid X>m)=\Pr(X>n).$ > $\Pr(X>m+n\mid X>m)=\Pr(X>n).$ + $\Pr(X>m+n\mid X>m)=\Pr(X>n).$ $\Pr(X>m+n\mid X>m)=\Pr(X>n).$ X $\Pr(X>m+n\mid X>m)=\Pr(X>n).$ > $\Pr(X>m+n\mid X>m)=\Pr(X>n).$ ) $\Pr(X>m+n\mid X>m)=\Pr(X>n).$ = $\Pr(X>m+n\mid X>m)=\Pr(X>n).$ ( $\Pr(X>m+n\mid X>m)=\Pr(X>n).$ > n $\Pr(X>m+n\mid X>m)=\Pr(X>n).$ ) $\Pr(X>m+n\mid X>m)=\Pr(X>n).$ . ${\displaystyle \Pr(X >m+n\mid$ X $>m)=\Pr(X)n.$ $}$

일반적인 오해

첫 번째 성공이 있을 때까지 $시행$ 횟수 X의 확률 분포의 "기억 없음"은 예를 들어 다음과 같은 것을 의미한다.

[\displaystyle \Pr(X)40\mid X\geq 30)=\Pr(X>10).}

라는 뜻은 아니다.

[\displaystyle \Pr(X)40\mid X\geq 30)=\Pr(X>40),}

$X$ > $40$ 과 $X$ ≥ $30$ 이 독립적일 경우에만 참일 것이다 $.$ 즉, $\Pr(X\geq 30)=1.$ $\Pr(X\geq 30)=1.$ $\Pr(X\geq 30)=1.$ $\Pr(X\geq 30)=1.$ ) $\Pr(X\geq 30)=1.$ = 1. ${\displaystyle \Pr(X\geq 30)=1$ . $}$

연속 무메모리

$X$ 가 음수가 아닌 실수 $[0, \infty]$ 에 있는 연속 랜덤 변수라고 가정합시다. $X$ 의 확률 분포는 정확하게 기억력이 없다. 만약 어떤 비 음의 실제 $숫자$ $t$ 와 s에 대해서, 우리는

[\displaystyle \Pr(X)+s\mid X>t)=\Pr(X)s.}

이것은 이산형 버전과 유사하지만, $s$ 와 $t$ 는 정수 대신 음수가 아닌 실수로만 제한된다.예를 들어, 첫 번째 "성공"까지 시련을 세는 것보다, 우리는 교환대에서 첫 번째 전화가 도착할 때까지 시간을 표시하고 있을 수도 있다.

무메모리 분포는 지수 분포다.

기억력이 없는 유일한 연속 확률 분포는 지수 분포이므로, 기억력이 없는 분포는 모든 연속 분포 사이의 지수 분포의 특성을 완전히 나타낸다.재산은 다음 증거를 통해 도출된다.

이를 보려면 먼저 생존 함수 $S$ 를 다음과 같이 정의하십시오.

[\displaystyle S(t)=\Pr(X)t.}

$S (t)$ 는 단조롭게 감소한다는 점에 유의한다.관계로부터

\Pr(X)+s\mid X>t)=\Pr(X)s

그리고 조건부 확률의 정의는 다음과 같다.

{\frac {\Pr(X>t+s)}{\Pr(X>t)}}=\Pr(X)s.

이것은 기능 방정식을 제공한다(메모리가 없는 속성의 결과).

[\displaystyle S(t+s)=S(t)S}

이를 통해 다음과 같은 예를 갖추어야 한다.

S(2)=S(1)^{2}\quad

S(1)=S(1/2)^{2}{\text{.}}}\quad S(1/2)=S(1)^{1/2}.

일반적으로:

S(a)=S(1)^{a}

어떤 양적이고 합리적인 $a$ 에 대해 이 방정식을 만족시킬 유일한 연속 함수는 다음과 같다.

S(a)=S(1)^{a}=e^{\ln(S(1))a}=e^{-\lambda a}

여기서 $\lambda =-\ln(S(1)).$ = $\lambda =-\ln(S(1)).$ - $\lambda =-\ln(S(1)).$ $\lambda =-\ln(S(1)).$ ( $\lambda =-\ln(S(1)).$ ( 1 $\lambda =-\ln(S(1)).$ ) $\lambda =-\ln(S(1)).$ . $\lambda =-\ln(S(1))$

따라서 $S (a)$ 는 확률이고 $\lambda >0,$ > $\lambda >0,$ $\lambda >0,$ 을(를) 가져야 하기 때문에 모든 $\lambda >0,$ 기억력 없는 함수는 지수함수여야 한다.

다른 방법으로, $S$ 는 단조 감소 함수(시간 $x\leq y,$ $x\leq y,$ $x\leq y,$ , ${\displaystyle x\leq y,},$ 그 다음 $x\leq y,$ $S(x)\geq S(y).$ ( $S(x)\geq S(y).$ ) $S(x)\geq S(y).$ $S(x)\geq S(y).$ ( y $S(x)\geq S(y).$ ) . ${\displaystyle S(x)\geq$ S $(y$ )를 의미한다 $.$ $}$ )

함수 방정식만으로도 특정 숫자의 합리적인 배수로 제한된 $S$ 가 지수함수라는 것을 암시할 것이다. $S$ 가 단조롭다는 사실과 결합하여, 이는 전체 영역에 걸친 $S$ 가 지수함수임을 암시한다.

메모들

^ "Notes on Memoryless Random Variables" (PDF).
^ "Markov Chains and Random Walks" (PDF).
^ Bowden, Rory; Keeler, Holger Paul; Krzezinski, Anthony E.; Taylor, Peter G. (2018). "Block arrivals in the Bitcoin blockchain". arXiv:1801.07447 [cs.CR].

참조

Feller, W. (1971) 확률 이론과 그 적용에 대한 소개, Vol II(2판)와일리 섹션 I.3 ISBN 0-471-25709-5

[1] "Notes on Memoryless Random Variables" (PDF).

[2] "Markov Chains and Random Walks" (PDF).

[3] Bowden, Rory; Keeler, Holger Paul; Krzezinski, Anthony E.; Taylor, Peter G. (2018). "Block arrivals in the Bitcoin blockchain". arXiv:1801.07447 [cs.CR].

[1]

[2]

[3]

Search