독립성(확률론)

Independence (probability theory)

독립성은 통계학이나 확률적 과정 이론에서와 같이 확률론에서 근본적인 개념이다.

한 사건의 발생이 다른 사건의 발생 확률에 영향을 미치지 않는 경우(동등하게, 승산에 영향을 미치지 않는 경우) 두 사건독립적이거나 통계적으로 독립적이거나 확률적으로 독립적이다[1]. 마찬가지로, 변수의 실현이 다른 변수의 확률 분포에 영향을 미치지 않는다면 두 변수는 독립적이다.

세 개 이상의 사건을 다룰 때는, 약하고 강한 독립 관념이 구별되어야 한다. 이 사건들은 두 사건이 서로 독립적이면 쌍방향 독립적이라고 불리는 반면, 사건들이 상호 독립적이거나 집단적으로 독립적이면 직관적으로 각 사건들이 집합의 다른 사건들의 어떤 조합에도 독립적이라는 것을 의미한다. 변수의 집합에도 비슷한 개념이 존재한다.

"상호 독립"('집단 독립'과 동일)이라는 명칭은 단지 더 강한 개념과 더 약한 개념인 "지혜적인 독립"을 구별하기 위해 교육적 선택의 결과로 보인다. 확률론, 통계학, 확률론적 과정의 진보된 문헌에서 더 강한 개념은 수식어가 없는 독립이라는 이름만 붙일 뿐이다. 독립은 쌍방향의 독립을 의미하기 때문에 더 강하지만, 그 반대는 아니다.

정의

이벤트용

두 가지 이벤트

두 이벤트 A (흔히 A 독립적이다. B iff (if and only if) 이들의 결합 확률은 확률의 산물과 동일하다.[2]: p. 29 [3]: p. 10

(Eq.1)

이것은 두 개의 독립 A B{\이(가) 상호 배타적이지 않도록 샘플 공간에 공통 요소를 가지고 있음을 나타낸다(상호 배타적인 경우 A B= {\ B Why this defines independence is made clear by rewriting with conditional probabilities as the probability at which the event occurs provided that the event has or is assumed to have occurred:

마찬가지로

따라서 의 발생은 의 확률에 영향을 미치지 않으며 그 반대의 경우도 마찬가지다. B은(는) 서로 독립적이다. 파생된 식이 직관적으로 보일 수 있지만 (A ) { ( P( 가 0이면 조건부 확률은 정의되지 않을 수 있으므로 선호되는 정의는 아니다. 또한 선호되는 정의는 대칭에 의해 (가) 와) 독립적일 때, 도 A 과()와(와) 독립적이라는 것을 명확히 한다

확률 및 정보 내용 기록

로그 확률 측면에서 보면, 공동 사건의 로그 확률이 개별 사건의 로그 확률의 합인 경우에만 두 사건이 독립적이다.

정보이론에서 음의 로그 확률은 정보 콘텐츠로 해석되며, 따라서 결합된 사건의 정보 콘텐츠가 개별 사건의 정보 콘텐츠 합계와 동일한 경우에만 두 사건이 독립적이다.

자세한 내용은 정보 콘텐츠 § 독립 이벤트의 부가성을 참조하십시오.

오즈

승산 측면에서 볼 때, 두 이벤트는 승산비가 단일성(1)인 경우에만 독립적이다. 확률과 유사하게, 이것은 조건부 승산이 무조건적인 승산과 동일하다는 것과 같다.

또는 다른 이벤트의 경우, 다른 이벤트의 경우, 다른 이벤트의 경우 발생하지 않는 이벤트의 확률과 동일함:

승산비는 다음과 같이 정의할 수 있다.

A A가) 주어지는 B 의 오즈 대칭이므로 이벤트가 독립적인 경우에만 1이 된다.

세 개 이상의 이벤트

이벤트의 유한 집합{ i= 은(는) 모든 이벤트[4] 쌍이 독립적일 경우 쌍으로 독립적이다. 즉, 쌍에 대해 k, m},

(Eq.2)

모든 행사는 다른 events[4][3]의 교차 부분으로 독립적이다 이벤트 한정된 상호:페이지의 주 11—that,{의 모든 k≤ n{k\leq n\displaystyle}과 모든 k을 위한 행사들을 만일{k\displaystyle}-element 부분 집합{B나는}나는 갈1k{\displaystyle\와 같이{B_{나는}\}_{i=1}^{k}}은 독립적이다. 나는 갈은 명확히 설명}

(Eq.3)

이를 독립 이벤트에 대한 곱셈 규칙이라고 한다. 모든 단일 사건의 모든 확률을 포함하는 단일 조건이 아니다. 모든 사건의 하위 집합에 대해 참이어야 한다.

세 개 이상의 이벤트의 경우, 상호 독립적인 이벤트 집합은 (정의상) 쌍으로 독립적이지만, 그 반대의 경우도 반드시 참은 아니다.[2]: p. 30

실제 값진 랜덤 변수의 경우

두 개의 랜덤 변수

Two random variables and are independent if and only if (iff) the elements of the π-system generated by them are independent; that is to say, for every and , the events and (위의 Eq.1에서 정의한 대로) 독립 이벤트다. 누적 분포 함수들과 즉, X{X\displaystyle}, Y{Y\displaystyle}FX}와 FY(y){\displaystyle F_{Y}(y)}{\displaystyle F_{X}())()), 독립적이다 iff의 결합 확률 변수(X, Y){\displaystyle(X,Y)}이 있는 합동 누적 분포 function[3]:페이지의 주 15.

(Eq.4)

또는 동등하게 확률밀도 ) (가) 있는 경우,

세 개 이상의 랜덤 변수

변수의 유한 집합{은(는) 각 변수의 쌍이 독립적일 경우에만 쌍으로 독립적이다. 랜덤 변수 집합이 쌍으로 독립되어 있다고 하더라도 다음에 정의된 바와 같이 반드시 상호 독립적일 필요는 없다.

A finite set of random variables is mutually independent if and only if for any sequence of numbers , the events X_{n(위의 Eq.3에서 정의한 대로) 상호 독립된 이벤트다. This is equivalent to the following condition on the joint cumulative distribution function . A finite set of random variables 만약의 경우 그리고 오직 다음의[3]: p. 16 경우에만 상호 독립적이다.

(Eq.5)

이벤트의 경우처럼 가능한 모든 -element subset에 대해 확률 분포 인자를 요구하지 않아도 된다는 점에 유의하십시오. 예를 들어, 이것은 필요하지 않다. implies

측정 이론적으로 기울어진 이 정의에서 이벤트 { definition A {\ A을(를) {X eventsx x에 대해 이벤트 {\ A을(를)로 대체하는 것을 선호할 수 있다. 여기서 것이 좋다 이 정의는 랜덤 변수의 값이 실제 숫자일 때 위의 정의와 정확히 동일하다. 또한 복잡한 값의 랜덤 변수 또는 측정 가능한 모든 공간(적절한 al-algebras가 부여한 위상학적 공간 포함)에서 값을 얻는 랜덤 변수에 대해서도 작업할 수 있다는 장점이 있다.

실제 가치 랜덤 벡터의 경우

Two random vectors and are called independent if[5]: p. 187

(Eq.6)

where and denote the cumulative distribution functions of and and )은 공동 누적 분포 함수를 나타낸다. 의 독립성은 종종 X ⊥ Y 구성 요소별로 작성된 는) 독립적이라고 함

확률적 공정의 경우

하나의 확률적 공정용

독립성의 정의는 무작위 벡터에서 확률적 과정으로 확장될 수 있다. 따라서, 독립 확률적 공정에서 어떤 곱하기 , 에서 공정을 표본 추출하여 얻은 랜덤 변수가 n n에 대한 독립 랜덤 변수인 것이 요구된다[6]: p. 163

Formally, a stochastic process is called independent, if and only if for all and for all

(Eq.7)

where . Independence of a stochastic process is a property within a stochastic process, 두 개의 확률적 과정 사이에 있는 것이 아니다.

두 개의 확률적 공정의 경우

두 개의 확률적 공정의 독립성은 두 의 확률적 간 속성이다{in {\T}}및 { that are defined on the same probability space . Formally, two stochastic processes and are said to be independent if for all and for all , the random vectors and ( ),… ,( n)은(는) 독립적이다.[7]: p. 515

(Eq.8)

독립 σ알게브라스

위의 정의(Eq.1Eq.2)는 모두 σ알게브라의 독립성에 대한 다음의 정의에 의해 일반화된다. Let be a probability space and let and be two sub-σ-algebras of . and (는) ) B 마다 독립적이라고 한다.

마찬가지로 family-algebras ( ) i 의 유한한 계열로서 여기 인덱스 집합인 경우라면 독립적이라고 한다.

그리고 유한한 하위가족이 모두 독립적이면 무한의 finite- subbras 가문은 독립적이라고 한다.

새로운 정의는 이전의 정의와 매우 직접적으로 관련된다.

  • 두 사건은 그들이 생성하는 σ알게브라가 (새로운 의미에서의) 독립적일 경우에만 독립적이다. \ 이벤트 σ ∈{ {\\Sigma }에 의해 생성된 σ-algebra는 정의상 다음과 같다.
  • 에 대해 정의된 두 개의 랜덤 변수 displaystyle Y은(이전의 의미에서는) 생성되는 σ-알게브라가 독립적일 경우에만 독립적이다(이전의 의미에서는). The σ-algebra generated by a random variable taking values in some measurable space consists, by definition, of all subsets of of the form , where is any measurable subset of

이 정의를 사용하면 (가) 랜덤 변수이고 Y{\Y}이(가) 일정하면 X X 독립적이라는 것을 쉽게 알 수 있다. 확률 제로 이벤트가 독립성에 영향을 줄 수 없으므로 (가) Pr-almost-almust일 경우 독립성도 유지된다.

특성.

자주독립

이벤트는 다음과 같은 경우에만 독립적이라는 점에 유의하십시오.

따라서 사건이 거의 확실히 발생하거나 그 보완이 거의 확실히 발생하는 경우에만 사건은 그 자체로부터 독립적이다. 이 사실은 제로원 법칙을 증명할 때 유용하다.[8]

기대 및 공분산

Y 이(가) 독립 랜덤 변수인 경우 예상 E 가) 속성을 가지고 있음

공분산 [X, 은(는) 0이며, 다음과 같다.

두 변수의 공분산 값이 0이면 두 변수의 공분산이 여전히 독립적이지 않을 수 있다. 상관 관계가 없는 항목을 참조하십시오.

이와 유사하게 두 개의 확률적 { T {\}\rightt\ {\mathcal { T : 독립적이라면 상관관계가 없는 것이다.[9]: p. 151

특성함수

벡터, )의 특성 함수 되는 에만 두 개의 X displaystyle X} 및 Y(가 독립적이다

특히, 이들의 총합 특성 함수는 한계 특성 함수의 산물이다.

역 함축은 사실이 아니지만 후자의 조건을 만족시키는 임의 변수를 하위 독립 변수라고 한다.

롤링 주사위

처음 주사위를 던졌을 때 6을 얻는 이벤트와 두 번째로 6을 얻는 이벤트는 독립적이다. 대조적으로, 처음 주사위를 던졌을 때 6을 얻는 이벤트와 1심과 2심에서 본 숫자의 합이 8인 이벤트는 독립적이지 않다.

그리기 카드

카드 한 갑에서 교체로 두 장의 카드를 뽑으면 1심에서 레드카드를 뽑은 이벤트와 2심에서 레드카드를 뽑은 이벤트가 독립적이다. 반대로 카드 한 장에서 교체 없이 두 장의 카드를 뽑으면 1심에서 레드카드를 뽑은 사건과 2심에서 레드카드를 뽑은 사건은 독립적이지 않은데, 이는 레드카드를 제거한 데크는 상대적으로 레드카드가 적기 때문이다.

쌍방향 및 상호 독립성

쌍으로 독립적이지만 상호 독립적이지 않은 이벤트.
상호 독립 이벤트.

표시된 두 개의 확률 공간을 고려하십시오. In both cases, and . The random variables in the first space are pairwise independent because , , and ; but the three random variables are 상호 독립적이지 않은 두 번째 공간의 랜덤 변수는 쌍으로 독립적이고 상호 독립적이다. 차이를 설명하려면 두 가지 사건에 대한 조건을 고려하십시오. 쌍방향 독립 사례에서, 한 사건이 다른 두 사건 각각에 대해 개별적으로 독립적이지만, 다른 두 사건의 교차점에 대해서는 독립적이지 않다.

그러나 상호 독립적인 경우에는

상호독립

다음과 같은 세 가지 이벤트 예를 만들 수 있다.

그러나 세 사건 중 두 사건은 쌍으로 독립적이지 않다(따라서 사건의 집합은 상호 독립적이지 않다).[10] 이 예는 상호 독립성이 이 예와 같은 단일 사건만이 아니라 모든 사건 조합의 확률 산출물에 대한 요구사항을 수반한다는 것을 보여준다.

조건부 독립성

이벤트용

이벤트 은(는) 다음과 같은 이벤트 C {\이(가) 주어진 조건부로 독립적이다.

( )= P (∣ C) P( ) { (B ∣ C) (

랜덤 변수의 경우

직관적으로 개의 랜덤 X 이(가) 에 대해 알려진 후 Y X}에 대한 추가 정보를 추가하지 않으면 조건상 독립적이다 예를 들어, 두 측정값동일한 기본 수량 및 Y (두 측정의 오차가 어떻게든 연결된 경우는 제외) 독립적이지는 않지만 독립적이다.

조건부 독립성의 공식적 정의는 조건부 분포의 개념에 기초한다. 이(가) 이산 랜덤 변수 경우, 는 X (가) 주어진 조건부되도록 정의한다.

반면에 모든 x{\displaystyle)},{z\displaystyle}y{이\displaystyle}과 z은 P을(Z=z)그런, 들어 0{\displaystyle \mathrm{P}(Z=z)>0}., 확률 변수와의 공동 확률 밀도 기능이 있는 연속이라고 XYZ(x, y, z){\displaystyle f_{XYZ}(x,y,z)}, 그럼.x다음과 같은 경우, Y 은(는) 독립적이다

( z)> 모든 실제 숫자 y z 에 대해

이산 이(가) Z{\에 조건적으로 독립되어 있는 경우

어떤 x{\displaystyle)} 들어 P(Z=z)을과, y{이\displaystyle}와 z{z\displaystyle};0{\displaystyle \mathrm{P}(Z=z)>0}.즉, X{X\displaystyle}에 대한 조건부 분배 및 Z{Z\displaystyle}는 얘기하는 Z{\displaystyle과 같다 Y{Y\displaystyle} 주어진다. 혼자. 유사한 방정식은 연속 사례의 조건부 확률 밀도 함수에 대해 적용된다.

독립성은 특별한 종류의 조건부 독립성으로 볼 수 있는데, 그 이유는 확률은 어떤 사건도 주어지지 않는 일종의 조건부 확률로 볼 수 있기 때문이다.

참고 항목

참조

  1. ^ Russell, Stuart; Norvig, Peter (2002). Artificial Intelligence: A Modern Approach. Prentice Hall. p. 478. ISBN 0-13-790395-2.
  2. ^ a b Florescu, Ionut (2014). Probability and Stochastic Processes. Wiley. ISBN 978-0-470-62455-5.
  3. ^ a b c d Gallager, Robert G. (2013). Stochastic Processes Theory for Applications. Cambridge University Press. ISBN 978-1-107-03975-9.
  4. ^ a b Feller, W (1971). "Stochastic Independence". An Introduction to Probability Theory and Its Applications. Wiley.
  5. ^ Papoulis, Athanasios (1991). Probability, Random Variables and Stochastic Processes. MCGraw Hill. ISBN 0-07-048477-5.
  6. ^ Hwei, Piao (1997). Theory and Problems of Probability, Random Variables, and Random Processes. McGraw-Hill. ISBN 0-07-030644-3.
  7. ^ Amos Lapidoth (8 February 2017). A Foundation in Digital Communication. Cambridge University Press. ISBN 978-1-107-17732-1.
  8. ^ Durrett, Richard (1996). Probability: theory and examples (Second ed.). 62쪽
  9. ^ Park,Kun Il (2018). Fundamentals of Probability and Stochastic Processes with Applications to Communications. Springer. ISBN 978-3-319-68074-3.
  10. ^ 조지, 글린 "세 가지 사건의 독립성을 위한 시험" 2004년 11월 수학 가제트 88, 568. PDF

외부 링크

  • Wikimedia Commons의 통계적 의존성과 관련된 매체