다변량 프로빗 모형

다음에 대한 시리즈 일부
회귀분석
모델
선형 회귀 분석 단순 회귀 분석 다항식 회귀 분석 일반 선형 모형
일반화 선형 모형 이산선택 이항 회귀 분석 이항 회귀 분석 로지스틱 회귀 분석 다항 로지스틱 회귀 분석 혼합 로짓 프로빗 다항 프로빗 주문형 로짓 주문 프로빗 포아송
다단계 모델 고정 효과 랜덤 효과 선형 혼합 효과 모형 비선형 혼합효과 모형
비선형 회귀 분석 비모수 세미파라메트릭 로버스트 퀀틸레 동위원소 주성분 최소 각도 국부적 세그먼트화
변수 내 오류
추정
최소 제곱 선형 비선형
보통 가중치 일반화
부분적 합계 비음성 능선 회귀 분석 정규화된
최소 절대 편차 반복적으로 다시 가중치 부여 베이시안 베이시안 다변량
배경
회귀 유효성 검사 평균 및 예측 반응 오차 및 잔차 적합도 학생화 잔차 가우스-마르코프 정리
수학포털
v t

이 글은 검증을 위해 인용구가 추가로 필요하다. 신뢰할 수 있는 출처에 인용문을 추가하여 이 기사를 개선할 수 있도록 도와주십시오. 공급되지 않은 재료는 도전하여 제거할 수 있다. 출처 찾기: "다변량 프로빗 모델" – 뉴스 · 신문 · 책 · 학자 · JSTOR (2017년 5월) (이 템플릿 메시지 제거 방법과 시기 학습)

통계학 및 계량학에서 다변량 프로빗 모델은 여러 개의 상관관계가 있는 이항 결과를 공동으로 추정하는 데 사용되는 프로빗 모델의 일반화다.예를 들어, 공립학교에 적어도 한 명의 아이를 보내는 결정과 학교 예산에 찬성하는 투표의 결정이 상관관계가 있다고 생각되는 경우(두 결정은 이항이다), 다변량 프로빗 모델은 개별적인 기준으로 이러한 두 가지 선택을 공동으로 예측하는 데 적합할 것이다.J.R. Ashford와 R.R. Sowden은 처음에 다변량 프로빗 분석을 위한 접근법을 제안했다.^[1]싯다르타 치브와 에드워드 그린버그는 이 아이디어를 확장했으며 매개변수 추정을 단순화하고 일반화한 다변량 프로빗 모델에 대한 시뮬레이션 기반 추론 방법도 제안했다.^[2]

예제: 이변량 프로빗

일반 프로빗 모델에서는 이항 종속 변수 $Y{\displaystyle }$ ${\displaystyle Y}$이(가) 하나만 있으므로$$ 잠재 변수 $Y{\displaystyle {}^{}}$ ${\displaystyle {\ast }^{}}$ ${\$ Y$^{*}$ 하나만 사용된다$$.이와는 대조적으로, 이변량 프로빗 모델에는 두 $개$의 이항 종속 변수 Y ${\displaystyle {1\mathrm{}}_{}}$ ${\$1}과$$ Y 2 ${\$2}}개가 $있으므로$ 두 개의 잠재적 변수가 있다.${\displaystyle Y_{}^{}}$ $∗{\$ 및$$ ${\displaystyle {Y\mathrm{}}_{}^{}}$ $2{\displaystyle {}_{}^{}}$ ${\displaystyle {}_{}^{}}$ ${\$ 관찰된 각 변수가 양수 값을 갖는 경우에만 값 1을 갖는다고 가정한다.

${\displaystyle Y_{1}={\begin{case}1&{\text}{{1}^{}}0,\0&{\text{otherwise},\case{case}}}}}$

${\displaystyle Y_{2}={\begin{case}1&{\text}{{2}^{*}}}0,\0&{\text{otherwise},\case{case}}}}}}$

, 와 함께.

${\displaystyle {\displaysty}Y_{1}^{*}=X_{1}\beta _{1}+\varepsilon _{1}\\Y_{2}^{*}=X_{2}}\베타 _{2}+\varepsilon _{2}\end{case}}}$

, 그리고

${\displaystyle {\begin{bmatrix}\varepsilon _{1}\\\varepsilon _{2}\end{bmatrix}}\mid X\sim {\mathcal {N}}\left({\begin{bmatrix}0\\0\end{bmatrix}},{\begin{bmatrix}1&\rho \\\rho &1\end{bmatrix}}\right)}$

이바리테이트 프로빗 모델을 맞추려면 ${\displaystyle {\beta \mathrm{}}_{}}$ 1${\displaystyle {}_{}}$, ${\displaystyle {\beta \mathrm{}}_{}}$ 2${\displaystyle {}_{}}$, ${\displaystyle \beta _{1},\\beta$ _${2},$$\rho$ {\$displaysty$ \$rho }$ 등의 값을 추정해야 한다$.$ 그렇게 하려면 모델의 가능성을 극대화해야 한다.이 가능성은

${\displaystyle {\begin{aigned}L(\beta _{1},\beta _{2}={\Big(}\prod &P(Y_{1}=1,Y_{2}=1\mid \beta _{1},\beta _{2}^{{}}Y_{1}Y_{2}}P(Y_{1}=0,Y_{2}=1\mid \beta _{1},\beta _{2}^{(1-Y_{1})Y_{2}}\\[8pt]&{}\qquad P(Y_{1}=1,Y_{2}=0\mid \beta _{1},\beta _{2}^{{}}Y_{1}(1-Y_{2})}P(Y_{1}=0,Y_{2}=0\mid \beta _{1},\beta _{2}^{1-Y_{1}(1-Y_{2})({\Big )}{\end{arged}}}}}}}}}$

확률함수에서$$ 잠재 변수 $Y{\displaystyle {}_{}^{}}$ ${\displaystyle {1\mathrm{}}_{}^{}}$ ${\displaystyle {}_{}^{}}$ ${\$ Y$$ ${\displaystyle {2\mathrm{}}_{}^{}}$ ${\displaystyle {}_{}^{}}$ ${\$을 대체하고 로그를 취하면 다음과 같은 결과를 얻을 수 있다.

${\displaystyle {\begin}\sum &{\Big(}Y_{1})Y_{2}\ln P(\varepsilon _{1}-X_{1}\beta _{1},\varepsilon _{1},\valpsilon _{2}}-X_{2}\beta _{2}\2}\[4pt]\}\{}+(1-Y_{1})Y_{2}\ln P(\varepsilon _{1}<-X_{1}\beta _{1},\varepsilon _{2}>-X_{2}\beta _{2})\\[4pt]&{}\quad {}+Y_{1}(1-Y_{2})\ln P(\varepsilon _{1}>-X_{1}\beta _{1},\varepsilon _{2}<-X_{2}\beta _{2})\\[4pt]&{}\quad {}+(1-Y_{1})(1-Y_{2})\ln P(\varepsilon _{1}<-X_{1}\beta _{1},\varepsilon _{2}<-X_{2}\beta _{2}){\Big )}.\end{정렬}}}$

일부 재작성 후 로그 우도 함수는 다음과 같이 된다.

${\displaystyle {\begin}\sum &{\Big(}Y_{1})Y_{2}\ln \Phi(X_{1}\beta _{1},X_{2}\beta _{2}\{2}\beta _{2}, {2},\2}\\[4pt]\}\quad {}+(1-Y_{1})Y_{2}\ln \Phi (-X_{1}\beta _{1},X_{2}\beta _{2},-\rho )\\[4pt]&{}\quad {}+Y_{1}(1-Y_{2})\ln \Phi (X_{1}\beta _{1},-X_{2}\beta _{2},-\rho )\\[4pt]&{}\quad {}+(1-Y_{1})(1-Y_{2})\ln \Phi (-X_{1}\beta _{1},-X_{2}\beta _{2},\rho ){\Big )}.\end{정렬}}}$

$\phi {\displaystyle \mathrm{}}$ ${\displaystyle \Phi }$은(는) 이변량 정규 분포의 누적 분포 함수라는 점에 유의하십시오.${\displaystyle {}_{}}$로그 우도함수의 ${\displaystyle Y_{}}$$$ ${\displaystyle {1\mathrm{}}_{}}$ ${\$및 ${\displaystyle Y_{}}$ 2 ${\$}}: 1 또는 0과 동일한 변수가 관찰된다.

다변량 프로빗

${\displaystyle \mathrm{일반}}$ $사례$의 경우${\displaystyle {}_{}{y\mathbf{}}_{}}$i =${\displaystyle }$(${\displaystyle \mathrm{y}}$ ${\displaystyle {}_{}}$,${\displaystyle }$. . . .${\displaystyle {}_{}}$.${\displaystyle }$.${\displaystyle }$. .${\displaystyle }$. .${\displaystyle N}$)${\displaystyle \mathbf {y_{i}} =(y_{1}, y_{j}),\(i=1,...)$$,N)}$은(는$)$ j {\$displaystyle$ $j$$}$을(를) 선택으로$,$ i {\$displaystyle$ i$}$을(를) 개인 또는 관찰로$$ 선택할 수 있는 경우$$, ${\displaystyle {선택\mathbf{}}_{}}$ y ${\$을(를) 관찰할 확률은 다음과 같다$$.

${\displaystyle {\begin{aligned}\Pr(\mathbf {y_{i}} \mathbf {X_{i}\beta } ,\Sigma )=&\int _{A_{J}}\cdots \int _{A_{1}}f_{N}(\mathbf {y} _{i}^{*} \mathbf {X_{i}\beta } ,\Sigma )dy_{1}^{*}\dots dy_{J}^{*}\\\Pr(\mathbf {y_{i}} \mathbf {X_{i}\beta } ,\Sigma )=&\int \mathbb {1} _{y^{*}\in A}f_{N}(\mathbf {y} _{i}^{*} \mathbf {X_{i}\beta } ,\Sigma )d\mathbf {y} _{i}^{*}\end{aligned}}}$

여기서 $A{\displaystyle }$= ${\displaystyle {A\mathrm{}}_{}}$ ${\displaystyle {}_{}}$ ${\displaystyle \times }$ ${\displaystyle \times }$ ${\displaystyle A_{}}$ J ${\$ \$cdots \time A_{J}$ 및$$,

${\displaystyle A_{j}={\begin{case}(-\flt ,0]&y_{j}=0\\(\fty )&y_{j}=1\end}}}}}}$

${\displaystyle \underset{}{\overset{}{이}}}$ 경우의 로그 우도 함수는 $∑$ i${\displaystyle \underset{}{\overset{}{}}}$= 1 ${\displaystyle \underset{}{\overset{}{\mathrm{N}}}}$ ${\displaystyle \mathrm{로그}pr}$ Pr${\displaystyle }$(${\displaystyle yi{}_{}{\mathbf{}}_{}}$ ${\displaystyle {}_{}}$ i${\displaystyle }$β ,${\displaystyle \mathrm{\sigma }}$ )$${\$displaystyle \sum _{i=1}^{N}\log$\Pr$(\mathbf${y_${i}}$ \$mathbf {X_{i}}},\Sigma$ )일 것이다$.$

$J$ ${\displaystyle \le }$ ${\displaystyle 2}$ ${\displaystyle J\leq 2}$을 제외하고 일반적으로 로그 우도 방정식의 통합에 대한 폐쇄형 폼 솔루션은 없다.대신에 시뮬레이션 방법을 사용하여 선택 확률을 시뮬레이션할 수 있다.중요도 샘플링을 사용하는 방법으로는 GHK 알고리즘(Geweke, Hajivassilou, McFadden, Keane),^[3] Stern의 방법인 AR(accept-reject)이 있다.또한 CRB(Rao-Blackwellization을 사용한 Chib의 방법), CRT(Chib, Ritter, Tanner), ARK(수용-거부 커널), ASC(어댑티브 샘플링 커널)를 포함한 MCMC 접근법이 있다.^[4]대규모 데이터셋에 대한 가변적 접근방식은 Probit-LMM(Mandt, Wenzel, Nakjama et al.)^[5]에서 제안된다.

참조

추가 읽기

• 그린, 윌리엄 H, 계량 분석, 7판 프렌티스 홀, 2012.