라플레이스의 방법

Laplace's method

수학에서 라플레이스의 방법피에르-시몬 라플레이스의 이름을 따서 명명된 것으로, 형태의 대략적인 통합에 사용되는 기법이다.

여기서 ( ) 은 두 번 구별할 수 있는 함수이고, M은 큰 숫자이며, 끝점 ab는 무한할 수 있다. 이 기술은 원래 라플라스 (1774)에서 제시되었다.

베이지안 통계에서 라플라스 근사치가우스인이 최대 후사 추정치를 중심으로 하여 후사분포를 근사하는 라플라스 방법을 적용하는 것을 말한다.[1]

라플레이스의 방법론

( )= ( ) x {\의 글로벌 최대값은 M = 0.5의 경우 에 표시되고 M = 3(둘 다 파란색)의 아래쪽에 표시된다. M이 증가함에 따라 가우스 함수에 의한 이 함수의 근사치(빨간색으로 표시)가 향상된다. 이 관찰은 라플레이스의 방법의 기초가 된다.

함수 ( ) 이(가) x에서0 고유한 전역 최대값을 가졌다고 가정하십시오. Let > 은(는) 상수로 하고 다음 두 가지 기능을 고려하십시오.

x0 글로벌 최대값이기도 함을 참고하십시오. 이제 다음을 관찰하십시오.

M이 증가하면 의 비율은 기하급수적으로 증가하는 반면 의 비율은 변하지 않는다. 따라서 이 함수의 적분에 대한 유의미한 기여는 x0 인접 지점의 x에서만 발생하며, 이 점은 추정할 수 있다.

라플라스 방법론

그 방법을 진술하고 동기를 부여하기 위해서는 몇 가지 가정이 필요하다. x0 통합 간격의 끝점이 아니며, xx0 가깝지 않으면 f (x ) f( {\ f에 매우 근접할 수 없으며, ( < }<0})이라고 가정할 것이다

테일러의 정리대로 x 주위0 f () 을(를) 확장할 수 있다.

= O( - 0) ) big O 표기법 참조).

x에서0 글로벌 최대값을 가지며, x0 끝점이 아니기 때문에 정지점이기 때문에 의 파생상품은 x에서0 사라진다. f( ) 함수는 2차 순서에 가깝게 추정될 수 있다.

0 가까운 x( ( )< 0 의 경우 가정은 근사치의 정확성을 보장한다.

(오른쪽 그림 참조). 이 후자의 적분은 통합의 한계가 -disc에서 +discuit로 가는 경우0 가우스 적분이고, 따라서 계산될 수 있다. 우리는 찾아낸다

이 방법의 일반화와 임의의 정밀도에 대한 확장은 안개(2008)에 의해 제공된다.

형식적 진술 및 증거

( ) 가) , 에서 연속적으로 두 번 다른 함수이며 다음과 같은 고유한 점 이 있다고 가정해 보십시오.

다음:

증명

하한: ;0{\displaystyle \varepsilon>0}. f″{\displaystyle f"}연속이 δ 을이 존재한다;0{\displaystyle \delta>0}만약 x0− c<>δ{\displaystyle x_{0}-c<>\delta}가 그때 f ″(c)≥ f− ε(x0)″.{\displaystyle f"(c)\geq f"(x_{0})-\varepsiloε하자.n.}테일러의로s 정리 (0 -, + ) , , )}

그러면 우리는 다음과 같은 하한선을 갖게 된다.

변수의 변화로 마지막 평등이 얻어지는 곳

부정의 제곱근을 취할 수 있도록 ( )< 을(를) 기억하십시오.

위의 불평등 양쪽을 다음과 같이 나누면

그리고 우리가 얻는 한계는 다음과 같다.

이는 의 {{\에 해당하므로 다음과 같은 하한을 얻는다.

이 증거는 = - } b ={{\}(또는 둘 다)일 때도 효과가 있다는 점에 유의하십시오.

상한: 그 증거는 하한선과 유사하지만 몇 가지 불편한 점이 있다. 다시 우리는ε 을 주워;0{\displaystyle \varepsilon>0}지만기 위해서는 증거를 일할 우리가{\displaystyle \varepsilon} 작은 충분히 ε이 필요하도록 f″(x0)+ε<0.{\displaystyle f"(x_{0})+\varepsilon<0을 시작한다.}그리고 나서 위와 같이, f″{\displaystyle f"}의 연속성과 테일러의 정리에 의해 우리가 할 수 있다. > (를) 찾아서 x- 0< }을 찾으십시오.

Lastly, by our assumptions (assuming are finite) there exists an such that if , then .

그러면 다음과 같은 상한을 계산할 수 있다.

위의 불평등 양쪽을 다음과 같이 나누면

그리고 우리가 얻는 한계는 다음과 같다.

은(는) 임의적이므로 상한을 구한다.

그리고 이것을 하한과 결합하면 결과가 나온다.

위의 증거는 = - 또는 = 또는 둘 다)일 때 명백히 실패한다는 점에 유의하십시오. 이 사건들을 처리하려면, 우리는 몇 가지 추가적인 추측이 필요하다. (필요하지 않은) 가정은 n= ,이다.

와 같은 숫자 }이() 존재한다는 것(참고:[a 간격이 무한인 경우 이는 가정이어야 함). 증명은 위와 같이 진행되지만, 통합의 근사치는 약간 다르다.

으로 나눌 때

우리는 이번 학기 동안 받을 수 있다.

의 제한은 입니다 나머지 증명(흥미로운 용어의 분석)은 위와 같이 진행된다.

무한간격 사례에서 주어진 조건은 위에서 말한 바와 같이 충분하지만 필요하지는 않다. 그러나 대부분의 응용분야는 아니더라도 많은 응용분야에서 조건이 충족된다: 조건은 단순히 우리가 공부하고 있는 적분은 잘 정의되어 있어야 한다(무한하지 않아야 함), 0에서 함수의 최대치는 "진정한" 최대치(숫자 number > \eta 이 존재해야 함)라고 말한다. = 에 대해 적분 유한성을 요구할 필요는 없지만, 일부 = 에 대해서는 적분 유한성을 요구하기에 충분하다

이 방법은 다음과 같은 4가지 기본 개념에 의존한다.

개념
1.상대오류

이 방법의 "대략"은 절대 오차가 아니라 상대 오차와 관련이 있다. 그러므로 만약 우리가 설정한다면

본질은 다음과 같이 쓸 수 있다.

여기서 은(는) M (가) 명백히 큰 숫자일 때 작은 숫자이고 상대적 오류는

이제 이 을 y - y, [\ 영역과 나머지 영역으로 구분해 봅시다.

2. ( ( s + )- f( 0) - (가) 충분히 클 때 정지점 주위에

taylor( ( )- f( 중심으로0 확장된 것을 보고 y 공간에서는 비교를 하기 때문에 x 대 y로 번역해 보자.

은(는) 정지점이기 때문에 )= 에 유의하십시오. From this equation you will find that the terms higher than second derivative in this Taylor expansion is suppressed as the order of so that will get closer to the Gaussian function as shown in figure. 게다가

The figure of with equals 1, 2 and 3, and the red line is the curve of function .
3. (가) 클수록 의 작은 범위가 관련됨

Because we do the comparison in y-space, is fixed in which will cause ; however, is inversely proportional to 한 x 영역은 M (를) 늘리면 작아진다.

4. 라플레이스의 방법의 적분이 수렴하면 상대적 오류 통합의 정지점에 있지 않은 지역의 기여도가 M(가) 증가함에 따라 0이 되는 경향이 있다.

세 번째 개념에 의존해서 우리가 아주 큰 Dy 선택하더라도, 엄청난 숫자로 늘렸을 때 sDy 마침내 아주 적은 숫자가 될 것이다. 그렇다면 이(가) 충분히 큰데 나머지의 적분이 0이 된다고 어떻게 장담할 수 있겠는가?

아이디어는 ( ) f( ) ≥ ( ) e ( x) 의 적분은 M 커지면 0이 되는 경향이 있는 기능 m을 찾는 것이다. ( x) 의 지수함수는 m( x) m이() 실수인 한 0보다 크며, 이 지수함수는 m( ), 에 비례하기 의 적분은 0이 0이 0이 된다. 단순성을 위해 그림에서와 같이 ( ) 을(를) = D 지점의 접선으로 선택하십시오.

( ) 은(는) =± D + x {\ x를 통과하는 두 개의 접선 라인으로 표시된다 가 작아지면 커버 영역이 커진다.

만약 이 방법의 통합 간격이 유한하다면, 는 f( ) 이(가) 나머지 영역에서 계속된다 하더라도 {\}이() 충분히 클 때 위의 ( x) 보다 항상 작다는 것을 알게 될 것이다. 그런데, 에 M (가) 충분히 클 때 e e의 적분이 0이 되는 경향이 있음을 증명할 것이다.

이 방법의 통합 간격이 무한하면 x) 및 f) 이(가) 항상 서로 교차할 수 있다. 만일 , 는 e f(x e의 적분이 최종적으로 0이 되는 경향을 보일 것이라고 장담할 수 없다. 예를 들어 ( x)= ( ) x, {\ e ( x ) ( x ) 따라서 무한 간격 사례에 대해 M ( ) 이(가) 수렴할 수 있도록 요구할 필요가 있다. 만일 그렇다면, 이 적분은 () 충분히 크면 0이 되는 경향이 있으며, 는 m ( x ) {\ m(f x ) . {\ 의 교차로서 d을 선택할 수 있다

d ( x) {\을(를) 수렴 적분으로 선택하는 것이 어떻겠느냐고 물을 수도 있다. 예를 들어 그 이유를 보여 주겠다. Suppose the rest part of is then and its integral will diverge; however, when the integral of 회 수렴한다. 따라서 일부 통합은 M {\ M이(가) 큰 숫자가 아닐 때 분산되지만 M이(가) 충분히 클 때 수렴된다.

이 네 가지 개념을 바탕으로 우리는 이 라플레이스의 방법의 상대적 오류를 도출할 수 있다.

기타 제형식

라플레이스의 근사치는 때때로 다음과 같이 쓰여진다.

서 h 은(는) 양의 값이다.

중요한 것은, 근사치의 정확도는 의 변수, g( x) 머무르는 것과 ( ) 에 들어가는 것에 달려 있다[2]

상대적 오류의 파생

먼저 = 을(를) 사용하여 전역 최대값을 나타내며, 이 파생을 단순화한다. 는 R R로 쓰여진 상대적 오류에 관심이 있다

어디에

그래서, 우리가 허락한다면

A 0 e- 2{\ e2 우리는 얻을 수 있다.

- 0 = 1 {\_{-\

상한의 + B≤ A+ , A A + B에 따라 이 통합을 각각 세 가지 유형(a), (b) 및 (c)으로 5 부분으로 나눌 수 있다. 그러므로

where and are similar, let us just calculate and and are similar, too, I’ll just calculate .

) 의 경우 y2 {\ y}}번 번역한 후 우리는 얻을 수 있다.

은 D 가 충분히 크기만 하면 0이 되는 경향이 있다는 것을 의미한다.

) 의 경우

어디에

( x) 은(는) 이 영역 동안 ( ) 의 동일한 기호를 가져야 한다. Let us choose as the tangent across the point at , i.e. which is shown in the figure

( ) (는) x= sD y {\sD_{의 점을 가로지르는 접선 선입니다.

이 그림에서 또는 이(가) 작아지면 위의 불평등을 만족하는 영역이 더 커짐을 알 수 있다. 따라서( ) 의 간격 동안 ( x) 을(를) 커버할 수 있는 한 m) m(을(를) 찾으려면 y 의 상한 값이 된다. 게다가 - e의 통합은 간단하기 때문에, 이(1 에 의해 발생한 상대적 오류를 추정하는 데 사용하겠다

테일러 확장을 바탕으로

그리고

그리고 나서 그것들을 다시(1 ) 의 계산으로 대체한다 그러나 이 두 팽창의 잔존자는 M{\}의 제곱근에 반비례한다는 것을 발견할 수 있다 계산을 미화하기 위해 그것들을 내려놓을 수 있다. 그것들을 유지하는 것이 더 좋지만, 그것은 그 공식을 더 못생기게 만들 것이다.

따라서 커지면 0이 되는 경향이 있지만, 이 계산 중에는 {\의 상한 값을 고려해야 한다는 점을 잊지 마십시오.

= 에 가까운 통합에 대해서도 테일러의 정리를 사용하여 계산할 수 있다 ( ) h 0인 경우

M 의 제곱근에 반비례한다는 것을 알 수 있다 실제로( ) ( x ) {\이 상수일 때 동작이 같을 것이다.

결정적으로 부근의 적분은 M (가) 커짐에 따라 작아지고, 나머지 {\(가) 충분히 크기만 하면 0이 되는 경향이 있지만, {\이) 상한을 가지고 있다는 것을 기억해야 한다. ( x) 은(는) 항상 나머지 영역의 ( )- ( ) 보다 크다. However, as long as we can find one satisfying this condition, the upper bound of can be chosen as directly proportional to since is a tangent across the point of = D y ystyle g(0 따라서 (가) 클수록 y}은는) 클 수 있다.

가) d -d차원 이고 f) x 의 스칼라 함수인 다변수의 경우 라플라스의 근사치는 일반적으로 다음과 같이 기록된다.

여기서 ( )( 0) 에서 평가된 f 헤시안 행렬이며, 여기서행렬 결정요인을 나타낸다. 일변량 사례와 유사하게, 헤시안은 음의 확정이 요구된다.[3]

By the way, although denotes a -dimensional vector, the term denotes an infinitesimal volume here, i.e. .

라플레이스의 방법 확장: 급강하

라플레이스의 방법의 연장에서는 복잡한 분석, 특히 카우치의 적분 공식은 선 적분으로 표현되는 (대형 M을 갖는 비증상학적으로) 등가선 적분에서 가장 가파른 강하 윤곽을 찾는 데 사용된다. 특히 라인에서f {\f}의 파생상품이 소멸되는 지점 x0 없는 경우, 위의 분석이 가능한 최적의 것으로 통합 윤곽선을 변형할 필요가 있을 수 있다. 다시 말하지만, 주요 아이디어는 적어도 무증상적으로 명시적으로 평가할 수 있는 더 간단한 적분 계산에 주어진 적분 계산을 줄이는 것이다. 간단한 논의는 에르델리이(1956년)의 책을 참고하십시오(여기서 방법은 가장 가파른 내리막이라고 불린다).

복합 z-평면에 적합한 제형은

안장 지점 z0 통과하는 경로 두 번째 파생상품의 방향을 나타내는 마이너스 기호의 명시적인 외관에 유의하십시오. 계수를 가져서는 안 된다. 또한 통합이 공형인 경우 윤곽선을 변형하는 동안 횡방향으로 이동한 극에 해당하는 잔류물을 추가해야 할 수 있다(예: Okunkov의 종이 Symmetric 함수와 랜덤 파티션의 섹션 3 참조).

추가 일반화

가장 가파른 내리막길의 확장은 이른바 비선형 정지 위상/스티븐 강하 방법이다. 여기서는 통합이 아니라 리만-힐버트 요인화 문제의 점증적 해결책을 평가할 필요가 있다.

복잡한 구체의 등고선 C에 대해 정의된 함수 와 그 등고선에 정의된 특수 지점인 무한대로 말하면, 사람들은 등고선 C에서 멀리 떨어져 있는 함수 M의 홀로모르픽을 찾고, C를 가로질러 규정된 점프를 하며, 무한대로 일정한 정규화를 가진다. f 따라서 M이 스칼라보다 행렬이라면 이는 일반적으로 명시적인 해결책을 인정하지 않는 문제다.

그런 다음 선형 정지 위상/스티븐 강하 방법의 라인을 따라 무증상 평가가 가능하다. 그 아이디어는 주어진 리만-힐버트 문제의 해결책을 더 단순하고 명백하게 해결할 수 있는 리만-힐버트 문제의 해결책으로 점증적으로 축소하는 것이다. 코치의 정리는 점프 윤곽의 변형을 정당화하는 데 사용된다.

비선형 정지 단계는 Its의 초기 저작에 기초하여 Deift와 Jough에 의해 1993년에 도입되었다. 캄비시스, K. 맥러플린, P에 의해 (적당하게) 비선형 급강하 방식이 도입되었다. 밀러는 2003년, Lax, Levermore, Deift, Venakides, Zoo의 이전 작품을 바탕으로 하였다. 선형 사례에서와 같이 "스티븐 강하 등고선"은 최소-최대 문제를 해결한다. 비선형적인 경우에서 그것들은 "S-곡선"으로 판명된다(Stahl, Gonchar, Rakhmanov에 의해 80년대에 다른 맥락에서 정의되었다).

비선형 정지 위상/스티븐 강하 방법은 솔리톤 방정식과 통합 가능한 모델, 무작위 행렬조합에 적용된다.

라플레이스의 방법 일반화: 중위수 점 근사치

일반화에서 적분 평가는 밀도를 갖는 분포의 규범을 찾는 것과 동등한 것으로 간주된다.

밀도가 있는 차이점형 가우스 분포가 있는 경우 누적 F( ) 을(를

표준은 에 의해 주어진다.

그리고 그에 상응하는 차이점들은

여기서 은(는) 누적 표준 정규 분포 함수를 나타낸다.

일반적으로 가우스 분포와 다른 분포는 밀도가 있다.

중위수는 가우스 분포의 중위수에 매핑된다. 주어진 순서에 따라 중앙값 지점의 밀도 함수와 그 파생상품의 로그 값을 일치시키면 의 대략적인 값을 결정하는 방정식 시스템이 생성된다

근사치는 D에 의해 2019년에 도입되었다. 마코곤과 C. 모라이스 스미스는 주로 페르미온 상호 작용 시스템에 대한 파티션 함수 평가의 맥락에서 일한다.

복잡한 통합

양식의 복잡한 통합의 경우:

, 1(를) 사용하여 대체 t = iu를 만들고 변수 = c+ 을(를) 변경하여 양방향 Laplace 변환:

그런 다음 g(c + ix)를 실제와 복잡한 부분으로 나누고, 그 후에 u = t/i를 복구한다. 이것은 역 라플라스 변환, Perron 공식 및 복잡한 통합에 유용하다.

예제: 스털링의 근사치

라플레이스의 방법은 스털링의 근사치를 도출하는 데 사용될 수 있다.

정수 N의 경우.

감마 함수의 정의로 볼 때

x= (를) d = d 로 변경한다 이 값을 다시 꽂아서 가져오십시오.

이 적분은 라플레이스의 방법에 필요한 형태를 가지고 있다.

두 번 반복 가능:

( ) 최대값0 z = 1이며, ( ) 의 두 번째 파생상품은 이 시점에서 -1 값을 갖는다. 그러므로 우리는 얻는다.

참고 항목

메모들

  1. ^ Gelman, Andrew; et al. (2014). "Modal and Distributional Approximations". Bayesian Data Analysis (Third ed.). Taylor & Francis. pp. 311–350. ISBN 978-1-4398-4095-5.
  2. ^ Butler, Ronald W (2007). Saddlepoint approximations and applications. Cambridge University Press. ISBN 978-0-521-87250-8.
  3. ^ MacKay, David J. C. (September 2003). Information Theory, Inference and Learning Algorithms. Cambridge: Cambridge University Press. ISBN 9780521642989.

참조

  • Azevedo-Filho, A.; Shachter, R. (1994), "Laplace's Method Approximations for Probabilistic Inference in Belief Networks with Continuous Variables", in Mantaras, R.; Poole, D. (eds.), Uncertainty in Artificial Intelligence, San Francisco, CA: Morgan Kaufmann, CiteSeerX 10.1.1.91.2064.
  • Deift, P.; Zhou, X. (1993), "A steepest descent method for oscillatory Riemann–Hilbert problems. Asymptotics for the MKdV equation", Ann. of Math., vol. 137, no. 2, pp. 295–368, arXiv:math/9201261, doi:10.2307/2946540, JSTOR 2946540.
  • Erdelyi, A. (1956), Asymptotic Expansions, Dover.
  • Fog, A. (2008), "Calculation Methods for Wallenius' Noncentral Hypergeometric Distribution", Communications in Statistics, Simulation and Computation, vol. 37, no. 2, pp. 258–273, doi:10.1080/03610910701790269.
  • Laplace, P S (1774), "Mémoires de Mathématique et de Physique, Tome Sixième" [Memoir on the probability of causes of events.], Statistical Science, 1 (3): 366–367, JSTOR 2245476
  • Wang, Xiang-Sheng; Wong, Roderick (2007). "Discrete analogues of Laplace's approximation". Asymptot. Anal. 54 (3–4): 165–180.

이 글에는 크리에이티브 커먼스 귀속/공유 앨리케 라이센스에 따라 라이센스가 부여된 PlanetMath의 새들 포인트 근사치의 자료가 통합되어 있다.