글로벌 최적화
Global optimization![]() |
글로벌 최적화는 주어진 집합에서 함수 또는 함수 집합의 글로벌 최소값 또는 최대값을 찾는 응용 수학 및 수치 분석의 한 분야입니다.실수값 g { g의 최대화는 f : { f g(x)\g(x)의 최소화와 같기 때문에 보통 최소화의 문제로 설명됩니다.
비선형 연속 함수 : δ {\ fOmega ^{ \{R} 글로벌 최소 f { f { * minim minim minim minim minim minim minim minim minim minim minim minim minim minim minimizersizersizersizersizersizersizersizersizersizers aa aaaaaaa aaaaa X of of of of of of of of of of of of ofizersizersizersizersizersizersizersizersizersizersizersizersizersizersizersizersizersizersizersizersizersizersizersizers
즉, X 에서 f {\ f 및 전역 최소화자를 . 여기서 {\는 부등식( ) , 1 , …, {\ (에 의해 정의된 (꼭 볼록하지 않은) 콤팩트 세트이다.
글로벌 최적화는 로컬 최소값 또는 최대값을 찾는 것이 아니라 주어진 세트에 대한 최소값 또는 최대값을 찾는 데 초점을 맞춘다는 점에서 로컬 최적화와 구별된다.임의의 로컬 최소값을 찾는 것은 고전적인 로컬 최적화 방법을 사용하여 비교적 간단합니다.함수의 글로벌 최소값을 찾는 것은 훨씬 더 어렵습니다. 분석 방법을 적용할 수 없는 경우가 많고, 수치적 솔루션 전략을 사용하면 종종 매우 어려운 문제를 야기합니다.
일반론
글로벌 최적화 문제에 대한 최근의 접근법은 최소 [1]분포를 통한 것입니다.본 연구에서는 콤팩트 집합 n\ \ \ \{ } ^ {의 연속 f {\ f와 그 글로벌 최소 f {\ f의 관계를 엄격하게 설정하였다.전형적인 경우로서 다음과 같이 된다.
한편.
서μ ( ( 는 세트 X (\ X 의 nn 르베게 측정값입니다f{\ f가 의 상수가 아닌 , \motoenic
는 모든 R \ k \ { 0 \ style \ k > }에 대해 유지되며, 이는 일련의 단조로운 억제관계를 의미하며, 예를 들어 다음과 같습니다.
또한 최소분포를 약한 f(\})로 정의하여 식별정보를
\ \ 로 콤팩트하게 지원되는 모든 스무스 \ \ 。 f \ _ { 、 \ Omega의 두 가지 속성을 다음에 나타냅니다.
- (1) f , \ _ { , \ }} satisfies ( 、 m f , (x ) x ( \ \_ { \ } m { , \ } ( ), \ { )
- (2) f{f가 { \에 연속인 f ( ) , d x { f^ { * } = \_ { \ Omega_ { ( x )x } { \ rm }
이에 비해, 미분 가능한 볼록 함수와 그 최소값 사이의 잘 알려진 관계는 구배에 의해 엄격하게 확립된다.f\f가 볼록 D Ddisplaystyle f로 미분 가능한 f는 다음과 같은 경우에만 볼록합니다.
f ) { \ f^{*} =은 f \ displaystyle f(y \ (x^{*})가 y D에 대해 을 합니다
적용들
글로벌 최적화 애플리케이션의 일반적인 예는 다음과 같습니다.
- 단백질 구조 예측(에너지/자유 에너지 기능 최소화)
- 계산 계통학(예를 들어 트리의 문자 변환 수를 최소화함)
- 출장 세일즈맨 문제 및 전기 회로 설계(경로 길이 최소화)
- 화학 공학(예: Gibbs 에너지 분석
- 안전성 검증, 안전 엔지니어링(예: 기계 구조물, 건물의)
- 최악의 경우 분석
- 수학적 문제(예: 케플러 추측)
- 객체 패킹(구성 설계) 문제
- 여러 분자역학 시뮬레이션의 시작점은 시뮬레이션할 시스템의 에너지의 초기 최적화로 구성됩니다.
- 안경 돌리기
- 이공계 무선 전파 모델 및 기타 많은 모델의 교정
- 비선형 최소 제곱 분석 및 기타 일반화와 같은 곡선 적합. 화학, 물리학, 생물학, 경제, 금융, 의학, 천문학, 공학 등의 실험 데이터에 모델 매개변수를 적합시키는 데 사용됩니다.
- IMRT 방사선 치료 계획
결정론적 방법
가장 성공적인 일반적인 정확한 전략은 다음과 같습니다.
내부 및 외부 근사
이 두 가지 전략 모두 함수를 최적화하는 집합을 다면체로 근사한다.내부근사에서는 다면체가 세트에 포함되는 반면 외부근사에서는 다면체가 세트를 포함한다.
절단면법
절단면법은 절단이라 불리는 선형 부등식을 통해 실현 가능한 집합 또는 객관적 함수를 반복적으로 미세화하는 최적화 방법의 포괄적 용어이다.이러한 절차는 혼합 정수 선형 프로그래밍(MILP) 문제에 대한 정수 솔루션을 찾는 데 널리 사용되며, 반드시 구별 가능한 볼록 최적화 문제를 해결하는 데에도 사용됩니다.MILP를 해결하기 위해 절단면을 사용하는 것은 Ralph E. Gomory와 Vavclav Chvartal에 의해 도입되었습니다.
분기 및 경계 방식
분기 및 경계(BB 또는 B&B)는 이산 및 조합 최적화 문제에 대한 알고리즘 설계 패러다임입니다.분기 및 경계 알고리즘은 상태 공간 검색을 통한 후보 솔루션의 체계적 열거로 구성됩니다. 후보 솔루션 집합은 루트에 전체 집합이 있는 루트 트리를 형성하는 것으로 간주됩니다.알고리즘은 솔루션 세트의 하위 집합을 나타내는 이 트리의 분기를 탐색합니다.브랜치의 후보 솔루션을 열거하기 전에 브랜치는 최적 솔루션의 상한 및 하한을 기준으로 체크되며 알고리즘에 의해 지금까지 발견된 최적 솔루션보다 더 나은 솔루션을 생성할 수 없는 경우 폐기됩니다.
인터벌 방식
구간 산술, 구간 수학, 구간 분석 또는 구간 계산은 수학 계산에서 반올림 오류와 측정 오류의 경계를 설정하고 그에 따라 신뢰할 수 있는 결과를 내는 수치 방법을 개발하기 위한 접근법으로 1950년대와 1960년대 이후 수학자들에 의해 개발된 방법입니다.구간 산술은 방정식과 최적화 문제에 대한 신뢰할 수 있고 보장된 솔루션을 찾는 데 도움이 됩니다.
실대수기하학에 기초한 방법
실대수는 실대수 기하학과 관련된 대수학의 한 부분이다.순서 필드 및 순서 링(특히 실제 닫힌 필드)의 연구와 양의 다항식 및 다항식의 제곱합 연구에 대한 이들의 적용에 주로 관련되어 있다.볼록 최적화에서 사용할 수 있습니다.
확률적 방법
Monte-Carlo 기반 알고리즘은 다음과 같습니다.
몬테카를로 직접 샘플링
이 방법에서는 대략적인 해법을 찾기 위해 무작위 시뮬레이션을 사용합니다.
예:출장 세일즈맨 문제는 이른바 기존의 최적화 문제입니다.즉, 따라야 할 최적의 경로를 결정하는 데 필요한 모든 사실(각 목적지 지점 간의 거리)이 확실하게 알려져 있으며, 목표는 가능한 이동 선택지를 통해 가장 낮은 총 거리를 갖는 경로를 찾는 것이다.다만, 목적지의 각 행선지에의 총 이동 거리를 최소한으로 억제하는 것이 아니라, 각 행선지에의 도달에 필요한 총시간을 최소한으로 억제한다고 가정해 봅시다.이는 이동 시간이 본질적으로 불확실하기 때문에(교통 체증, 하루 중 시간 등) 기존의 최적화를 넘어서는 것입니다.그 결과 최적의 경로를 결정하기 위해 시뮬레이션 - 최적화를 사용하여 한 지점에서 다른 지점(이 경우 특정 거리가 아닌 확률 분포로 표시됨)으로 이동할 수 있는 잠재적 시간의 범위를 파악한 후 여행 결정을 최적화하여 따라야 할 최적의 경로를 식별하고자 합니다.그 불확실성을 감안해서.
확률 터널링
확률 터널링(STUN)은 함수의 몬테 카를로 방법-샘플링에 기초한 글로벌 최적화에 대한 접근법이며, 함수는 함수 최소화를 포함하는 영역 간에 보다 쉬운 터널링을 가능하게 하기 위해 비선형적으로 변환된다.터널링이 용이하여 샘플 공간을 보다 빠르게 탐색할 수 있으며 우수한 솔루션으로 보다 빠르게 수렴할 수 있습니다.
병렬 템퍼링
복제품 교환 MCMC 샘플링이라고도 알려진 병렬 감쇠는 물리적 시스템의 몬테카를로 방법 시뮬레이션 및 마르코프 연쇄 몬테카를로(MCMC) 샘플링 방법의 동적 특성을 개선하는 것을 목적으로 하는 시뮬레이션 방법입니다.복제 교환 방법은 원래 Swendsen에 [2]의해 고안되었고, 그 후 Geyer에[3] 의해 확장되었고, 후에 Giorgio Parisi에 의해 개발되었습니다.[4][5] 스기타와 오카모토는 병렬 [6]조절의 분자 역학 버전을 공식화했습니다: 이것은 보통 복제 교환 분자 역학 또는 REMD로 알려져 있습니다.
기본적으로 N개의 시스템 복사본을 랜덤으로 초기화하여 서로 다른 온도에서 실행합니다.그런 다음 Metropolis 기준에 따라 다른 온도에서 구성을 교환합니다.이 방법의 개념은 고온에서의 구성을 저온에서의 시뮬레이션에서 사용할 수 있도록 하는 것입니다.또, 그 반대도 마찬가지입니다.따라서 낮은 에너지 구성과 높은 에너지 구성을 모두 샘플링할 수 있는 매우 견고한 앙상블이 됩니다.이러한 방법으로, 일반적으로 정준 앙상블에서는 잘 계산되지 않는 비열과 같은 열역학적 특성을 매우 정밀하게 계산할 수 있다.
휴리스틱스 및 메타휴리스틱스
- 메인 페이지:메타휴리스틱
다른 방법으로는 다음과 같은 다소 지능적인 방법으로 검색 공간을 검색하는 경험적 접근 전략이 있습니다.
- 개미 군락 최적화(ACO)
- 일반적인 확률론적 메타 휴리스틱인 시뮬레이션 어닐링
- Tabu 검색, 로컬 최소값에서 벗어날 수 있는 로컬 검색 확장
- 진화 알고리즘(예: 유전 알고리즘 및 진화 전략)
- 차동 진화(differential evolution)는 특정 품질 측정과 관련하여 후보 솔루션을 반복적으로 개선함으로써 문제를 최적화하는 방법입니다.
- 군집 기반 최적화 알고리즘(예: 입자 군집 최적화, 사회 인지 최적화, 다중 군집 최적화 및 개미 군집 최적화)
- 글로벌 검색 전략과 로컬 검색 전략을 조합한 메모리 알고리즘
- 사후적 검색 최적화(즉, 검색 휴리스틱에 하위 기호 기계 학습 기술의 통합)
- 단계적 최적화(graded optimization)는 매우 단순화된 문제를 초기에 해결하여 어려운 최적화 문제와 동등해질 때까지 점진적으로 변환함으로써 어려운 최적화 문제를 해결하려고 [7][8][9]하는 기술입니다.
대응 표면 방법론 기반 접근법
「 」를 참조해 주세요.
각주
- ^ Xiaopeng Luo (2018). "Minima distribution for global optimization". arXiv:1812.03457.
{{cite journal}}
:Cite 저널 요구 사항journal=
(도움말) - ^ Swendsen RH와 Wang JS(1986) 스핀 글라스의 복제 몬테카를로 시뮬레이션 물리적 검토 서신 57 : 2607–2609
- ^ C. J. Geyer, 컴퓨터 과학 및 통계학, 제23회 인터페이스 심포지엄 진행, 뉴욕, 미국 통계학회, 페이지 156.
- ^ Marco Falcioni and Michael W. Deem (1999). "A Biased Monte Carlo Scheme for Zeolite Structure Solution". J. Chem. Phys. 110 (3): 1754–1766. arXiv:cond-mat/9809085. Bibcode:1999JChPh.110.1754F. doi:10.1063/1.477812. S2CID 13963102.
- ^ 데이비드 J. 얼과 마이클 W.(2005) "병렬 템퍼링: 이론, 응용 프로그램 및 새로운 관점.", 물리. 화학, 화학 물리, 7, 3910
- ^ Y. Sugita and Y. Okamoto (1999). "Replica-exchange molecular dynamics method for protein folding". Chemical Physics Letters. 314 (1–2): 141–151. Bibcode:1999CPL...314..141S. doi:10.1016/S0009-2614(99)01123-9.
- ^ Thacker, Neil; Cootes, Tim (1996). "Graduated Non-Convexity and Multi-Resolution Optimization Methods". Vision Through Optimization.
- ^ Blake, Andrew; Zisserman, Andrew (1987). Visual Reconstruction. MIT Press. ISBN 0-262-02271-0.[페이지 필요]
- ^ 호세인 모바히, 존 W.피셔 3세가우스 호모토피 연속과 볼록한 봉투 사이의 연결에 대하여, 컴퓨터 과학 강의 노트(EMMCVPR 2015), 스프링거, 2015.
- ^ Jonas Mockus (2013).글로벌 최적화에 대한 베이지안 접근법: 이론과 응용.Kluwer Academic.
레퍼런스
결정론적 글로벌 최적화:
- R. 호스트, H.Tuy, 글로벌 최적화: 결정론적 접근법, Springer, 1996.
- R. 호스트, P.M. 파달로스, N.V.Thoai, Global Optimization 소개, 제2판Kluwer Academic Publishers, 2000.
- A.Neumaier, Continuous Global Optimization and Constraint Satfaction, 271–369 in: Acta Numerica 2004 (A)Iserles, ed.) (캠브리지 대학 출판부 2004).
- M. Mongeau, H. Karsenty, V. Rouzé 및 J.-B.Hirart-Urruty, 블랙박스 글로벌 최적화를 위한 퍼블릭 도메인 소프트웨어 비교.최적화 방법과 소프트웨어 13(3), 페이지 203-226, 2000.
- J.D. Pintér, Global Optimization in Action - Continuous and Lipshitz Optimization : 알고리즘, 구현 및 응용 프로그램.클루어 학술 출판사, 도르트레흐트, 1996.현재 뉴욕의 스프링거 사이언스와 비즈니스 미디어가 배포하고 있습니다.이 책은 또한 확률적 지구 최적화 방법에 대해 논한다.
- L. Jaulin, M. Kieffer, O. Didrit, E. Walter(2001)적용 간격 분석.베를린: 스프링거.
- E.R. Hansen(1992), Interval Analysis를 사용한 글로벌 최적화, 뉴욕, Marcel Dekker.
모의 어닐링의 경우:
- Kirkpatrick, S.; Gelatt, C. D.; Vecchi, M. P. (1983-05-13). "Optimization by Simulated Annealing". Science. American Association for the Advancement of Science (AAAS). 220 (4598): 671–680. Bibcode:1983Sci...220..671K. doi:10.1126/science.220.4598.671. ISSN 0036-8075. PMID 17813860. S2CID 205939.
사후 대응 검색 최적화:
- 로베르토 바티티, M. 브루나토, F.Mascia, Reactive Search and Intelligent Optimization, Operations Research/Computer Science Interfaces Series, Vol.45, Springer, 2008년 11월ISBN 978-0-387-09623-0
확률적 방법의 경우:
- A. 지글랴프스키글로벌 랜덤 검색 이론수학과 그 응용.클루어 학술 출판사 1991년
- Hamacher, K (2006). "Adaptation in stochastic tunneling global optimization of complex potential energy landscapes". Europhysics Letters (EPL). IOP Publishing. 74 (6): 944–950. Bibcode:2006EL.....74..944H. doi:10.1209/epl/i2006-10058-0. ISSN 0295-5075.
- Hamacher, K.; Wenzel, W. (1999-01-01). "Scaling behavior of stochastic minimization algorithms in a perfect funnel landscape". Physical Review E. 59 (1): 938–941. arXiv:physics/9810035. Bibcode:1999PhRvE..59..938H. doi:10.1103/physreve.59.938. ISSN 1063-651X. S2CID 119096368.
- Wenzel, W.; Hamacher, K. (1999-04-12). "Stochastic Tunneling Approach for Global Minimization of Complex Potential Energy Landscapes". Physical Review Letters. American Physical Society (APS). 82 (15): 3003–3007. arXiv:physics/9903008. Bibcode:1999PhRvL..82.3003W. doi:10.1103/physrevlett.82.3003. ISSN 0031-9007. S2CID 5113626.
병렬 템퍼링의 경우:
- Hansmann, Ulrich H.E. (1997). "Parallel tempering algorithm for conformational studies of biological molecules". Chemical Physics Letters. Elsevier BV. 281 (1–3): 140–150. arXiv:physics/9710041. Bibcode:1997CPL...281..140H. doi:10.1016/s0009-2614(97)01198-6. ISSN 0009-2614. S2CID 14137470.
계속 방법의 경우:
- 지준우.효과적인 에너지 변환 스킴은 분자 배열을 적용하여 글로벌 최적화를 위한 특별한 연속 접근법이다.기술 보고서, Argonne National Lab., IL(미국), 1996년 11월
목적 함수의 정의 영역의 차원성에 대한 일반적인 고려사항:
- Hamacher, Kay (2005). "On stochastic global optimization of one-dimensional functions". Physica A: Statistical Mechanics and Its Applications. Elsevier BV. 354: 547–557. Bibcode:2005PhyA..354..547H. doi:10.1016/j.physa.2005.02.028. ISSN 0378-4371.
결정론적 글로벌 최적화 방법과 확률적 글로벌 최적화 방법을 비교할 수 있는 전략의 경우