랜덤 최적화
Random optimizationRO(Random Optimization, RO)는 최적화하기 위해 문제의 구배를 필요로 하지 않는 수치 최적화 방법의 제품군이며, 따라서 RO는 연속적이거나 차별화되지 않는 기능에 사용될 수 있다. 이러한 최적화 방법은 직접 검색, 파생상품이 없는 또는 블랙박스 방식으로도 알려져 있다.
무작위 최적화라는 명칭은 기초 수학 분석과 함께 RO를 조기에 제시했던 마타야스 덕분이다. RO는 현재 위치를 둘러싼 정규 분포와 같이 샘플링되는 검색 공간의 더 나은 위치로 반복적으로 이동하여 작동한다.
알고리즘.
Let f: ℝn → ℝ은 최소화해야 하는 피트니스 또는 비용 기능이다. x ∈ ℝn 검색 공간에 위치 또는 후보 솔루션을 지정하도록 한다. 기본 RO 알고리즘은 다음과 같이 설명할 수 있다.
- 검색 공간에서 임의의 위치로 x를 초기화하십시오.
- 종료 기준이 충족될 때까지(예: 수행된 반복 횟수 또는 적절한 체력에 도달할 때까지) 다음을 반복하십시오.
- 현재 위치에 정규 분포 랜덤 벡터를 추가하여 새 위치 y 샘플링
- (f(y) > f(x)인 경우 x = y를 설정하여 새 위치로 이동하십시오.
- 현재 x는 가장 잘 찾은 자리를 차지하고 있다.
이 알고리즘은 일정한 스텝 사이즈로 (1+1) 진화 전략에 해당한다.
수렴 및 변형
Matyas는 잠재적으로 무한정 많은 반복이 수행될 경우 최적으로 수렴할 것이 확실함을 보여주는 제한 방지 장치를 사용하여 단순한 단일 함수의 최적으로 RO 수렴의 기본 형태를 보여주었다. 그러나 이 증명은 제한된 수의 반복만 실행할 수 있기 때문에 실무에서 유용하지 않다. 실제로 이러한 이론적 제한 방지는 또한 검색 공간의 순수 무작위 표본 추출이 불가피하게 최적치에 가까운 임의로 샘플을 산출한다는 것을 보여줄 것이다.
수학적 분석은 또한 표본 추출에 다른 확률 분포를 사용하는 RO 변형에 대한 약간의 경미한 조건 하에서 최적치를 둘러싼 영역으로의 수렴이 불가피하다는 것을 규명하기 위해 Baba와 Solis 및 Wets에 의해 수행된다. 최적치에 접근하는 데 필요한 반복 횟수에 대한 추정치는 도레아가 도출한다.[4] 이 분석 Sarma[5]에 의해 두 현실 세계의 문제에 매우 느리고 더 나아 가지 않는 한 과정 가까이기 시작한 것은 방법 실제로 적절한 피트니스의 해결책을 추적할 수 있는 수 없었던 접근해야 하는이 최적점을 보여 주는 바바 Dorea의 optimizer 변형 사용 경험적 실험을 통해다는 비난을 받고 있다 브람스우선 가장 적당한
참고 항목
- 무작위 검색은 정규 분포가 아닌 하이퍼바이저에서 표본을 추출하는 최적화 방법의 밀접하게 관련된 제품군이다.
- Luus-Jakola는 표본 추출에서 균일한 분포와 기하급수적으로 표본 범위를 감소시키는 간단한 공식을 사용하여 밀접하게 관련된 최적화 방법이다.
- 패턴 검색은 기하급수적으로 감소하는 단계 크기를 사용하여 검색 공간의 축을 따라 단계를 수행한다.
- 확률적 최적화
참조
- ^ Matyas, J. (1965). "Random optimization". Automation and Remote Control. 26 (2): 246–253.
- ^ Baba, N. (1981). "Convergence of a random optimization method for constrained optimization problems". Journal of Optimization Theory and Applications. 33 (4): 451–461. doi:10.1007/bf00935752.
- ^ Solis, F.J.; Wets, R.J-B. (1981). "Minimization by random search techniques". Mathematics of Operations Research. 6 (1): 19–30. doi:10.1287/moor.6.1.19.
- ^ Dorea, C.C.Y. (1983). "Expected number of steps of a random optimization method". Journal of Optimization Theory and Applications. 39 (3): 165–171. doi:10.1007/bf00934526.
- ^ Sarma, M.S. (1990). "On the convergence of the Baba and Dorea random optimization methods". Journal of Optimization Theory and Applications. 66 (2): 337–343. doi:10.1007/bf00939542.