거울 강하

수학에서 미러 강하란 미분 가능한 함수의 국소 최소값을 찾기 위한 반복 최적화 알고리즘이다.

경사 강하 및 승수 가중치와 같은 알고리즘을 일반화한다.

역사

거울 강하법은 1983년 ^[1]네미로프스키와 유딘에 의해 처음 제안되었다.

동기

미분 가능 $함수$ F {\ $displaystyle$ $\mathbf {x} _{0}$ F $F$ 에 적용되는 구배 강하에서는 로컬 $F$ {\ $displaystyle$ F $}$ 에 $\mathbf {x} _{0}$ $\mathbf {x} _{0}$ x 0 {\ $displaystyle$ \ $mathbf {x}$ _ ${$ 0 $\mathbf {x} _{0}$ }으로 시작하여 $\mathbf {x} _{0},\mathbf {x} _{1},\mathbf {x} _{2},\ldots$ 0, $\mathbf {x} _{0},\mathbf {x} _{1},\mathbf {x} _{2},\ldots$ $\mathbf {x} _{0},\mathbf {x} _{1},\mathbf {x} _{2},\ldots$ , $\mathbf {x} _{0},\mathbf {x} _{1},\mathbf {x} _{2},\ldots$ 2, $...\displaystyle$ \ $mathbf {x}$ _ ${0}$ { $x} _mathb}$ 을 고려합니다. $\ldots }$ 은(는 $\mathbf {x} _{0},\mathbf {x} _{1},\mathbf {x} _{2},\ldots$ )

\mathbf {x} _{n+1}=\mathbf {x} _{n} -\display \la F(\mathbf {x} _{n}),\n\geq 0 .

(일정한 학습률 유지)

우리는 단조로운 시퀀스를 가지고 있다.

\displaystyle F(\mathbf {x} _{0})\geq F(\mathbf {x} _{1}\geq F(\mathbf {x} _{2}\geq \cdots ,})

따라서 시퀀스 $(\mathbf {x} _{n})$ ( $(\mathbf {x} _{n})$ n $(\mathbf {x} _{n})$ ) { $displaystyle (\mathbf {x} _{n})}$ 이 $(\mathbf {x} _{n})$ (가) 원하는 로컬 최소값으로 수렴되기를 바랍니다.

이는 다음과 같은 점에 주목함으로써 재구성할 수 있다.

\displaystyle \mathbf {x} _{n+1}=\display \min _{\mathbf {x} _{n} +\displayla F(\mathbf {x} _{n})^{T}(\mathbf {x} -\mathbf {x} _{n} {n} {n} {n})

$\|\mathbf {x} -\mathbf {x} _{n}\|^{2}$ , x $\mathbf {x} _{n+1}$ + $\mathbf {x} _{n+1}$ { $display$ style \ $mathbf { x$ } $_$ { $n$ $\mathbf {x} _{n}$ $}$ _ $\mathbf {x} _{n+1}$ { $display$ $style$ \ $mathbf$ { $x$ $\|\mathbf {x} -\mathbf {x} _{n}\|^{2}$ $_$ { $n$ } $\|\mathbf {x} -\mathbf {x} _{n}\|^{2}$ $\|\mathbf {x} -\mathbf {x} _{n}\|^{2}$ { $displaystyle \ mathbf { x }$ - \ $mathbf$ { $x$ } $^2$ ^{ n } 에서 $\mathbf{x}_n$ F 에 대한 $F$ $1차$ 근사를 최소화합니다.

이 유클리드 거리 항은 브레그만 거리의 특별한 예이다.다른 Bregman 거리를 사용하면 특정 ^[2]^[3]지오메트리의 최적화에 더 적합한 Hedge와 같은 다른 알고리즘이 생성됩니다.

공식화

볼록 $K\subset \mathbb {R} ^{n}$ K $K\subset \mathbb {R} ^{n}$ $K\subset \mathbb {R} ^{n}$ n $K\subset \mathbb {R} ^{n}$ \ $displaystyle$ K \ $subset$ \ $mathbb { R$ $\mathbb {R} ^{n}$ } ^ { $n$ } { { given $\|\cdot \|$ optimize optimize optimize given { $\|\cdot \|$ { { 、 $\mathbb {R} ^{n}$ n $\mathbb {R} ^{n}$ $\$ $cdot$ $\$ $}$ { $\|\cdot \|$ { { { { {{ { { {{ { $\mathbb {R} ^{n}$ { { $\|\cdot \|$ { { { we we $f$ { { { { { { { { { { { { { { {

또한 주어진 노름에 대해 미분 가능한 볼록 $h\colon \mathbb {R} ^{n}\to \mathbb {R}$ h : $h\colon \mathbb {R} ^{n}\to \mathbb {R}$ $h\colon \mathbb {R} ^{n}\to \mathbb {R}$ $h\colon \mathbb {R} ^{n}\to \mathbb {R}$ {\ $displaystyle$ h $\display\mathbb {R} ^{n}\to$ \ $mathbb {R$ $\alpha$ {\ $displaystyle \alpha}$ -display $\alpha$ 볼록함수가 주어진다.이를 거리 생성 함수라고 하며, 그 구배 $\nabla h\colon \mathbb {R} ^{n}\to \mathbb {R} ^{n}$ h : $\nabla h\colon \mathbb {R} ^{n}\to \mathbb {R} ^{n}$ n $\nabla h\colon \mathbb {R} ^{n}\to \mathbb {R} ^{n}$ $\nabla h\colon \mathbb {R} ^{n}\to \mathbb {R} ^{n}$ \ $displaystyle$ \ $displayla$ h \ dispect \ $mathbb$ { $R }$ ^{ $n}$ \ $to \mathbb {R} ^{n}}$ 을 $\nabla h\colon \mathbb {R} ^{n}\to \mathbb {R} ^{n}$ 미러 맵이라고 합니다.

미러 내림차순의 각 반복에서 첫 $x_{0}\in K$ x 0 $†$ $x_{0}\in K$ (\ $displaystyle x_{0$ }\ $in$ K $x_{0}\in K$ 부터 시작합니다.

이중 공간에 매핑: $\theta _{t}\leftarrow \nabla h(x_{t})$ t $\theta _{t}\leftarrow \nabla h(x_{t})$ $\theta _{t}\leftarrow \nabla h(x_{t})$ ( $\theta _{t}\leftarrow \nabla h(x_{t})$ t $\theta _{t}\leftarrow \nabla h(x_{t})$ ) { $displaystyle \theta$ _ { $t$ } \ left $화살표$ \ $la la$ h ( x $_$ { $t$ ) }
그라데이션 스텝을 사용하여 듀얼 공간에서 갱신합니다. $\theta _{t+1}\leftarrow \theta _{t}-\eta _{t}\nabla f_{t}(x_{t})$ t + $\theta _{t+1}\leftarrow \theta _{t}-\eta _{t}\nabla f_{t}(x_{t})$ $\theta _{t+1}\leftarrow \theta _{t}-\eta _{t}\nabla f_{t}(x_{t})$ $\theta _{t+1}\leftarrow \theta _{t}-\eta _{t}\nabla f_{t}(x_{t})$ t - $\theta _{t+1}\leftarrow \theta _{t}-\eta _{t}\nabla f_{t}(x_{t})$ t $\theta _{t+1}\leftarrow \theta _{t}-\eta _{t}\nabla f_{t}(x_{t})$ $\theta _{t+1}\leftarrow \theta _{t}-\eta _{t}\nabla f_{t}(x_{t})$ ( x $\theta _{t+1}\leftarrow \theta _{t}-\eta _{t}\nabla f_{t}(x_{t})$ t ) \ $displaystyle$ \ $theta _$ { t + 1 } \ $left 화살표 \ theta$ _ { t } - \ $eta$ _ { t } \ $secheta f _$ { $t$ （ $x$ _ { $t$ } } } } }
원래 공간에 매핑: $x'_{t+1}\leftarrow (\nabla h)^{-1}(\theta _{t+1})$ t + $x'_{t+1}\leftarrow (\nabla h)^{-1}(\theta _{t+1})$ $x'_{t+1}\leftarrow (\nabla h)^{-1}(\theta _{t+1})$ $x'_{t+1}\leftarrow (\nabla h)^{-1}(\theta _{t+1})$ ( $x'_{t+1}\leftarrow (\nabla h)^{-1}(\theta _{t+1})$ h $x'_{t+1}\leftarrow (\nabla h)^{-1}(\theta _{t+1})$ ) - $x'_{t+1}\leftarrow (\nabla h)^{-1}(\theta _{t+1})$ 1 ( $x'_{t+1}\leftarrow (\nabla h)^{-1}(\theta _{t+1})$ t + $x'_{t+1}\leftarrow (\nabla h)^{-1}(\theta _{t+1})$ $){$ $displaystyle$ x $'_{t+1}\left$ 화살표 $(\theta$ h $)^{-1}(\theta$ _ ${t+1})$
$x_{t+1}\leftarrow \min _{x\in K}D_{h}(x||x'_{t+1})$ 가능한 $영역$ K $({style$ K $K$ $x_{t+1}\leftarrow \min _{x\in K}D_{h}(x||x'_{t+1})$ $x_{t+1}\leftarrow \min _{x\in K}D_{h}(x||x'_{t+1})$ + $x_{t+1}\leftarrow \min _{x\in K}D_{h}(x||x'_{t+1})$ $x_{t+1}\leftarrow \min _{x\in K}D_{h}(x||x'_{t+1})$ $x_{t+1}\leftarrow \min _{x\in K}D_{h}(x||x'_{t+1})$ x $x_{t+1}\leftarrow \min _{x\in K}D_{h}(x||x'_{t+1})$ ∈ $x_{t+1}\leftarrow \min _{x\in K}D_{h}(x||x'_{t+1})$ $x_{t+1}\leftarrow \min _{x\in K}D_{h}(x||x'_{t+1})$ ( $x_{t+1}\leftarrow \min _{x\in K}D_{h}(x||x'_{t+1})$ x $x_{t+1}\leftarrow \min _{x\in K}D_{h}(x||x'_{t+1})$ + 1 $x_{t+1}\leftarrow \min _{x\in K}D_{h}(x||x'_{t+1})$ ) ) \ $display$ x _ ${ t$ + $1$ \ $leftarrow$ \ $min _$ { x \ $in$ K } $D_{h}(x$ x $'$ $_$ { $t+$ 1 $x_{t+1}\leftarrow \min _{x\in K}D_{h}(x||x'_{t+1})$ 에 $D_{h}$ 투영합니다. $D_{h}$ 서 D $D_{h}$ 는 {styleftyledisplay_ ${t$ +1}입니다.

내선번호

온라인 최적화 설정의 미러 강하를 온라인 미러 강하(OMD)^[4]라고 합니다.

「」를 참조해 주세요.

레퍼런스

^ 아르카디 네미로프스키와 데이비드 유딘입니다문제의 복잡성과 최적화의 방법 효율성.John Wiley & Sons, 1983년
^ Nemirovski, Arkadi(2012) 튜토리얼: 대규모 결정론적 및 확률적 볼록 최적화를 위한 미러 강하 알고리즘.https://www2.isye.gatech.edu/~nemirovs/COLT2012Tut.pdf
^ "Mirror descent algorithm". tlienart.github.io. Retrieved 2022-07-10.
^ Fang, Huang; Harvey, Nicholas J. A.; Portella, Victor S.; Friedlander, Michael P. (2021-09-03). "Online mirror descent and dual averaging: keeping pace in the dynamic case". arXiv:2006.02585 [cs.LG].

[1] 아르카디 네미로프스키와 데이비드 유딘입니다문제의 복잡성과 최적화의 방법 효율성.John Wiley & Sons, 1983년

[2] Nemirovski, Arkadi(2012) 튜토리얼: 대규모 결정론적 및 확률적 볼록 최적화를 위한 미러 강하 알고리즘.https://www2.isye.gatech.edu/~nemirovs/COLT2012Tut.pdf

[3] "Mirror descent algorithm". tlienart.github.io. Retrieved 2022-07-10.

[4] Fang, Huang; Harvey, Nicholas J. A.; Portella, Victor S.; Friedlander, Michael P. (2021-09-03). "Online mirror descent and dual averaging: keeping pace in the dynamic case". arXiv:2006.02585 [cs.LG].

[1]

[2]

[3]

[4]

Search

거울 강하

네임스페이스

더

목차

역사

동기

공식화

내선번호

「」를 참조해 주세요.

레퍼런스

Search

거울 강하

역사

동기

공식화

내선번호

「 」를 참조해 주세요.

레퍼런스

「」를 참조해 주세요.