방사상 기준 함수 커널

머신러닝에서 레이디얼 베이스 함수 커널, 즉 RBF 커널은 다양한 커널화된 학습 알고리즘에 사용되는 인기 커널 함수다.특히 서포트 벡터 머신 분류에 흔히 사용된다.^[1]

일부 입력 공간에서 피쳐 벡터로 표현되는$\mathb {R}^{k$} 및 x'의 두 $표본$에 ${\displaystyle {}^{}}$ RBF 커널은 다음과 같이^[2] 정의된다.

${\displaystyle K(\mathbf {x},\mathbf {x'})=\exp \exp(-{\frac {\\\\mathbf {x} -\mathbf {x'} \{2}}\시그마 ^{2}}\}\오른쪽)}}$

${\displaystyle \Vert }$ ${\displaystyle x\mathbf{}}$- ${\displaystyle x{\mathbf{}}^{}}$ ${\displaystyle \Vert {}^{}}$ ${\displaystyle {2\mathrm{}}^{}}$ ${\$은 두 형상 벡터 사이의 제곱 유클리드 거리로 인식할 수 있다$$.${\displaystyle \sigma }$ ${\displaystyle \sigma}$은(는) 사용 가능한 매개 변수다.동등한 정의에는 파라미터$$$parameter{\displaystyle }$ =${\displaystyle }$1 2 ${\displaystyle \frac{{2\mathrm{}}^{}}{}}$ 2 ${\$ \textstyle $\gamma ={\tfrac$ {$1}{2$\sigma $^{2}}$ :

${\displaystyle K(\mathbf {x} ,\mathbf {x'})=\exp(-\gamma \mathbf {x} -\mathbf {x'} \{2}}$

RBF 커널의 값은 거리(한계에 있는 경우)와 범위가 0(x = x')일 때 감소하기 때문에 유사성 측도로서 준비된 해석을 가지고 있다.^[2]$커널$의 형상공간은 무한한 수의 차원을 가지고 있다. ${\displaystyle =}$ = ${\displaystyle 1}${\$displaystyle \sigma$ =$1}$의 경우$,$ 다항적 정리를 사용한 그 확장은 다음과 같다.^[3]

${\displaystyle{\begin{alignedat}{2}\exp \left(-{\frac{1}{2}}\ \mathbf{x}-\mathbf{x'})^{2}\right)&, =\exp({\frac{2}{2}}\mathbf{x}^{\top}\mathbf{x'}-{\frac{1}{2}}\ \mathbf{x}\ ^{2}-{\frac{1}{2}}\ \mathbf{x'})^{2})\\&, =\exp(\mathbf{x}^{\top}\mathbf{x'})\exp(-{\frac{1}{2}}\ \mathbf{x}\ ^{2})\exp(-{\frac{1}{2}})\mathbf.{x'})^{2}\&=\sum _{j=0}^{\inflt }{\frac {x}{\mathbf {x}^{\top }\mathbf {x'}^{j}}{j!}}}\exp \left \frac{1}:{1}:{1}\mathbf {x}\{x}\x}\exp \reflac{1}{1}2}}\ \mathbf {x'}\{2}\right)\\exp \expec \ft{{{}\ft}\cright)\\&=\sum _{j=0}^{\infit }\sum \sum \sum \sum \sum _{n_{1}+n_{2}+\n_n_{k}}}=j}\exp \frac {1}{1}:{1}{2}}\\mathbf {x}\x}\{x}\{1}^{n_{1}}\cdots x_{k}^{n_{k}}}}{\sqrt{n_{1}}}{n_{1}}}}}}}{\cdotsn}!}}}\exp \frac {1}{1}:{1}{x'}\mathbf {x'}\ \^{2}\\\오른쪽){\frac {{n_{1}^{1}}\cdots {x'_{k}^{n_{k}}}}}{\sqrt{n_{1}!}}}\\&=\langle \varphi(\mathbf {x}),\varphi(\mathbf {x'} )\angle \end{aignatedat}}}}}}$

${\displaystyle \varphi (\mathbf {x} )=\exp \left(-{\frac {1}{2}}\ \mathbf {x} \ ^{2}\right)\left(a_{l_{0}}^{(0)},a_{1}^{(1)},\dots ,a_{l_{1}}^{(1)},\dots ,a_{1}^{(j)},\dots ,a_{l_{j}}^{(j)},\dots \right)}$

여기서 $l{\displaystyle {}_{}}$ ${\displaystyle j_{}}$=${\displaystyle }$( ${\displaystyle \genfrac{}{}{0ex}{}{k}{}}$+ j${\displaystyle \genfrac{}{}{0ex}{}{}{}}$- 1 ${\displaystyle \genfrac{}{}{0ex}{}{}{}}$) ${\$

${\displaystyle a_{l}^{{l}^{\frac {x_{1}^{1}:{n_{1}}\cdots x_{k}^{n_{k}}}{\sqrt{n_{1}!\cdots n_{k}!}}}\cHB \cHB n_{1}+n_{2}+\cHB +n_{k}}}=j\jp 1\leq l_{j}}$

Approximations

왜냐하면 지원 벡터 기계와 다른 모델들은 커널의 속임수 고용하고 있는 잘 훈련 샘플의 큰 숫자나 기능의 입력 공간에서 큰 숫자를 이용하지 않으면 신장 혈류량 커널(그리고 유사한 알갱이)에 여러 근사치가 도입되고 있다.[4]일반적으로 이:그것은 더 높은 차원수의 벡터에 단일 벡터 모두 함수 z, 커널로의 형태를 취하고 있습니다.

${\displaystyle\langle z(\mathbf{x}),z(\mathbf{x'})\rangle \approx\varphi(\mathbf{x}),\varphi(\mathbf{x'})\rangle \langle =K(\mathbf{x},\mathbf{x'})}.$

어디φ{\displaystyle\textstyle \varphi}는 암시적 매핑 RBF커널에 포함된다.

한가지 방법은 그러한 z를 건설하기 위해 커널의 푸리에 변환에서 샘플 randomly는 것이다.[5]또 다른 접근법, 훈련 집합의 무작위 샘플을 사용하여는 그람 행렬 K의 eigendecomposition과 가까워지려고 그 Nyström 법을 사용한다.[6]

참고 항목

• 가우스 함수
• 커널(통계)
• 다항식의 커널
• 신경망
• 레이디얼 기저 함수 네트워크
• Obst 커널 네트워크

참조