커버의 정리

커버의 정리는 컴퓨터 학습 이론의 진술이며 기계 학습 응용 프로그램에서 비선형 커널 방법을 사용하는 주요 이론적 동기 중 하나이다.이 정리는 선형으로 분리할 수 없는 일련의 훈련 데이터가 주어진다면, 높은 확률로 그것을 비선형 변환을 통해 더 높은 차원의 공간에 투영함으로써 선형으로 분리할 수 있는 훈련 세트로 변환할 수 있다고 말한다.그 정리는 정보 이론가 토마스 M의 이름을 따서 명명되었다. 1965년에 누가 그걸 말했는지 가려라.대략 다음과 같이 정리할 수 있다.

고차원 공간에 비선형적으로 주조된 복잡한 패턴 분류 문제는 공간이 조밀하지 않다는 전제 하에 저차원 공간보다 선형적으로 분리될 가능성이 높다.

증명

결정론적 매핑을 사용할 수 있습니다. 예를 들어 $n개의$\$displaystyle$n개의$$ 샘플이 $있다고{\displaystyle }$ 가정합니다.$n{\displaystyle }$-$$(\$displaystyle n-1)$ 치수$$ 실공간의 심플렉스의 꼭지점 위로 들어 올립니다.샘플의 모든 분할은 선형 분리기에 의해 분리될 수 있기 때문에 정리는 다음과 같습니다.

「 」를 참조해 주세요.

• 서포트 벡터 머신
• 커널 방식

레퍼런스

• Haykin, Simon (2009). Neural Networks and Learning Machines (Third ed.). Upper Saddle River, New Jersey: Pearson Education Inc. pp. 232–236. ISBN 978-0-13-147139-9.
• Cover, T.M. (1965). "Geometrical and Statistical properties of systems of linear inequalities with applications in pattern recognition" (PDF). IEEE Transactions on Electronic Computers. EC-14 (3): 326–334. doi:10.1109/pgec.1965.264137. S2CID 18251470. Archived from the original (PDF) on 2019-12-20.
• Mehrotra, K.; Mohan, C. K.; Ranka, S. (1997). Elements of artificial neural networks (2nd ed.). MIT Press. ISBN 0-262-13328-8. (제3.5절)