커널 적응 필터

신호 처리에서 커널 적응 필터는 비선형 적응 필터의 일종이다.^[1]적응형 필터는 필터가 이상적인 동작에서 얼마나 벗어나는지를 특징짓는 오류나 손실 기능을 최소화함으로써 시간이 지남에 따라 신호 속성의 변화에 전송 기능을 적응시키는 필터다.적응 과정은 일련의 신호 샘플로부터 배우는 것에 기초하여 온라인 알고리즘이다.비선형 적응 필터는 전달 기능이 비선형인 필터다.

커널 적응 필터는 커널 방법을 사용하여 비선형 전송 기능을 구현한다.^[1]이러한 방법에서 신호는 고차원 선형 형상 공간에 매핑되고 비선형 함수는 형상공간인 커널에 대한 합으로 근사치된다.만약 이것이 재생성 커널 힐버트 공간에서 이루어진다면, 커널 방법은 비선형 함수의 보편적 근사치가 될 수 있다.커널 방법은 볼록한 손실 기능이 있고, 국소 미니마가 없으며, 구현하기 위해 적당히 복잡할 뿐이라는 장점이 있다.

고차원 형상공간이 선형이기 때문에 커널 적응필터는 선형 적응필터의 일반화로 생각할 수 있다.선형 적응 필터와 마찬가지로 필터 적응에는 두 가지 일반적인 접근법이 있다. 즉, 최소 평균 제곱 필터(LMS)^[2]와 반복 최소 제곱 필터(RLS)이다.^[3]

볼록한 LMS 오류를 최소화하기 위해 반복을 사용하는 자체 조직 커널 적응 필터는 선형 사례에서 발생하지 않는 비선형 모델의 통계적, 실제적 문제를 다룬다.^[4]정규화는 특히 비선형 모델에 중요한 특징이며 통계적 불확실성을 줄이기 위해 선형 적응 필터에도 자주 사용된다.그러나 비선형 필터는 일반적으로 실제 필요한 서브 스페이스에 비해 훨씬 높은 잠재적 구조적 복잡성(또는 더 높은 치수 형상 공간)을 가지기 때문에, 어떤 종류의 정규화는 결정되지 않은 모델을 다루어야 한다.Vapink의 SRM 및 SVM에서 규정한 것과 같은 특정 형태의 매개변수 정규화는 어느 정도 통계적으로 차원성 문제를 다루지만, 진정한 적응형 비선형 필터에 대한 추가적인 통계적, 실제적 문제가 남아 있다.적응형 필터는 흔히 이용 가능한 데이터와 구조로부터 완전히 모델링할 수 없는 시간 변동 시스템 또는 시스템의 동작을 추적하는데 사용되므로 모델은 매개변수뿐만 아니라 구조도 조정해야 할 수 있다.

커널의 구조적 매개변수가 처리 중인 데이터에서 직접 도출되는 경우(위의 "지원 벡터" 접근법에서와 같이) 필터에 사용할 수 있는 커널의 자체 구성의 분석적으로 강력한 방법을 위한 편리한 기회가 있다.커널에 의해 유도된 선형화된 형상공간은 새로운 데이터의 신규성이 모델 구조로 변경되어서는 안 되는 소음 발생 오류와 쉽게 구별될 수 있는 모델의 현재 구조에 새로운 샘플을 선형 투영할 수 있다.구조 분석을 위한 분석 메트릭스는 필요할 때 모델 복잡성을 모사적으로 증가시키거나 프로세서 리소스 제한에 도달했을 때 기존 구조를 최적으로 제거하기 위해 사용될 수 있다.구조 업데이트는 또한 시스템 변화가 감지될 때 관련되며 선형 필터의 칼만 필터 케이스에 대해 모델의 장기 메모리를 업데이트해야 한다.

적응형 필터에 전형적으로 사용되는 반복 경사 강하 역시 대용량 데이터 세트 처리를 위한 연산 효율성 때문에 오프라인 배치 모드 지원 벡터 기반 머신러닝에서도 인기를 얻었다.둘 다 시간 시리즈와 일괄 데이터 처리 성능 상태로 큰은 예를 들어 제한되어 최적화나 싶어 선형 사용에 대한 의존도를 늘려 지원 벡터 기계와 다른 커널 방법의 원래 공식은 내 달라고 도전하고 있[5] 쉽게 넘겨 10만 훈련 사례는 10kB 램. 데이터를 이용한 대처할 수 있다고 전해지고 있다.광고변덕스러운 프로그래밍 기술

참조