과잉완성

Overcompleteness

과완성수학, 컴퓨터 공학, 공학, 통계학에서 널리 쓰이는 선형대수학에서 나온 개념이다(보통 지나치게 완성한 의 형태로).1952년 R. J. Duffin과 A. C. Schaeffer에 의해 도입되었다.[1]

Formally, a subset of the vectors of a Banach space , sometimes called a "system", is complete if every element in can be approximated arbitrarily well in norm by finite linear combinations of elements in J{\displaystyle\와 같이{\phi_{나는}\}_{Ji\in}}만약는 동안 완성도 유지는 시스템에서 제거될 수 있는ϕ j{\displaystyle \phi_{j}}(즉,∃ j:{ϕ 나는}나는 ∈ J∖{j}은 완전{\displaystyle \exists j:\와 같이{\phi_{나는}\}가 존재하는 완전한 시스템 추가로overcomplete 있을 수 있는데 .[2]{i\in J\backslash){j.\와 같이}이러한 의미에서, 시스템은 완성하기 위해 필요한 것보다 더 많은 벡터를 포함하고 있으며, 따라서 "과다완성"이다.

신호 처리 및 함수 근사치와 같은 연구 분야에서, 과잉완성은 연구자들이 기초를 사용하는 것보다 더 안정적이고, 더 견고하며, 또는 더 콤팩트한 분해를 달성하는 데 도움을 줄 수 있다.[3]

과잉완성과 프레임의 관계

과잉완성은 대개 과잉완성 프레임의 속성으로 논의된다.프레임 이론은 더핀과 셰퍼의 비화학적 푸리에 시리즈에 관한 논문에서 유래한다.[1]프레임은 임의 ∈ H i}_{i}_ 대해 0이 아닌 벡터으로 정의된다

여기서 , \ {\은 내부 제품을 의미하며, B 프레임의 한계라고 하는 양의 상수다.= 를) 선택할 수 있는 경우 프레임을 타이트 프레임이라고 한다[4]

= 프레임의 예를 다음과 같이 제시할 수 있다Let each of and be an orthonormal basis of , then

경계 = = 이(가) 있는 의 프레임이다

을(를) 프레임 오퍼레이터로 두십시오.

리에즈 베이스가 아닌 프레임이, 이 경우 베이스를 넘는 기능 세트로 구성되는 프레임이 지나치게 완성되었다고 한다.이 경우 을(를) 부여하면 프레임에 따라 다른 분해물을 가질 수 있다위의 예에 제시된 프레임은 지나치게 완전한 프레임이다.

기능 추정에 프레임을 사용할 경우 다른 프레임의 성능을 비교하고자 할 수 있다.서로 다른 프레임에 의한 근사 함수의 인칭은 성능을 비교하는 한 가지 방법으로 간주될 수 있다.[5]

Given a tolerance and a frame in , for any function , define the set of all approximating functions that satisfy

그럼 그렇게 합시다.

( ,) F 을(를) 사용하여 f{\}에 대한 패러모니를 나타낸다 f 은 프레임의 요소와 근사하게 추정될 경도에 따라 k이 다를 수 있다. ( ) )에서 함수를 추정하는 최악의 경우는 다음과 같이 정의된다.

다른 프레임 G{G\displaystyle} 들어, 만약가 F(ϵ)<>k G(ϵ){\displaystyle k_{F}(\epsilon)<, k_ᆮ(\epsilon)}, 그 프레임 F{F\displaystyle}프레임 G{G\displaystyle}보다 수준에서 ϵ{\displaystyle \epsilon}. 그리고 한다면γ{\displaystyle \gamma}존재하는 것이 좋습니다 각각을 위하다. ϵ<> <\ k ( )<k () G}보다 낫다.

과완성 프레임은 보통 세 가지 방식으로 구성된다.

  1. 웨이블렛 베이직과 푸리에 베이직과 같은 베이스 세트를 결합하여 과완성 프레임을 얻는다.
  2. 가보르 프레임과 웨이블렛 프레임과 같이 일부 프레임의 파라미터 범위를 확대하여 프레임을 과완전하게 한다.
  3. 일부 다른 기능을 기존 전체 기준에 추가하여 지나치게 완전한 프레임을 달성하십시오.

과완전한 프레임의 예는 아래와 같다.수집된 데이터는 2차원 공간에 있으며, 이 경우 두 가지 요소를 가진 기초가 모든 데이터를 설명할 수 있어야 한다.그러나 데이터에 노이즈를 포함하면 근거는 데이터의 특성을 표현하지 못할 수 있다.그림의 4개 축에 해당하는 4개의 요소를 가진 과완성 프레임을 사용하여 데이터를 표현한다면, 각 포인트는 과완성 프레임에 의해 좋은 표현을 가질 수 있을 것이다.

신호를 표현하거나 함수에 근접한 경우 과완전 프레임의 유연성은 주요 장점 중 하나이다.그러나 이러한 중복성 때문에 함수는 지나치게 완전한 프레임 아래에 여러 개의 식을 가질 수 있다.[6]프레임이 유한할 때 분해는 다음과 같이 표현할 수 있다.

여기서 (는) 근사하고자 하는 함수, A은(는) 프레임의 모든 요소를 포함하는 행렬이며, (는) 의 표현에 f 의 계수 다른 제약 없이 프레임이 선택된다.e L ( R) 에서 의 규범으로 x 을(를) 부여한다 이에 기초하여 등식을 풀 때 sparsity와 같은 일부 다른 속성도 고려할 수 있다.그래서 서로 다른 연구자들이 객관적 함수에 다른 제약조건을 추가함으로써 이 방정식을 푸는 작업을 해오고 있다.예를 들어 () L에서 x 규범을 최소화하는 제약조건을 이 방정식을 푸는 데 사용할 수 있다.이는 통계학계의 라소 회귀와 동등해야 한다.베이시안 접근법은 또한 지나치게 완전한 틀에서 중복성을 제거하는데 사용된다.루위키와 세즈노우스키가 관측된 데이터의 확률론적 모델로 보고 지나치게 완성한 프레임에 대한 알고리즘을 제안했다.[6]최근 과완전한 가보르 프레임이 베이지안 선택법과 결합되어 ( R) 작은 규범 확장계수와 원소 내 첨사성을 모두 달성했다.[7]

과완성 프레임의 예

신호처리 및 기타 엔지니어링 분야의 현대적 분석에서는 다양한 과완전 프레임을 제안하여 사용한다.여기서는 일반적으로 사용되는 두 프레임인 가보르 프레임과 웨이브렛 프레임을 소개하고 논의한다.

가보르 틀

통상적인 푸리에 변환에서는 시간 영역의 함수가 주파수 영역으로 변환된다.그러나 변환은 이 함수의 주파수 속성만 보여주고 시간 영역에서는 그 정보를 잃어버린다.푸리에 변환을 작동하기 전에 작은 간격에 0이 아닌 값만 갖는 윈도우 함수 g을 원래 함수와 곱하면 시간 및 주파수 영역 모두 선택한 간격에 남을 수 있다.변환에 의 변환 시퀀스를 사용할 경우 변환 후에도 시간 영역의 함수 정보가 유지된다.

연산자 허용

( ) L에서 가보르 프레임(Dennis Gabor의 이름을 따서 명명하고 Weyl-Heisenberg 프레임이라고도 함)은 { T 으로 정의된다. Z 여기서 , > 0 g ) 은 고정 함수다.[8]그러나 { b Z 에 대해서는 해당되지 않는다. forms a frame on . For example, when , it is not a frame for . When , Z 프레임일 수 있으며, 이 경우 Riesz 기준이다.{ b n m, 에 대한 가능한 상황과(와)의 프레임은 < 1 이다Gabor 계열{ / 도 프레임이며{ , z \{과(와) 동일한 프레임 경계를 공유하고 있다.

Gabor 프레임에는 다른 종류의 창 기능 을 사용할 수 있다.여기에 3가지 윈도우 기능의 예가 표시되며, 해당 가보르 시스템이 하나의 프레임이 되는 조건은 다음과 같다.

(1) ( x)= e- { T Z < 994일 때의 프레임이다.

(2) ( )= 1 ( ) x{ b } Z 는 b< 일 때의 프레임이다.

(3) ( )= [ , )( x) 서 I( x) (는) 표시기 함수다. b m, 에 대한 상황 프레임은 다음과 같이 서 있다.

1) 틀이 > {\c > 1{\1}

2) > = 1 프레임이 아님

3) 1

4) }이고 비합리적인 이며, c ( 2) 은 프레임이다.

5) = < 1 a}{ p 프레임이 아닌 - 1 이다

6) 3 < > 1 및 c= - 1+ L( - 여기서 프레임이 아니라 자연수가 된다.

7) , , , where is the biggest integer not exceeding , is a frame.

위의 논의는 8장을 요약한 것이다.[8]

웨이블렛 프레임

웨이블렛 모음은 일반적으로 에 기반한 함수 집합을 가리킨다.

이것은 ( ) 의 정형화된 기초를 형성한다 그러나 , k 가 R 의 값을 취할 수 있을 세트는 과완성 프레임을 나타내며 불시산 파장 기준이라고 불린다.일반적으로 웨이블렛 프레임은 ( R) 에 대한 프레임으로 정의된다.

서 a> > 0 2 이 프레임의 상한과 하한을 다음과 같이 계산할 수 있다. ( ) )을 L (의 푸리에 변환으로 설정

(가) 고정되면 정의

그러면

더군다나 언제

모든 홀수 정수 에 대해

생성된 프레임, , Z Z은(는) 꽉 끼는 프레임이다.

이 절의 논의는 11장에 근거한다.[8]

적용들

신호 검출, 영상 표현, 물체 인식, 소음 감소, 샘플링 이론, 운영자 이론, 조화 분석, 비선형 희소 근사치, 유사추상 연산자, 무선 통신, 지구물리학, 양자 컴퓨팅, 파일 등 다양한 연구 분야에서 과완전한 가보 프레임과 웨이블렛 프레임이 사용되어 왔다.[3][8]쌓다

참조

  1. ^ a b R. J. Duffin과 A. C. Schaeffer, 무해한 Fourier 시리즈의 한 종류, 미국수학협회의 거래, vol. 72, 2번, 페이지 341{366, 1952.[온라인.사용 가능: https://www.jstor.org/stable/1990760
  2. ^ C. 헤이얼, 기본 이론 입문서:확장판.MA: Birkhauser, 2010.
  3. ^ a b R. 발란, P. 카사자, C.헤이얼, 그리고 Z.랜도, 밀도, 과완성, 프레임의 국산화.I. 이론, The Journal of Fourier Analysis and Applications, vol. 12, no. 2. 2006.
  4. ^ K. Grochenig, 시간 빈도 분석의 기초.보스턴, 버크하우저, 2000년
  5. ^ [1], STA218, 듀크 대학교 데이터 마이닝 클래스 노트
  6. ^ a b M. S. 르위키와 T. J. 세즈노우스키, 학습과잉완전 표현, 신경 연산, vol. 12, 2, 페이지 337{365, 2000.
  7. ^ P. Wolfe, S. Godill 및 W. Ng, 시간 빈도 표면 추정을 위한 베이지안 변수 선택 및 정규화, J. R. Statistics.Soc. B. 66번, 2004년 3번.
  8. ^ a b c d O. Christensen, 프레임과 리에즈 베이스 소개.보스턴, 2003년 버크하우저