기능 데이터 분석

기능 데이터 분석(FDA)은 연속체에 걸쳐 변화하는 곡선, 표면 또는 기타 모든 것에 대한 정보를 제공하는 데이터를 분석하는 통계학의 한 분야다.가장 일반적인 형태에서 FDA 프레임워크에서는 기능 데이터의 각 샘플 요소를 무작위 함수로 간주한다.이러한 기능이 정의되는 물리적 연속체는 종종 시간이지만 공간 위치, 파장, 확률 등이 될 수도 있다.본질적으로 기능 데이터는 무한한 차원이다.이러한 데이터의 높은 내적 차원성은 이론과 계산에 대한 도전을 가져오는데, 이러한 도전은 기능 데이터를 샘플링하는 방법에 따라 달라진다.그러나 데이터의 높거나 무한한 치수 구조는 풍부한 정보의 원천이며 연구와 데이터 분석에는 흥미로운 과제가 많다.

역사

기능적 데이터 분석은 1940년대와 1950년대에 그레난더와 카루넨에 의해 다시 작동되기 시작했다.^[1][2][3][4]그들은 정사각형 통합형 연속 시간 확률적 과정을 현재 카루넨-로이브 분해로 알려진 고유 성분으로 분해하는 것을 고려했다.기능적 주성분 분석의 엄격한 분석은 1970년대에 클레프, 도수아, 푸스에 의해 고유값의 점증적 분포에 대한 결과를 포함하여 수행되었다.^[5][6]보다 최근 1990년대와 2000년대에 이 분야는 응용 분야에 더 초점을 맞추고 밀도 있고 희박한 관찰 계획의 영향을 이해했다.기능적 데이터 분석(Functional Data Analysis)이라는 용어는 제임스 오에 의해 만들어졌다. 램지.^[7]

수학적 형식주의

무작위 함수는 힐버트 공간에서 값을 취하는 무작위 요소 또는 확률적 과정으로 볼 수 있다.전자는 수학적으로 편리한 반면 후자는 적용된 관점에서 어느 정도 더 적합하다.이 두 가지 접근방식은 무작위 함수가 연속적이고 평균 제곱 연속성이라는 조건이 충족되면 일치한다.^[8]

힐베르트 랜덤 변수

In the Hilbert space viewpoint, one considers an ${\displaystyle H}$-valued random element ${\displaystyle X}$, where ${\displaystyle H}$ is a separable Hilbert space such as the space of square-integrable functions ${\displaystyle L^{2}[0,1]}$. Under the integrability condition that ${\displaystyle \mathbb {E} \ X\ _{L^{2}}^{2}=\mathbb {E} (\int _{0}^{1} X(t) ^{2}dt)<\infty }$, one can define the mean of ${\displaystyle X}$ as the unique element ${\displaystyle \mu \in H}$ satisfying

$\displaystyle \mathb {E} \langle X, h\rangele =\langle \mu,h\rangele,\qquad h\in H.}$

This formulation is the Pettis integral but the mean can also be defined as Bochner integral ${\displaystyle \mu =\mathbb {E} X}$. Under the integrability condition that ${\displaystyle \mathbb {E} \ X\ _{L^{2}}^{2}}$ is finite, the covariance operator of ${\displaystyle X}$ is a linear operat또는 $C{\displaystyle \mathcal{}}$: ${\displaystyle H}$→ ${\displaystyle H}$ ${\displaystyle {\mathcal{C}:$관계에$$ 의해 고유하게 정의된 $H\to H}$

${\displaystyle {\mathcal {C}h=\mathb {E}[\langle h,X-\mu \rangele (X-\mu )],\qquad h\in H,}$

$또는{\displaystyle \mathcal{}}$ 텐서 형태로 C${\displaystyle }$= ${\displaystyle E\mathbb{}}$[${\displaystyle }$( X -${\displaystyle \mu }$) ${\displaystyle \otimes }$ ( X${\displaystyle }$- ${\displaystyle \mu }$)${\displaystyle ]}$ ${\displaystyle {\mathcal{C}=\mathb {E}[(X-\mu )\otimes (X-\mu$ $)]\}\}\}\}.$스펙트럼 정리는 카루넨-로이브 분해로서 $X{\displaystyle }$ ${\displaystyle X}$을(를) 분해할 수 있다.

${\displaystyle X=\mu +\sum _{i=1}^{\npty }\langle X,\varphi _{i}\angle \varphi _{i}}}$

$여기$서 $\phi {\displaystyle {}_{}}$ ${\displaystyle i_{}}$ ${\$는 C {\$displaystyle {\$mathcal{$C$$\}\}$의$비부정$ 고유값에 해당하는$$$C{\displaystyle \mathcal{}}$ ${\$의 고유 벡터다.이 무한 시리즈를 유한한 순서로 잘라내는 것은 기능적 주성분 분석을 뒷받침한다.

확률적 과정

Hilbertian의 관점은 수학적으로 편리하지만 추상적이다; ${\displaystyle {L\mathrm{}}^{}}$ 2 [${\displaystyle {}^{}0],}$ ${\displaystyle 1}$ ${\displaystyle ]}$ ${\$displaystyle H$}$과(와) 같은 H ${\displaystyle$ H}과(와) {\$displaystyle L^{2}[0,1]}}$과$($와)와 같은 일반적인 선택사항은 기능이 아닌 동등성 등급으로 구성되기 때문에 위의 $고려사항$조차 하지$$ 않는다.s. 확률적 공정 관점은 $X{\displaystyle }$ ${\displaystyle X}$을(를) 변수의 집합으로 본다$$.

${\displaystyle \{X(t)\}_{t\in [0,1]}}}}$

단위 간격(또는 보다 일반적인 구간 $T{\displaystyle \mathcal{}}$ ${\$에 의해 색인화됨.$$평균 및 공분산 함수는 다음과 같이 포인트 방식으로 정의된다.

${\displaystyle \mu(t)=\mathb {E}X(t),\qquad \Sigma(s,t)={\textrm {Cov}(X),X(t)),\qquad s,t\in [0,1]}$

${\displaystyle (}$E [ ( ) < ${\displaystyle \mathb {E}[X(t)^{2}]<\inflt })$ 모든 t $t{\displaystyle }$ [${\displaystyle 0,}$ ${\displaystyle 1}$ ${\displaystyle ]}$ ${\displaystyty t\$in $[0,1]$에 해당).$$

평균 제곱 연속성 하에서 $\mu {\displaystyle }$ ${\displaystyle \mu }$ 및$$ $\sigma {\displaystyle \mathrm{}}$ ${\$$displaystyle \Sigma$ $}$은$($는) 연속 함수로서$$ 공분산 연산자 $C{\displaystyle \mathcal{}}$ : ${\displaystyle H}$→ ${\displaystyle H}$ ${\displaystyle {\mathcal}을($는) 정의한다${\displaystyle .}$$H\to H}$을(를) 부여한 b

$${\displaystyle({\mathcal{C}f)(t)=\int _{0}^{1}\Sigma(s,t)f\,\mathrm {d}s.}$$

(1)

스펙트럼 정리는 $C{\displaystyle \mathcal{}}$ ${\$에 적용되며$,$ 고유페어$({\displaystyle {}_{}}$ ${\displaystyle j_{}}$, ${\displaystyle {\phi }_{}}$ j${\displaystyle {}_{}}$) ${\displaystyle(\lambda _{j}\varphi _{j$을 생성하여 텐서 제품 표기법 $C{\displaystyle \mathcal{}}$ ${\$에 기록한다.

${\displaystyle {\mathcal{C}=\sum _{j=1}^{\inful }\lambda _{j}\varphi _{j}\otimes \varphi _{j}.}$

더욱이 $C{\displaystyle \mathcal{}}$ ${\displaystyle f}$ ${\displaystyle {\mathcal {C}f}$은(는) ${\displaystyle \mathrm{모든}}$ $f{\displaystyle }$ ${\displaystyle \in }$ H ${\displaystyle f\in H}$에 대해 연속적이므로$,$ ${\displaystyle {모든}_{}}$ {$$j {\$displaystyle \varphi_{j$}은$$ 연속적이다.머서의 정리에는 다음과 같이 되어 있다.

${\displaystyle \sup _{s,t\in [0,1]\왼쪽 \Sigma(s,t)-\sum _{j=1}^{K}\lambda _{j}\varphi _{j}(t)\right \to 0,\qquad K\to.$

Finally, under the extra assumption that ${\displaystyle X}$ has continuous sample paths, namely that with probability one, the random function ${\displaystyle X:[0,1]\to \mathbb {R} }$ is continuous, the Karhunen-Loève expansion above holds for ${\displaystyle X}$ and the Hilbert space machinery can be sub가감 없이 응용한Kolmogorov 연속성 정리를 사용하여 샘플 경로의 연속성을 나타낼 수 있다.

기능 데이터 설계

Functional data are considered as realizations of a stochastic process ${\displaystyle X(t),\ t\in [0,1]}$ that is an ${\displaystyle L^{2}}$ process on a bounded and closed interval ${\displaystyle [0,1]}$ with mean function ${\displaystyle \mu (t)=\mathbb$${E}(X(t)}$ 및$$ 공분산 함수 $\sigma {\displaystyle \mathrm{}(s}$, t${\displaystyle }$)${\displaystyle }$= ${\displaystyle \text{Cov}(}$ ${\displaystyle X}$(${\displaystyle }$)${\displaystyle }$, X${\displaystyle }$( ) , ${\displaystyle X}$ (${\displaystyle }$)${\displaystyle \Sigma(s,t)={\rm {Cov}(X),$ X$(t)}$.i번째 과목에 대한 프로세스의 $실현$은 X${\displaystyle {}_{}{i}_{}}$ (${\displaystyle )}$ )$${\$displaystyle X_{i}(\cdot$ $)\}$이고, $샘플$은 n ${\displaystyle n}$개의$$ 독립 과목으로 구성된 것으로 가정한다.샘플링 일정은 대상별로 다를 수 있으며${\displaystyle ,}$ ${\displaystyle {Ti}_{}}$ ${\displaystyle 1_{}}$,${\displaystyle }$. . , ${\displaystyle {Ti}_{}}$ ${\displaystyle {{}_{}}_{}}$ ${\displaystyle {i_{}}_{}}$ ${\$로 표시된다.$,T_{iN_{i}}$ i-th 과목의 경우$$.The corresponding i-th observation is denoted as ${\displaystyle {\textbf {X}}_{i}=(X_{i1},...,X_{iN_{i}})}$, where ${\displaystyle X_{ij}=X_{i}(T_{ij})}$. In addition, the measurement of ${\displaystyle X_{ij}}$ is assumed to have random noise ${\displaystyle \epsilon _{ij}}$ with ${\displaystyle \mathbb {E} (\epsilon _{ij})=0}$ and ${\displaystyle {\textrm {Var}}(\epsilon _{ij})=\sigma _{ij}^{2}}$, which are independent across ${\displaystyle i}$ and ${\displaystyle j}$.

1. 임의의 고밀도 그리드에서 잡음 없이 완전히 관측된 기능

측정 ${\displaystyle {Yi}_{}{t}_{}}$ = ${\displaystyle X_{}}$i (${\displaystyle t}$ )$${\$displaystyle Y_{it}=$${\displaystyle \mathrm{X\_}}$${i}(t)}$ $모든{\displaystyle }$ t${\displaystyle i\mathcal{}}$ I${\displaystyle ,1}$, ${\displaystyle \dots ,}$ ${\displaystyle n}${\$displaysty t\in${\$mathcal {I},\i=1,\ldots,n}$에 대해 사용$$ 가능

종종 비현실적이지만 수학적으로 편리하다.

실생활의 예:티케이터 스펙트럼 데이터.^[7]

2. 노이즈 측정으로 촘촘하게 샘플링한 기능(센스 설계)

측정 ${\displaystyle {Yi}_{}}$ ${\displaystyle j_{}}$= ${\displaystyle X_{}}$ i${\displaystyle {}_{}{Ti}_{}}$ ${\displaystyle j_{}}$)${\displaystyle }$+ ${\displaystyle {}_{}}$ i ${\displaystyle j_{}}$ ${\$ $여기$서 ${\displaystyle {\mathrm{Ti}}_{}}$ j$${\$displaystyty T_{ij}}}$는 일반 그리드에 기록된다$$.

${\displaystyle T_{}}$ ${\displaystyle i_{}}$ ${\displaystyle 1_{}}$,${\displaystyle }$…${\displaystyle }$, ${\displaystyle {Ti}_{}}$ ${\displaystyle {N_{}}_{}}$i {\$displaystyle T_${i1$},\ldots,$ T_{$iN_{$i$\}\},$ ${\displaystyle {Ni}_{}}$→ $∞$ {\$displaystyle N_{i}\오른쪽$ 화살표 $\}$이 일반적인 기능 데이터에 적용된다$$.

실생활의 예:버클리 성장 연구 데이터 및 주식 데이터

3. 노이즈 측정(종도 데이터)으로 함수를 희박하게 샘플링함수

Measurements ${\displaystyle Y_{ij}=X_{i}(T_{ij})+\varepsilon _{ij}}$, where ${\displaystyle T_{ij}}$ are random times and their number ${\displaystyle N_{i}}$ per subject is random and finite.

실생활 예시: 에이즈 환자의 CD4 카운트 데이터.^[9]

기능주성분 분석

FPCA(기능 주성분 분석)는 FDA에서 가장 보편적인 도구로, 부분적으로는 FPCA가 본질적으로 무한 차원 기능 데이터를 유한 차원 무작위 점수 벡터로 치수 축소를 용이하게 하기 때문이다.구체적으로는 $X{\displaystyle }$ ${\displaystyle X}$에서 공분산 연산자의 고유특성으로 구성된 기능적 기준으로$$ X ${\displaystyle i_{}}$( t )${\displaystyle X_{i}(t)}}$에 기초하여 관측된 무작위 궤적을 확장함으로써 치수 감소를 달성한다$.$ 공분산 $연산자{\displaystyle \mathcal{}}$C : ${\displaystyle {}^{}}$ ${\displaystyle {2\mathrm{}}^{}}$[ ${\displaystyle 0,}$ ${\displaystyle 1}$]${\displaystyle }$→ ${\displaystyle {}^{}}$ ${\displaystyle {2\mathrm{}}^{}}$ [ 0${\displaystyle ,}$ ${\displaystyle 1}$${\displaystyle {}^{}}$을 고려한다.${\displaystyle {\mathcal{C}:$$L^{2}[0,1]\오른쪽$ 화살표 $L^{2}[0,1]}$는 힐버트 공간의 콤팩트한 연산자다.

By Mercer's theorem, the kernel of ${\displaystyle {\mathcal {C}}}$, i.e., the covariance function ${\displaystyle \Sigma (\cdot ,\cdot )}$, has spectral decomposition ${\displaystyle \Sigma (s,t)=\sum _{k=1}^{\infty }\lambda _{k}\varphi _{k}(s)\va$$rphi _{k}(t)}$, where the series convergence is absolute and uniform, and ${\displaystyle \lambda _{k}}$ are real-valued nonnegative eigenvalues in descending order with the corresponding orthonormal eigenfunctions ${\displaystyle \varphi _{k}(t)}$ . By the Karhunen–Loève theorem, the FPCA expansion of an underlying random trajectory is ${\displaystyle X_{i}(t)=\mu (t)+\sum _{k=1}^{\infty }A_{ik}\varphi _{k}(t)}$, where ${\displaystyle A_{ik}=\int _{0}^{1}(X_{i}(t)-\mu (t))\varphi _{k}(t)dt}$ are the functional주성분(FPC), 때로는 점수라고도 한다.The Karhunen–Loève expansion facilitates dimension reduction in the sense that the partial sum converges uniformly, i.e., ${\displaystyle \sup _{t\in [0,1]}\mathbb {E} [X_{i}(t)-\mu (t)-\sum _{k=1}^{K}$$A_{ik}\varphi _{k}(t)^{2}\{2$}\오른쪽 $화살표$0}을(를)${\displaystyle }$K →$【\디스플레이 스타일$K\$오른쪽$ 화살표 $\ft}}}$로(를) 표시하므로$$ $K{\displaystyle }$ ${\디스플레이$ 스타일 K$}$이(가) 충분히 큰 부분 합은 무한대의 근사치를 잘 산출한다$$.따라서 ${\displaystyle {Xi}_{}}$ ${\$의 정보는 $무한{\displaystyle }$ 치수에서 K ${\displaystyle K}$ ${\displaystyle {-dension}_{}}$ A $i{\displaystyle {}_{}}$=${\displaystyle }$(${\displaystyle {Ai}_{}}$ ${\displaystyle 1_{}}$,${\displaystyle }$.${\displaystyle }$. ${\displaystyle A_{}}$ ${\displaystyle K_{}}$) ${\displaystyle A_{i}=(A_{i1},...,...)$로 축소된다$$.$근사$ 공정이 있는 A_$$${iK}}:$

$${\displaystyle X_{i}^{(K)}=\mu(t)+\sum _{k=1}^{K}A_{ik}\varphi _{k}(t)}$$

(2)

다른 인기 있는 베이스로는 스플라인, 푸리에 시리즈, 웨이블렛 베이스 등이 있다.FPCA의 중요한 적용은 변동 모드와 기능적 주성분 회귀 분석을 포함한다.

기능 선형 회귀 모형

기능적 선형 모델은 벡터 반응을 벡터 공변량과 연결하는 전통적인 다변량 선형 모델의 확장으로 볼 수 있다.스칼라 ${\displaystyle 반응\mathbb{}}$ $Y{\displaystyle }$ ${\displaystyle \in }$ R ${\$및$$ 벡터 $공변량{\displaystyle }$ X ${\displaystyle \in }$ ${\displaystyle {}^{}}$ ${\displaystyle {\mathbb{}}^{}}$ ${\$을(를) 갖는 전통적인 선형 모델은 다음과 같이 표현할 수 있다$$.

$${\displaystyle Y=\beta _{0}+\langle X,\beta \brangle +\barepsilon =\beta _{0}+X_{1}\dots +X_{p}\beta _{p}\p}\beta _{p}+\varepsilon}}}}}}}}}}}}}}}}}}$$

(3)

where ${\displaystyle \langle \cdot ,\cdot \rangle }$ denotes the inner product in Euclidean space, ${\displaystyle \beta _{0}\in \mathbb {R} }$ and ${\displaystyle \beta \in \mathbb {R} ^{p}}$ denote the regression coefficients, and ${\displaystyle \varepsilon }$ is a zero mean finite분산 랜덤 오차(평균).기능적 선형 모델은 반응에 따라 두 가지 유형으로 나눌 수 있다.

스칼라 반응이 있는 기능 회귀 모형

Replacing the vector covariate ${\displaystyle X}$ and the coefficient vector ${\displaystyle \beta }$ in model (3) by a centered functional covariate ${\displaystyle X^{c}(t)=X(t)-\mu (t)}$ and coefficient function ${\displaystyle \beta =\beta (t)}$ for ${\displaystyle t\in [0,1]}$${\displaystyle t\in [0$$,$$1]},$ Hilbert ${\displaystyle {space\mathrm{}}^{}}$ L $2{\displaystyle {}^{}}$ {\$displaystyle$ L$^{2$ 기능적 선형 모델에 도달함

$${\displaystyle Y=\beta _{0}+\langle X^{c},\beta \brangle +\barerpsilon =\beta _{0}^{0}}}X^{c}(t)\dt+\varepsilon.}$$

(4)

The simple functional linear model (4) can be extended to multiple functional covariates, ${\displaystyle \{X_{j}\}_{j=1}^{p}}$, also including additional vector covariates ${\displaystyle Z=(Z_{1},\cdots ,Z_{q})}$, where ${\displaystyle Z_{1}=1}$, by

$${\displaystyle Y=\langle Z,\theta \rangle +\sum _{j=1}{p}\int _{0}^{1}X_{j}^{j}(t)\beta _{j}\{j}(t)\,dt+\varepsilon ,}$$

(5)

where ${\displaystyle \theta \in \mathbb {R^{q}} }$ is regression coefficient for ${\displaystyle Z}$, the domain of ${\displaystyle X_{j}}$ is ${\displaystyle [0,1]}$, ${\displaystyle X_{j}^{c}}$ is the centered functional covariate given by ${\displaystyle X_j^c(t)=X_j}$${\displaystyle X_{j}^{c}(t)=X_{j}(t)-\mu _{j}(t)}$, and ${\displaystyle \beta _{j}}$ is regression coefficient function for ${\displaystyle X_{j}^{c}}$, for ${\displaystyle j=1,\ldots ,p}$. Models (4) and (5) have been studied extensively.^[10][11][12]

기능적 반응을 갖는 기능적 회귀 모형

. 두개의 주요 모델 이 설치를 고려하고 있[0,1]{\displaystyle[0,1]}과, 다수의 기능 covariates Xj에 대한 기능 반응 Y(s){Y(s)\displaystyle}({\displaystyle X_{j}(t)}, 터∈[0,1]{\displaystyle t\in[0,1]}, j=1,…,{\displaystyle j=1,\ldots ,p}를 생각해 보자.[13][7]일반적으로 기능 선형 모델(FLM)이라고 하는 이 두 모델 중 하나는 다음과 같이 쓸 수 있다.

$${\displaystyle Y(s)=\alpha _{0}s(s)+\sum _{j=1}{p}\int _{0}^{1}^{1}\lpha _{j}X_{j}^{c}(t)\,dt+\varepsilon(s),\{\{{{text for}}\sin [0,1}$$

(6)

where ${\displaystyle \alpha _{0}(s)}$ is the functional intercept, for ${\displaystyle j=1,\ldots ,p}$ , ${\displaystyle X_{j}^{c}(t)=X_{j}(t)-\mu _{j}(t)}$ is a centered functional covariate on ${\displaystyle [0,1]}$, ${\displaystyle {\alpha }_j(s,}$${\displaystyle t}$) ${\displaystyle \process _{j}(s,t)}$은 각각 같은 도메인을 가진 해당 기능 기울기이며$$, $\epsilon {\displaystyle (s}$ ${\displaystyle )}$ ${\displaystyle \varepsilon(s)$은 평균 0과 유한 분산을 갖는 랜덤 공정이다$$.^[13]In this case, at any given time ${\displaystyle s\in [0,1]}$, the value of ${\displaystyle Y}$, i.e., ${\displaystyle Y(s)}$, depends on the entire trajectories of ${\displaystyle \{X_{j}(t)\}_{j=1}^{p}}$. Model (6) has been studied extensively.^{[14][15][16][17][18]}

척도 내 기능 회귀 분석

${\displaystyle {특히}_{}}$ $X{\displaystyle {}_{}}$ j (${\displaystyle {}_{}\cdot }$) ${\displaystyle X_{j}(\cdot )}$을(를) 상수함수로$$ 취하면 모델(6)의 특수한 사례가 발생한다.

기능적 반응과 스칼라 공변량을 갖는 기능적 선형 모형이다.

동시 회귀 모형

이 모델은...

$${\displaystyle Y(s)=\beta _{0}s(s)+\sum _{j=1}^{p}\beta _{j}X_{j}+\varepsilon(s)\\\\\\\{\text{for}\in [0,1],}$$

(7)

where ${\displaystyle X_{1},\ldots ,X_{p}}$ are functional covariates on ${\displaystyle [0,1]}$, ${\displaystyle \beta _{0},\beta _{1},\ldots ,\beta _{p}}$ are the coefficient functions defined on the same interval and ${\displaystyle \varepsilon (s)}$평균 분산이 0이고 분산이 유한한 랜덤 공정으로 가정한다.^[13]This model assumes that the value of ${\displaystyle Y(s)}$ depends on the current value of ${\displaystyle \{X_{j}(s)\}_{j=1}^{p}}$ only and not the history ${\displaystyle \{X_{j}(t):t\leq s\}_{j=1}^{p}}$ or future value.따라서, "변동-코효율적" 모델로도 언급되는 "동류 회귀 모델"이다.또한, 다양한 추정 방법이 제안되었다.^{[19][20][21][22][23][24]}

기능 비선형 회귀 분석 모형

고전적 기능 선형 회귀 모형(FLM)의 직접 비선형 확장에는 여전히 선형 예측 변수가 포함되지만, 이 예측 변수를 기존의 선형 모델에서 일반화된 선형 모델의 개념과 유사하게 비선형 연결 함수와 결합한다.기능적 데이터에 대한 완전한 비모수 회귀 모델을 향한 개발은 차원성의 저주와 같은 문제에 직면한다."곡선"과 측정지표 선택 문제를 우회하기 위해 일부 구조적 제약이 따르지만 지나치게 유연성을 침해하지 않는 비선형 기능 회귀 모델을 고려하도록 동기를 부여한다.사람들은 기능적 선형 모델보다 더 유연하면서도 다항식 수렴 속도를 유지하는 모델을 원한다.이러한 모델은 기능적 선형 모델에 대한 진단이 실제 상황에서 자주 발생하는 적합성 결여를 나타내는 경우에 특히 유용하다.특히 기능적 다항식 모델, 기능적 단일 및 다중 지수 모델, 기능적 가법적 모델은 기능적 비선형 회귀 모델의 3가지 특수한 경우다.

기능 다항식 회귀 분석 모형

기능적 다항식 회귀 모형은 다항식 회귀 모형으로 선형 회귀 모형을 확장하는 것과 유사하게 스칼라 반응을 갖는 기능적 선형 모형(FLM)의 자연스러운 확장으로 볼 수 있다.스칼라 반응 $Y{\displaystyle }$ ${\displaystyle Y}$ 및$$ 도메인${\displaystyle }$[$0$1]이 [0,$]$인 기능 $공변량{\displaystyle }$ X$(\cdot$){\$displaystyle$ [0$,1]$이 있고$$ 해당 중심 예측 변수가 $X{\displaystyle {}^{}}$ ${\displaystyle c^{}}$ ${\\$을 처리하는 경우$,$ 기능 다항식 레지스트리 계열에서 가장 단순하고 가장 두드러지는 멤버sion 모델은 다음과 같이 주어진 2차 기능 회귀^[25] 분석이다.

where ${\displaystyle X^{c}(\cdot )=X(\cdot )-\mathbb {E} (X(\cdot ))}$ is the centered functional covariate, ${\displaystyle \alpha }$ is a scalar coefficient, ${\displaystyle \beta (\cdot )}$ and ${\displaystyle \gamma (\cdot ,\cdot )}$ are coefficient functions 도메인${\displaystyle }$[${\displaystyle 0,}$ ${\displaystyle 1}$ ${\displaystyle ]}$ ${\displaystyle [0,1]$과${\displaystyle }$[${\displaystyle 0,1}$ ${\displaystyle ]}$ ${\displaystyle \times }$[${\displaystyle 0,1}$]${\displaystyle [0,1]\displaysty$ [$0,1]$을 각각 포함하는 $.$위의 기능적 2차 회귀 모델이 FLM과 공유하는 파라미터 함수 β 외에도 파라미터 표면 γ이 특징이다.스칼라 반응을 가진 FLM과 유사하게 기능 다항식 모델의 추정은 중심 공변량 ${\$와 계수 함수 $\beta {\displaystyle }$ ${\displaystyle \beta },$ $\gamma$ ${\displaystyle \gamma }$을 모두 정형 기준으로$$ 확장하여 얻을 수 있다.^[25][26]

기능적인 단일 및 다중 인덱스 모델

기능적 다중 지수 모델은 다음과 같이 제공되며, 기호는 앞에서 설명한 것과 같이 통상적인 의미를 갖는다.

여기서 g는 p-차원 영역에 정의된 (알 수 없는) 일반적인 평활함수를 나타낸다.사례 p${\displaystyle }$= ${\displaystyle 1}$ ${\displaystyle$ p$=1$}은(는$)$ 기능적인 단일 인덱스 모델을 생성하는$$ 반면 다중 인덱스 모델은 p> 1 ${\displaystyle p>1}$에 해당하지만 > 1 ${\displaystyle$ p$>1}$의 경우 이 모델은 차원성의 저주로 인해 문제가 있다.> ${\displaystyle p>1$}과$($와) 상대적으로 표본 크기가 작은 경우, 이 모델에 의해 주어진 추정기는 분산이 큰 경우가 많다.^[27][28]

기능적 첨가 모델(FAM)

For a given orthonormal basis ${\displaystyle \{\phi _{k}\}_{k=1}^{\infty }}$ on ${\displaystyle L^{2}[0,1]}$, we can expand ${\displaystyle X^{c}(t)=\sum _{k=1}^{\infty }x_{k}\phi _{k}(t)}$ on the domain ${\displaystyl$$e [0,1]}$.

따라서 스칼라 반응을 갖는 기능적 선형 모델(3)은 다음과 같이 작성할 수 있다.

FAM의 한 형태는 위의 식$($$:$ $\beta {\displaystyle {}_{}}$ ${\displaystyle k_{}}$ x k {\displaystyle $\beta _{$k$\}$$x_${k}}})에서 x k {\displaystyle $x_{k}}}$의 선형함수를 일반 평활함수 ${\displaystyle f_{}}$ k$${\$displaystystyle f_{k$에 대한 다중 선형 회귀 모델을 확장하는 것과 유사하게 하여 얻는다.다음과 같이 표현된다.어디 fk{\displaystyle f_{k}}가 E(fk()k)k∈ N{\displaystylek\in \mathbb{N}에)=0{\displaystyle \mathbb{E}(f_{k}({k}x_))=0}}.[13][7]은 일반적인 부드러운 기능 fk{\displaystyle f_{k}에 이 제약 조건}의 identifiability을 보장한다는 thes의 추정치이다.eadditive 성분 함수는 절편 $용어{\displaystyle \mathbb{}}$ E${\displaystyle }$( ${\displaystyle Y}$) ${\displaystyle \mathb {E} (Y)}$의 절편 항을 방해하지 않는다$.$ 또 다른 형태의 FAM은 다음과 같이 표현되는 연속 첨가 모델이다.^[29]for a bivariate smooth additive surface ${\displaystyle g:[0,1]\times \mathbb {R} \longrightarrow \mathbb {R} }$ which is required to satisfy ${\displaystyle \mathbb {E} [g(t,X(t))]=0}$ for all ${\displaystyle t\in [0,1]}$, in order to ensure identifiability.

일반화 함수 선형 모형

스칼라 반응을 갖는 FLM의 명확하고 직접적인 확장(3)은 일반화된 선형 모델(GLM)에 유추하여 일반화된 기능 선형 모델(GFLM)^[30]로 이어지는 연결 함수를 추가하는 것이다.GFLM의 세 가지 구성 요소는 다음과 같다.

1. 선형 예측 변수 ${\displaystyle {\eta \mathrm{}}_{}}$ =${\displaystyle \beta }$ 0${\displaystyle {}_{}}$+ ${\displaystyle {}_{}^{}}$ ${\displaystyle {0\mathrm{}}_{}^{}}$ 1 ${\displaystyle X^{}}$ ${\displaystyle {}_{}^{}{}^{}}$( ${\displaystyle t}$) ${\displaystyle \beta }$( t${\displaystyle }$) d ${\displaystyle t}$ ${\displaystyle \eta =\beta _{0}+\int _{0}^{$1}$X^{c^{c}(t$)\,dt$\};$ [시스템 성분]
2. 분산 함수 ${\displaystyle \mathrm{Var}(Y}$ X${\displaystyle }$)${\displaystyle }$= V${\displaystyle }$(${\displaystyle \mu }$) ${\displaystyle {\textVar}(Y$ X$)=V(\mu$ $)\},$ 여기서 $\mu {\displaystyle }$= E${\displaystyle (Y}$ X${\displaystyle }$) ${\display$ style $\mu =\mathb {E}(Y X)}$은 조건부 평균이다. [랜덤 구성요소]
3. $조건부{\displaystyle }$ 평균 $\mu {\displaystyle }$ ${\displaystyle \mu }$과(와) 선형 예측 변수 $\mu {\displaystyle }$ ${\displaystyle \eta}$을(를)${\displaystyle \mu }$ = $g{\displaystyle }$(${\displaystyle \eta }$)로 연결하는$$연결 $함수$ g {\$displaystystyle$ $\mu =g(\eta )}.$[시스템 구성 요소]

기능 데이터의 클러스터링 및 분류

벡터 값 다변량 데이터의 경우 k-평균 분할 방법과 계층적 클러스터링은 두 가지 주요 접근법이다.벡터 값 다변량 데이터에 대한 이러한 고전적 클러스터링 개념은 기능 데이터로 확장되었다.기능 데이터의 클러스터링의 경우 계층적 클러스터링 방법보다 k-평균 클러스터링 방법이 더 인기가 있다.기능 데이터에 대한 k-평균 군집화의 경우, 평균 함수는 대개 군집 중심으로 간주된다.공분산 구조도 고려했다.^[31]k-평균형 군집화 외에도 혼합물 모델에 기초한 기능^[32] 군집화는 벡터 값 다변량 데이터를 군집화하는 데도 널리 사용되며 기능 데이터 군집화까지 확대됐다.^{[33][34][35][36][37]}더욱이 베이시안 계층적 클러스터링은 모델 기반의 기능적 클러스터링 개발에도 중요한 역할을 한다.^{[38][39][40][41]}

기능 분류는 기능적 회귀 분석이나 기능적 판별 분석에 기초하여 그룹 멤버십을 새로운 데이터 객체에 할당한다.기능 회귀 모형에 기초한 기능 데이터 분류 방법은 반응으로 클래스 수준을 사용하고 관측된 기능 데이터 및 기타 공변량을 예측 변수로 사용한다.회귀 기반 기능 분류 모델, 기능 일반화 선형 모형 또는 보다 구체적으로 이항 반응에 대한 기능 로지스틱 회귀 분석과 같은 기능 이항 회귀 분석이 일반적으로 사용되는 분류 접근법이다.보다 일반적으로 FPCA 접근법에 기초한 일반화된 기능 선형 회귀 모델을 사용한다.^[42]기능적 선형 판별 분석(FLDA)도 기능 데이터의 분류 방법으로 고려되었다.^{[43][44][45][46][47]}밀도비율을 포함하는 기능 데이터 분류도 제안되었다.^[48]큰 표본 한계에서 제안된 분류자의 점근거동에 대한 연구는 특정 조건에서 오분류율이 0으로 수렴되는 것을 보여주는데, 이것은 "완벽한 분류"^[49]라고 일컬어졌던 현상이다.

시간 뒤틀림

동기부여

진폭 변동 외에도 시간 변동은 기능 데이터에 나타난다고 가정할 수 있다.^[50]시간 변동은 특정 관심 사건의 주제별 타이밍이 주제별로 다를 때 발생한다.고전적인 예로는 버클리 성장 연구 데이터가 있는데,^[51] 여기서 진폭 변화는 성장률이고 시간 변동은 부버탈과 부버탈 전 성장 스퍼트가 발생한 아이들의 생물학적 연령의 차이를 설명한다.시간 변동이 있는 경우, 단면 평균 함수는 피크와 수조가 랜덤하게 위치하므로 효율적인 추정치가 아닐 수 있으며, 따라서 의미 있는 신호가 왜곡되거나 숨겨질 수 있다.

시간 뒤틀림(time warping)은 곡선 등록,^[52] 곡선 정렬 또는 시간 동기화라고도 하며 진폭 변동과 시간 변동을 식별하고 분리하는 것을 목표로 한다.If both time and amplitude variation are present, then the observed functional data ${\displaystyle Y_{i}}$ can be modeled as ${\displaystyle Y_{i}(t)=X_{i}[h_{i}^{-1}(t)],t\in [0,1]}$, where ${\displaystyle X_{i}{\overset {iid}{\sim }}$$X}$은 ${\displaystyle \stackrel{}{잠진폭}}$ ${\displaystyle {함수}_{}}$로 h i ~ i $d{\displaystyle {}_{}}$ ${\displaystyle h_{i}{\overset {iid}{\sim }}h}$은 누적분포함수에 해당하는 잠진시간 뒤틀림 함수다.시간$$ 뒤틀림 함수 $h{\displaystyle }$ ${\displaystyle h}$은(는) 변환 불가능한 것으로 간주되며 $E{\displaystyle \mathbb{}(}$ h${\displaystyle {}^{}}$- ${\displaystyle 1^{}}$( t${\displaystyle }$)${\displaystyle }$= ${\displaystyle t}$ ${\displaystyle \mathb {E}(h^{-1(t)=t$ .

위상 변동을 규정하는 가장 간단한 워핑 함수 계열의 경우는 선형 ${\displaystyle \mathrm{변환}}$으로, 대상별 이동과 축척에 의해 기본 템플릿 함수의 시간을 뒤틀어 주는 $h{\displaystyle (}$t${\displaystyle }$) = ${\displaystyle \Delta }$+ ${\displaystyle \Delta }$ ${\displaystyle t}$ ${\displaysty h(t)=\delta +\gamma t}$이다$.$보다 일반적인 종류의 뒤틀림 함수는 그 자체에 대한 도메인의 차이점형성, 즉 느슨하게 말하면 함수와 그 역수가 모두 매끄럽게 되도록 콤팩트한 도메인을 그 자체에 매핑하는 변환 불가능한 함수의 한 부류를 포함한다.선형 변환 집합은 차이점 유형 집합에 포함되어 있다.^[53]시간 뒤틀림에서 한 가지 난제는 진폭과 위상 변동의 식별 가능성이다.이 비식별성을 깨기 위해서는 구체적인 가정이 필요하다.

방법들

초기 접근법에는 음성 인식과 같은 응용 프로그램에 사용되는 동적 시간 뒤틀림(DTW)이 포함된다.^[54]시간 뒤틀림을 위한 또 다른 전통적인 방법은 랜드마크 등록인데,^[55][56] 이것은 피크 위치 같은 특별한 특징들을 평균적인 위치에 맞추는 것이다.그 밖에 쌍방향 뒤틀림,^[57] L ${\displaystyle 2^{\mathrm{}}}$ ${\$거리를$$^[53] 이용한 등록, 탄력 뒤틀림 등이 관련된다.^[58]

동적 시간 뒤틀림

템플릿 함수는 단면 평균에서 시작하여 뒤틀린 곡선에 대해 단면 평균을 등록하고 재계산하는 반복 프로세스를 통해 결정되며, 몇 번의 반복 후에 수렴이 예상된다.DTW는 동적 프로그래밍을 통해 비용 기능을 최소화한다.DTW에서 매끄럽지 않은 상이한 뒤틀림이나 탐욕스러운 계산의 문제는 비용 함수에 정규화 용어를 추가하면 해결할 수 있다.

랜드마크 등록

랜드마크 등록(또는 형상 정렬)은 잘 표현된 형상이 모든 표본 곡선에 존재한다고 가정하고 그러한 형상의 위치를 골드 표준과 같이 사용한다.기능 또는 파생상품의 피크 또는 수조 위치와 같은 특수 기능은 템플릿 기능의 평균 위치에 정렬된다.^[53]그런 다음 평균 위치에서 대상별 위치로 매끄럽게 변환하여 뒤틀림 기능을 도입한다.랜드마크 등록의 문제점은 데이터의 소음 때문에 특징이 없거나 식별이 어려울 수 있다는 것이다.

확장

지금까지 우리는 1차원 시간영역에 정의된 스칼라 값비싼 확률적 과정,${\displaystyle }${$($ )$}$ t ${\displaystyle {t\mathcal{}}_{}}$ T ${\$ \{X$(t)\}_{t\in$ {\$mathcal{T$}}}}을$($를) 고려했다$.$

$X{\displaystyle (}$ ${\displaystyle \cdot )}$의 다차원 도메인 ${\displaystyle$ X$(\cdot )}$

$X{\displaystyle }$ (${\displaystyle \cdot }$) ${\displaystyle X(\cdot )}$의 도메인은 $R{\displaystyle {}^{}}$ p ${\$ R$^{p}}$에 있을 수 있으며$$$,$ 예를 들어 데이터는 랜덤 표면의 표본일 수 있다.^[59][60]

다변량 확률 공정

확률적 프로세스의 범위 세트는 $R{\displaystyle }$ ${\displaystyle R}$에서 ${\displaystyle R^{}}$ p ${\$까지 연장할$$^[61][62][63] 수 있으며, 나아가 비선형 다지관,^[64] Hilbert 공간^[65] 및 최종적으로 미터법 공간까지 확장될 수 있다.^[59]

R 패키지

일부 패키지는 고밀도 및 종단 설계 모두에서 기능 데이터를 처리할 수 있다.

• fda^[7]
• 환불하다
• 사족을 못쓰게 하다^[17]
• FD부스트
• classiFunc
• fda.usc
• dtw.
• fdasrvf^[58]

참고 항목

• 기능주성분 분석
• 카루넨-로이브 정리
• 변동 모드
• 함수 회귀
• 일반화 함수 선형 모형
• 확률적 과정
• Lp 스페이스
• 분산함수

추가 읽기

• Ramsay, J. O.와 Silverman, B.W. (2005) 기능 데이터 분석, 2차 에디션, 뉴욕: 스프링거, ISBN0-387-40080-X
• Horvath, L. 및 Kokoszka, P.(2012) 뉴욕: Springer, ISBN 978-1-4614-3654-6
• Hing, T. 및 Eubank, R. (2015) 기능 데이터 분석의 이론적 기초, 선형 연산자 소개, 확률 및 통계에서의 Wiley 시리즈, John Wiley & Sons, Ltd, ISBN 978-0-470-01691-6
• Morris, J. (2015) 기능 회귀 분석, 연간 통계 및 통계 적용 검토, Vol. 2, 321 - 359, https://doi.org/10.1146/annurev-statistics-010814-020413
• Wang et al. (2016) 기능 데이터 분석, 연간 통계 및 통계 적용 검토, Vol. 3, 257-295, https://doi.org/10.1146/annurev-statistics-041715-033624

범주:회귀분석

참조