비모수 회귀 분석

비모수 회귀는 예측 변수가 미리 정해진 형식을 취하지 않고 데이터에서 파생된 정보에 따라 구성되는 회귀 분석 범주입니다.즉, 예측 변수와 종속 변수 간의 관계에 대해 모수 형식이 가정되지 않습니다.데이터가 모형 구조와 모형 추정치를 제공해야 하므로 비모수 회귀 분석에서는 모수 모형에 기초한 회귀 분석보다 더 큰 표본 크기가 필요합니다.

정의.

비모수 회귀 분석에서는 랜덤 $변수$ X(\ $displaystyle$ X $)$ 와 $X$ Y $(\displaystyle$ Y $)$ 가 $Y$ 있으며 다음과 같은 관계를 가정합니다.

\displaystyle \mathbb {E} [Y\mid X=x]=m(x),}

$m(x)$ 서 $m(x)$ m ( $m(x)$ ) { $displaystyle$ m $(x)}$ 은 $m(x)$ 결정론적 함수입니다.선형 회귀는 m $m(x)$ ( $m(x)$ ) { $displaystyle$ m $(x)}$ 이 $m(x)$ (가) 아핀이라고 $m(x)$ 하는 비모수 회귀의 제한된 경우입니다.일부 저자는 약간 더 강한 첨가 소음 가정을 사용한다:

Y=m(X)+U,

여기서 랜덤 $변수$ U {\ $displaystyle$ U $}$ 는 $U$ '노이즈 용어'이며, 평균은 0입니다.m{\ $displaystyle$ m $}$ 이 $m$ 특정 모수 함수군에 속한다는 $가정$ 없이는 m{\ $displaystyle$ m $m$ 에 대한 편견 없는 추정치를 얻을 수 없지만 대부분의 추정치는 적절한 조건에서 일관됩니다.

범용 비모수 회귀 알고리즘 목록

회귀 분석을 위한 비모수 모형의 비파괴적 리스트입니다.

가장 가까운 네이버, "가장 가까운 인터폴레이션" 및 "k-timeout 네이버 알고리즘" 참조
퇴행수
커널 회귀
국소 회귀
다변량 적응 회귀 스플라인
평활 스플라인

예

가우스 프로세스 회귀 또는 크리깅

Kriging이라고도 하는 가우스 프로세스 회귀에서는 회귀 곡선에 대해 가우스 이전이 가정됩니다.오차는 다변량 정규 분포를 갖는 것으로 가정하고 회귀 곡선은 사후 모드에 의해 추정됩니다.이전의 가우스 값은 일반적으로 경험적 베이스를 통해 추정되는 알려지지 않은 하이퍼 파라미터에 의존할 수 있다.하이퍼 파라미터는 일반적으로 이전 공분산 커널을 지정합니다.커널도 데이터에서 비모수적으로 추론해야 하는 경우에는 임계 필터를 사용할 수 있습니다.

평활 스플라인은 가우스 공정 회귀의 후방 모드로 해석됩니다.

커널 회귀

가우스 커널 평활기를 사용하여 비모수 회귀를 사용하여 작은 데이터 세트(검은색 점)에 적합한 곡선(빨간색 선)의 예제입니다.분홍색 음영 영역은 특정 값 x에 대해 y의 추정치를 얻기 위해 적용된 커널 함수를 나타냅니다.커널 함수는 목표점에 대한 추정치를 생성할 때 각 데이터 점에 주어진 가중치를 정의합니다.

커널 회귀 분석에서는 데이터 포인트의 위치를 커널 함수로 변환함으로써 제한된 데이터 포인트 집합에서 연속 종속 변수를 추정합니다. 즉, 커널 함수는 데이터 포인트의 영향을 "혼합"하여 해당 값을 인근 위치의 값을 예측하는 데 사용할 수 있도록 하는 방법을 지정합니다.

회귀 트리

의사결정 트리 학습 알고리즘을 적용하여 데이터에서 ^[1]종속 변수를 예측하는 방법을 학습할 수 있습니다.CART(분류와 회귀 트리) 공식은 일변량 데이터 예측에만 적용되지만, 이 프레임워크를 사용하여 시계열을 ^[2]포함한 다변량 데이터를 예측할 수 있습니다.

「」를 참조해 주세요.

레퍼런스

^ Breiman, Leo; Friedman, J. H.; Olshen, R. A.; Stone, C. J. (1984). Classification and regression trees. Monterey, CA: Wadsworth & Brooks/Cole Advanced Books & Software. ISBN 978-0-412-04841-8.
^ Segal, M.R. (1992). "Tree-structured methods for longitudinal data". Journal of the American Statistical Association. American Statistical Association, Taylor & Francis. 87 (418): 407–418. doi:10.2307/2290271. JSTOR 2290271.

추가 정보

Bowman, A. W.; Azzalini, A. (1997). Applied Smoothing Techniques for Data Analysis. Oxford: Clarendon Press. ISBN 0-19-852396-3.
Fan, J.; Gijbels, I. (1996). Local Polynomial Modelling and its Applications. Boca Raton: Chapman and Hall. ISBN 0-412-98321-4.
Henderson, D. J.; Parmeter, C. F. (2015). Applied Nonparametric Econometrics. New York: Cambridge University Press. ISBN 978-1-107-01025-3.
Li, Q.; Racine, J. (2007). Nonparametric Econometrics: Theory and Practice. Princeton: Princeton University Press. ISBN 978-0-691-12161-1.
Pagan, A.; Ullah, A. (1999). Nonparametric Econometrics. New York: Cambridge University Press. ISBN 0-521-35564-8.

외부 링크

HyperNiche, 비모수 곱셈 회귀를 위한 소프트웨어입니다.
스케일 적응형 비모수 회귀 분석(Matlab 소프트웨어 사용).

[bfos-1] Breiman, Leo; Friedman, J. H.; Olshen, R. A.; Stone, C. J. (1984). Classification and regression trees. Monterey, CA: Wadsworth & Brooks/Cole Advanced Books & Software. ISBN 978-0-412-04841-8.

[2] Segal, M.R. (1992). "Tree-structured methods for longitudinal data". Journal of the American Statistical Association. American Statistical Association, Taylor & Francis. 87 (418): 407–418. doi:10.2307/2290271. JSTOR 2290271.

[1]

[2]

Search

비모수 회귀 분석

네임스페이스

더

목차

정의.

범용 비모수 회귀 알고리즘 목록