컴퓨터 학습 이론

Computational learning theory
참고 항목:통계학습이론
시리즈의 일부(on)
머신 러닝
데이터 마이닝(data mining)
An illustration of a neural network with dark
패러다임
문제
클러스터링
차원 축소
구조예측
이상 탐지
인공신경망
강화학습
인간과의 학습
모델진단
수학적 기초
기계학습 장소
관련기사

컴퓨터 과학에서 컴퓨터 학습 이론(computational learning theory)은 기계 학습 [1]알고리즘의 설계와 분석을 연구하는 인공지능의 하위 분야입니다.

개요

기계 학습의 이론적 결과는 주로 지도 학습이라고 불리는 귀납적 학습 유형을 다룹니다.지도 학습에서 알고리즘은 유용한 방식으로 레이블이 지정된 샘플이 제공됩니다.예를 들어, 표본은 버섯에 대한 설명일 수 있고 라벨은 버섯이 먹을 수 있는지 여부일 수 있습니다.알고리즘은 이전에 레이블이 지정된 이 샘플을 추출하고 분류기를 유도하는 데 사용합니다.이 분류기는 알고리즘에 의해 이전에 볼 수 없었던 샘플을 포함하여 샘플에 레이블을 할당하는 함수입니다.지도 학습 알고리즘의 목표는 새로운 샘플에 대한 실수의 수를 최소화하는 것과 같은 성능 척도를 최적화하는 것입니다.

컴퓨터 학습 이론은 성능 한계 외에도 [citation needed]학습의 시간적 복잡성과 실현 가능성을 연구합니다.계산 학습 이론에서 계산은 다항 시간 [citation needed]내에 수행될 수 있다면 가능한 것으로 간주됩니다.시간 복잡도 결과에는 두 가지 종류가 있습니다.

  • 양의 결과 – 다항식 시간 내에 특정 종류의 함수를 학습할 수 있음을 보여줍니다.
  • 음의 결과 – 특정 클래스를 다항식 시간에 학습할 수 없음을 보여줍니다.

부정적인 결과는 종종 다음과 같은 일반적으로 믿지만 [citation needed]입증되지 않은 가정에 의존합니다.

컴퓨터 학습 이론에는 제한된 데이터에서 일반화하는 데 사용되는 추론 원리에 대한 다양한 가정을 기반으로 한 여러 가지 접근 방식이 있습니다.여기에는 확률에 대한 다양한 정의(빈도 확률, 베이지안 확률 [citation needed]참조)와 표본 생성에 대한 다양한 가정이 포함됩니다.다양한 접근 방식은 다음과 같습니다.

그것의 주요 목표는 학습을 추상적으로 이해하는 것이지만, 컴퓨터 학습 이론은 실용적인 알고리즘의 개발로 이어졌습니다.예를 들어, PAC 이론은 부스팅에 영감을 주었고, VC 이론은 벡터 머신을 지원하고, 베이지안 추론은 믿음 네트워크로 이어졌습니다.

참고 항목

참고문헌

  1. ^ "ACL - Association for Computational Learning".
  2. ^ Valiant, Leslie (1984). "A Theory of the Learnable" (PDF). Communications of the ACM. 27 (11): 1134–1142. doi:10.1145/1968.1972. S2CID 12837541.
  3. ^ Vapnik, V.; Chervonenkis, A. (1971). "On the uniform convergence of relative frequencies of events to their probabilities" (PDF). Theory of Probability and Its Applications. 16 (2): 264–280. doi:10.1137/1116025.
  4. ^ Solomonoff, Ray (March 1964). "A Formal Theory of Inductive Inference Part 1". Information and Control. 7 (1): 1–22. doi:10.1016/S0019-9958(64)90223-2.
  5. ^ Solomonoff, Ray (1964). "A Formal Theory of Inductive Inference Part 2". Information and Control. 7 (2): 224–254. doi:10.1016/S0019-9958(64)90131-7.
  6. ^ Gold, E. Mark (1967). "Language identification in the limit" (PDF). Information and Control. 10 (5): 447–474. doi:10.1016/S0019-9958(67)91165-5.

추가열람

이러한 출판물 중 일부에 대한 설명은 기계 학습의 중요한 출판물에서 제공됩니다.

설문조사

피쳐선택

최적 O 표기법 학습

음의 결과

  • M. Kearns와 Leslie Valiant.1989. 부울 공식과 유한 오토마타 학습에 대한 암호학적 한계컴퓨팅 이론에 관한 제21회 연례 ACM 심포지엄의 회록, 433-444페이지, 뉴욕.ACM. http://citeseer.ist.psu.edu/kearns89cryptographic.html

오차 허용 오차

  • 마이클 컨스와 밍 리.악의적인 오류가 있을 때 학습합니다.SIAM Journal on Computing, 22(4):807–837, 1993년 8.http://citeseer.ist.psu.edu/kearns93learning.html
  • Kearns, M. (1993).통계 쿼리를 통한 효율적인 노이즈 제거 학습.컴퓨팅 이론에 관한 제25차 연례 ACM 심포지엄의 회차에서, 392-208쪽. http://citeseer.ist.psu.edu/kearns93efficient.html

동치

외부 링크