변압기(기계 학습 모델)

시리즈의 일부
기계 학습 및 데이터 마이닝
문제 분류 클러스터링 회귀 이상 검출 데이터 클리닝 자동 ML 어소시에이션 규칙 강화 학습 구조화된 예측 기능 엔지니어링 기능 학습 온라인 학습 준지도 학습 비지도 학습 순위 매기기 학습 문법 유도
지도 학습 (분류 • 회귀) 의사결정 트리 앙상블 배깅 부스팅 랜덤 포레스트 k-NN 선형 회귀 네이비 베이즈 인공신경망 로지스틱 회귀 분석 퍼셉트론 관련 벡터 머신(RVM) 서포트 벡터 머신(SVM)
클러스터링 버치 치유하다 계층적 k자형 기대 최대화(EM) DBSCAN 광학 평균 이동
치수 축소 인자 분석 CCA ICA LDA NMF PCA PGD t-SNE
구조화된 예측 그래픽 모델 베이즈 네트 조건부 랜덤 필드 히든 마르코프
이상 검출 k-NN 국소 특이치 계수
인공신경망 자동 인코더 인지 컴퓨팅 딥 러닝 딥 드림 다층 퍼셉트론 RNN LSTM GRU ESN 저장고 계산 제한 볼츠만 기계 GAN somerset. 컨볼루션 뉴럴 네트워크 유넷 트랜스포머 비전. 스파이킹 뉴럴 네트워크 메모리 트랜지스터 전기화학 RAM(ECRAM)
강화 학습 Q-러닝 사사 시간차(TD) 멀티 에이전트 셀프 플레이
인간과의 학습 액티브 러닝 크라우드 소싱 휴먼 인 더 루프
모델 진단 학습 곡선
이론. 커널 머신 바이어스-분산 트레이드오프 컴퓨터 학습 이론 경험적 리스크 최소화 오컴 러닝 PAC 학습 통계학 학습 VC 이론
기계학습장 NeurolIPS ICML ML JMLR ArXiv:cs.LG
관련 기사 인공지능 용어집 기계 학습 연구를 위한 데이터 세트 목록 기계학습의 개요
v t

변압기는 입력 데이터의 각 부분의 중요성에 차등을 두고 자기 주의 메커니즘을 채택하는 딥 러닝 모델입니다.주로 자연어 처리(NLP)^[1] 및 컴퓨터 비전(CV)^[2] 분야에서 사용됩니다.

RNN(Recurrent Neural Network)과 마찬가지로 변환기는 번역 및 텍스트 요약과 같은 작업을 위한 애플리케이션을 사용하여 자연 언어와 같은 순차적 입력 데이터를 처리하도록 설계되었습니다.그러나 RNN과 달리 변압기는 전체 입력을 한꺼번에 처리합니다.주의 메커니즘은 입력 시퀀스의 모든 위치에 대한 컨텍스트를 제공합니다.예를 들어 입력 데이터가 자연어 문인 경우 변환기는 한 번에 한 단어를 처리할 필요가 없습니다.이를 통해 RNN보다 더 많은 병렬화가 가능하므로 교육 ^[1]시간이 단축됩니다.

트랜스포머는 Google^[1] Brain의 팀에 의해 2017년에 도입되어 롱 단기 메모리(LSTM)와 같은 RNN 모델을 대체하면서 NLP 문제에 ^[3]대한 선택 모델이 되고 있습니다.추가적인 교육 병렬화를 통해 대규모 데이터셋에 대한 교육이 가능합니다.이를 통해 BERT(Bidirectional Encoder Representations from Transformers) 및 GPT(Generative Pre-Trained Transformer)와 같은 사전 훈련 시스템이 개발되었으며, 이는 위키피디아 말뭉치 및 공통 크롤과 같은 대규모 언어 데이터셋으로 훈련되었으며 특정 ^[4][5]작업에 대해 미세 조정할 수 있다.

배경

변압기 이전에 대부분의 최첨단 NLP 시스템은 LSTM 및 게이트 반복 단위(GRU)와 같은 게이트 RNN에 의존했으며, 추가적인 주의 메커니즘이 있었다.변압기도 주의 메커니즘을 사용하지만 RNN과 달리 반복 구조를 가지고 있지 않다.즉, 충분한 훈련 데이터가 제공되면 주의 메커니즘만으로도 ^[1]주의력이 있는 RNN의 성능과 일치할 수 있다.

순차 처리

게이트 RNN은 토큰을 순차적으로 처리하여 모든 토큰 뒤에 표시되는 데이터의 표현을 포함하는 상태 벡터를 유지합니다.$n번째$$토큰$을 처리하기 위해 모델은 토큰 n$$-$$까지 $문장$을 나타내는 상태와 새로운 토큰 정보를 결합하여 $n$까지 문장을 나타내는 새로운 상태를 만듭니다$.$이론적으로 상태가 토큰에 대한 컨텍스트 정보를 계속 인코딩하는 경우, 1개의 토큰으로부터의 정보는 시퀀스에 따라 임의로 전파될 수 있습니다.실제로 이 메커니즘은 결함이 있습니다. 즉, 사라져가는 구배 문제는 이전 토큰에 대한 정확하고 추출 가능한 정보가 없는 긴 문장 끝에 모델의 상태를 남깁니다.이전 토큰 계산 결과에 대한 토큰 계산의 의존성은 또한 현대의 딥 러닝 하드웨어에 대한 계산을 병렬화하는 것을 어렵게 만든다.이로 인해 RNN 훈련이 비효율적일 수 있습니다.

자기 주의

이러한 문제는 주의 메커니즘을 통해 해결되었다.주의 메커니즘은 모델이 시퀀스를 따라 이전의 모든 지점에서 상태를 그릴 수 있도록 합니다.주의 계층은 이전의 모든 상태에 액세스하고 학습된 관련성 측정에 따라 가중치를 부여하여 멀리 떨어진 토큰에 대한 관련 정보를 제공할 수 있습니다.

주의의 가치에 대한 명확한 예는 언어 번역에서, 문맥은 문장에서 단어의 의미를 할당하는 데 필수적입니다.영어-프랑스어 번역 시스템에서 프랑스어 출력의 첫 단어는 영어 입력의 첫 번째 몇 단어에 크게 의존합니다.단, 고전적인 LSTM 모델에서는 프랑스어 출력의 첫 번째 단어를 생성하기 위해 마지막 영어 단어를 처리한 후 모델에는 상태 벡터만 부여됩니다.이론적으로, 이 벡터는 영어 문장 전체에 대한 정보를 부호화할 수 있으며, 모델에 필요한 모든 지식을 제공합니다.실제로 이 정보는 LSTM에 의해 잘 보존되지 않는 경우가 많습니다.이 문제에 대처하기 위해 주의 메커니즘을 추가할 수 있습니다.디코더는 마지막뿐만 아니라 모든 영어 입력 워드의 상태 벡터에 액세스 할 수 있으며, 각 영어 입력 상태 벡터에 얼마나 주의를 기울여야 하는지를 지시하는 주의 가중치를 학습할 수 있습니다.

RNN에 주의 메커니즘을 추가하면 성능이 향상됩니다.트랜스포머 아키텍처의 개발은 주의 메커니즘이 그 자체로 강력하며 주의를 기울여 RNN의 품질 향상을 달성하기 위해 데이터의 순차적 반복 처리가 필요하지 않다는 것을 밝혀냈다.변압기는 RNN이 없는 주의 메커니즘을 사용하여 모든 토큰을 동시에 처리하고 연속된 레이어에서 이들 사이의 주의 가중치를 계산합니다.주의 메커니즘은 하위 계층의 다른 토큰에 대한 정보만 사용하기 때문에, 모든 토큰에 대해 병렬로 계산될 수 있으므로 교육 속도가 향상됩니다.

아키텍처

입력

입력 텍스트는 바이트 쌍 부호화 토큰화자에 의해 토큰으로 해석되며 각 토큰은 단어 삽입을 통해 벡터로 변환됩니다.그 후, 토큰의 위치 정보가 단어 삽입에 부가된다.

인코더-디코더 아키텍처

이전의 seq2seq 모델과 마찬가지로 원래의 트랜스포머 모델에서는 인코더-디코더 아키텍처를 사용했습니다.인코더는 입력을 1층씩 반복 처리하는 부호화 레이어로 구성되어 있으며, 디코더는 인코더의 출력에 동일한 작업을 수행하는 복호화 레이어로 구성되어 있습니다.

각 인코더 레이어의 기능은 입력의 어느 부분이 서로 관련되어 있는지에 대한 정보를 포함하는 인코딩을 생성하는 것입니다.입력으로서 부호화를 다음의 인코더 레이어에 전달합니다.각 디코더 층은 반대로 모든 인코딩을 받아들여 내장된 컨텍스트 정보를 사용하여 출력 ^[6]시퀀스를 생성한다.이를 위해 각 인코더 및 디코더 레이어는 어텐션메커니즘을 사용합니다.

각 입력에 대해 주의력은 다른 모든 입력의 관련성을 따져보고 ^[7]이들로부터 결과를 도출한다.각 디코더 층은 디코더 층이 부호화로부터 정보를 취득하기 전에 이전의 디코더 출력으로부터 정보를 취득하는 추가 주의 메커니즘을 가진다.

인코더층 및 디코더층 모두 출력의 추가 처리를 위한 피드포워드 뉴럴 네트워크를 가지며, 잔류접속 및 레이어 정규화 ^[7]단계를 포함한다.

도트 제품에 대한 관심 확대

변압기 구성 요소는 스케일링된 도트 제품 주의 단위입니다.문장이 변압기 모델로 전달되면 주의 가중치가 모든 토큰 간에 동시에 계산됩니다.주의 유닛은 주의 무게에 따라 가중치가 부여되는 다른 관련 토큰의 가중 조합과 함께 토큰 자체에 대한 정보를 포함하는 컨텍스트 내의 모든 토큰에 대한 임베딩을 생성합니다.

각 주의 유닛에 대해 트랜스포머 모델은 3개의 가중치 매트릭스($쿼리$ $가중치{\displaystyle {}_{}}$ ${\displaystyle W_{}}$ Q$,$ 키$가중치$ W K$,$ 값 $가중치{\displaystyle {}_{}}$ ${\displaystyle W_{}}$ V$,$ 각 $토큰{\displaystyle }$i(\$displaystyle$ $W_{V$를 학습합니다.각 토큰 i(\$displaystyle$ i$)$에 대해 입력 $삽입어{\displaystyle {}_{}}$ $displaystyle$ x{{V$}).$i$}}$을(를) 3개의 가중치 매트릭스와 각각 곱하여 쿼리 $벡터{\displaystyle {}_{}}$ ${\displaystyle q_{}}$ $=$ ${\displaystyle x_{}}$ ${\displaystyle {}_{}{}_{}}$ $({${i$}=x_{$i})를 $생성$한다.$W_{Q$ 키 $벡터{\displaystyle {}_{}}$ ${\displaystyle {ki}_{}}$ $=$ ${\displaystyle x_{}}$ i ${\displaystyle {}_{}{}_{}}$ $({$i}=$x_{$$i$})$W_{K$ 및 값 $벡터{\displaystyle {}_{}}$ ${\displaystyle {vi}_{}}$ $=$ ${\displaystyle x_{}}$ ${\displaystyle {}_{}{}_{}}$ ${\displaystyle W_{}}$V (\$displaystyle v_${i}=$x_{$$i$})$W_{V$ 주의의 가중치는 쿼리와 키 벡터를 사용하여 계산됩니다.$token{\displaystyle }$i {\$displaystyle$i}에서$$ $token{\displaystyle }$j {\$displaystyle$ j$}$까지의 주의 $가중치{\displaystyle {}_{}}$ ${\displaystyle a_{}}$는 ${\displaystyle q_{}}$i {\$displaystyle q_{i}$와 ${\displaystyle k_{}}$j {$displaystyle k_{j$ 사이의 $도트{\displaystyle {}_{}}$ 곱입니다.주의 가중치는 키 벡터 치수의 제곱근 d $(\$로 나누어 훈련 중 구배를 안정화하며 가중치를 정규화하는 소프트맥스를 통과합니다.${\displaystyle W_{}}$ Q$(\$와 ${\displaystyle W_{}}$ K$(\$는 서로 다른 매트릭스이기 때문에 주의를 비대칭으로 할 수 있습니다.예를 $들어{\displaystyle }$ $토큰{\displaystyle {}_{}}$ i${\displaystyle {}_{}}$$displaystyle$ i$)$가 $토큰{\displaystyle }$ j$(\$displaystyle q_i}\cdot k_{j$$})에 참여하는 경우 이는 반드시 큰 의미가 아닙니다.$token$j {\$displaystyle$ j$}$는 $token{\displaystyle }$i {\$displaystyle$ i$}($$예{\displaystyle {}_{}}$: ${\displaystyle q_{}}$ j${\displaystyle {}_{}{}_{}}$ k$$ { $display$ style $q$_ { $j$} \ $cdot k$_ { $i}$ )에$$ 적용됩니다.$토큰 i$의 주의$$ 유닛의 출력은$$모든 토큰의 값 벡터의 가중치 합계입니다.$이{\displaystyle }$ 값은$$ 토큰 i에서 각 토큰에 대한 주의 값 i로 가중치는 ${\displaystyle i_{}}$ j$${\$displaystyle$$a_{ij$입니다.

모든 토큰에 대한 주의력 계산은 softmax 함수를 사용하여 하나의 큰 행렬 계산으로 표현할 수 있으며, 행렬 연산을 빠르게 계산하는 계산 행렬 연산 최적화로 인해 훈련에 유용합니다.$행렬{\displaystyle }$Q(\$displaystyle$ Q$),$ $(\displaystyle$ K$)$ $및$ V$(\displaystyle$ V$)$는 i$(\displaystyle$ i$)$의 각 행이 $벡터{\displaystyle {}_{}}$ $(\$$$(\$displaystyle k_i$ $및{\displaystyle {}_{}}$ $(\$인 행렬로 정의됩니다.

${\displaystyle {begin{aligned}{\text{Attention}}(Q,K,V)=softtext{softmax}}\left({\frac {QK^{\mathrm {T}}}}}}{\fracrt {d_{k}}}}}}}}\오른쪽)V\end {aligned}}$

멀티헤드 어텐션

( ${\displaystyle W{}_{}{Q}_{}}$ , ${\displaystyle W_{}}$K , ${\displaystyle {}_{}{V}_{}}$) { $displaystyle \left$( $W$_ {$Q$ , W _ { $K$, $W _$ { V$$} \$right$ ) 매트릭스의${\displaystyle }$1 세트를 어텐션헤드라고 부릅니다.트랜스 모델의 각 레이어에는 복수의 어텐션헤드가 있습니다.각 주의 헤드는 각 토큰과 관련된 토큰에 관심을 가지며, 여러 주의 헤드를 사용하여 모델은 "관련성"에 대한 다양한 정의에 대해 이 작업을 수행할 수 있습니다.또한 관련성을 나타내는 영향 영역은 연속적인 계층에서 점진적으로 확장될 수 있다.많은 변압기 주의 헤드는 인간에게 의미 있는 관련성을 부호화한다.예를 들어, 주의 헤드는 주로 다음 단어에 집중할 수 있는 반면, 다른 사람들은 주로 동사에서 직접 ^[8]목적어에 집중할 수 있습니다.각 주의 헤드에 대한 연산은 병렬로 수행될 수 있으므로 빠른 처리가 가능합니다.주의 레이어에 대한 출력은 피드 포워드 뉴럴 네트워크 레이어에 전달되도록 연결됩니다.

인코더

각 인코더는 자기주의 메커니즘과 피드포워드 뉴럴 네트워크라는2개의 주요 컴포넌트로 구성됩니다.셀프 어텐션메커니즘은 이전 인코더로부터의 입력 인코딩을 받아들여 서로 관련성을 평가하여 출력 인코딩을 생성합니다.피드포워드 뉴럴 네트워크는 각 출력 부호화를 개별적으로 처리합니다.이러한 출력 부호화는 다음 인코더 및 디코더에 입력으로 전달됩니다.

첫 번째 인코더는 부호화가 아니라 입력 시퀀스의 위치 정보와 임베딩을 입력으로 받아들입니다.위치정보는 변압기의 다른 어떤 부분도 이를 이용하지 않기 때문에 ^[1]변압기가 시퀀스의 순서를 이용하기 때문입니다.

인코더는 양방향입니다.현재 토큰의 전후로 토큰에 주의를 기울일 수 있습니다.

위치 부호화

위치 부호화는 $유형{\displaystyle f\mathbb{}}$ : R ${\displaystyle \to }$ ${\displaystyle {\mathbb{}}^{}}$ ${\displaystyle {}^{}}$\ $displaystyle$ f : \ $mathbb { R$} \ $to$\$mathbb${$R }$의 $함수로$정의됩니다$.$여기서 d\ $displaystyle{\displaystyle }$d는 $양의 짝수$ 정수입니다$$.

여기서 ${\displaystyle \theta \frac{}{}}$ ${\displaystyle =}$ ${\displaystyle \frac{{}^{}}{}}$ r${\displaystyle \frac{{}^{}}{}\frac{k^{}}{}}$ , ${\displaystyle r}$ $=$ ${\displaystyle {}^{}}$ ${\displaystyle {2\mathrm{}}^{}}$/$$ \ $displaystyle \theta$=$fr$ frac {$t$} { $r ^$ { r ^ { $2$/ $d$ 。여기서$$N(\$displaystyle$ N$)$은 위치 부호화 함수에 입력되는 $최대{\displaystyle }$ k$(\displaystyle$ k$)$보다 훨씬 큰 자유 파라미터입니다.원본 ^[1]논문에서 저자들은 N ${\displaystyle =}$ $(\displaystyle$ N$=120$을 $선택$했습니다.

이 함수는 유형 $f{\displaystyle :}$ ${\displaystyle R\mathbb{}}$ ${\displaystyle \to }$ ${\displaystyle {}^{}}$d /$$ {\$style$ f$:\mathbb {R}$ \$to \mathbb {C}$^{$d/2}$의 복소함수로 표기할 때 보다 단순한 형식입니다.

$여기$서 r ${\displaystyle =}$ ${\displaystyle {N\mathrm{}}^{}}$ 2${\displaystyle {}^{}}$/$$ \ $display$ r =$N^$ {$2$ / $d$}$$。

저자들이 이것을 위치 부호화 함수로 선택한 주된 이유는 선형 변환으로서 시프트를 수행할 수 있기 때문입니다.

여기서 ${\displaystyle \delta }$ t${\displaystyle r\mathbb{}}$R {\$displaystyle \Delta$ t$\in \mathbb {R}}$은 이동하려는 거리입니다.이것에 의해, 트랜스포머는 임의의 부호화 위치를 취득해, 행렬 곱셈에 의해서, 1 스텝 선행 또는 1 스텝 배후의 위치의 부호화를 찾아낼 수 있습니다.

선형 합계를 취함으로써 모든 컨볼루션도 선형 변환으로 구현할 수 있습니다.

모든 $cj$ {\$displaystyle c_$j}}에 대해 지정합니다.이것에 의해, 트랜스포머는 임의의 부호화 위치를 취득해, 인접 라우터의 부호화 로케이션의 선형 합계를 찾아낼 수 있습니다.이 부호화된 위치의 합계는, 주의 메커니즘에 공급될 때, 컨볼루션 뉴럴 네트워크 언어 모델에서 일어나는 것과 같이, 이웃에 주의 가중치를 만들 것이다.저자의 말처럼, "우리는 그것이 모델이 상대적인 위치에 의해 쉽게 출석하는 것을 배울 수 있게 해줄 것이라는 가설을 세웠다."

일반적인 구현에서는 모든 연산은 복소수가 아닌 실수에 의해 이루어지지만, 복소수 곱셈은 실제 2x2 행렬 곱셈으로 구현될 수 있기 때문에 이는 단순한 표기상의 차이일 뿐입니다.

다른 위치 부호화 방식이 존재합니다.^[9]

디코더

각 디코더는 자기 주의 메커니즘, 부호화 위의 주의 메커니즘 및 피드 포워드 뉴럴 네트워크의 3가지 주요 구성요소로 구성됩니다.디코더는 인코더와 같은 방법으로 기능하지만 인코더에 의해 생성된 인코딩에서 관련 정보를 얻는 추가 주의 메커니즘이 삽입됩니다.이 메커니즘은 인코더/디코더 ^[1][7]어텐션이라고도 불립니다.

첫 번째 디코더는 첫 번째 인코더와 마찬가지로 위치정보와 출력 시퀀스의 임베딩을 인코딩이 아닌 입력으로 받아들입니다.트랜스에서는 출력을 예측하기 위해 현재 출력 또는 미래 출력을 사용할 수 없으므로 출력 시퀀스를 부분적으로 마스킹하여 이 ^[1]역방향 정보 흐름을 방지해야 합니다.이를 통해 자동 회귀 텍스트 생성이 가능합니다.모든 주의 헤드에 대해 다음 토큰에 주의를 기울일 수 없습니다.마지막 디코더는 어휘에 대한 출력 확률을 생성하기 위해 최종 선형 변환과 softmax 레이어에 이어 이어집니다.

GPT는 디코더 전용 아키텍처입니다.

대체 수단

변압기 기반 아키텍처의 훈련은 특히 긴 입력의 경우 비용이 많이 ^[10]들 수 있습니다.대체 아키텍처로는 리폼러(O $N$2)에서${\displaystyle }$O ($N$ ${\displaystyle \ln }$ ${\displaystyle †}$$N$$)$로 계산 부하를 저감하는\$displaystyle$$$O $(N\ln$ N$))$또는 ETC/Big Bird (N${\displaystyle \backslash }$ln N)와 같은 $모델$($O$ ($displaystyle$ O$)$가 있습니다$.$^[11]이 작업은 로컬리티에 민감한 해시 계층과 리버서블 ^[12][13]계층을 사용하여 수행됩니다.

일반 트랜스에서는 컨텍스트 창의 크기에서 2차 메모리 크기가 필요합니다.주의: 프리 트랜스포머는^[14] 키를 값에 링크함으로써 변압기의 장점을 유지하면서 이를 선형 의존성으로 줄입니다.

변압기 아키텍처를 비교하기 위한 벤치마크가 2020년 ^[15]말에 도입되었습니다.

트레이닝

변압기는 일반적으로 감독되지 않은 사전 훈련을 포함한 자체 감독 학습과 감독된 미세 조정을 거친다.라벨이 붙은 트레이닝 데이터의 가용성이 한정되어 있기 때문에, 통상, 사전 트레이닝은 미세 조정보다 큰 데이터 세트에 대해서 실시됩니다.일반적으로 사전 훈련 및 미세 조정 작업은 다음과 같습니다.

• 언어 모델링^[4]
• 다음 번 예측^[4]
• 질문의 대답^[5]
• 독해력
• 감정 분석^[16]
• 패러프레이스^[16]

적용들

트랜스포머는 기계번역이나 시계열 ^[17]예측 등의 자연언어 처리(NLP)에서 큰 성공을 거두고 있습니다.GPT-2, GPT-3, BERT, XLNet, RoBERTA 등의 많은 사전 훈련 모델에서는 이러한 다양한 NLP 관련 태스크를 수행할 수 있는 트랜스포머의 기능이 입증되어 실제 ^[4][5][18]응용 프로그램을 찾을 수 있습니다.여기에는 다음이 포함됩니다.

• 기계 번역
• 문서 요약
• 문서 생성
• 명명된 엔티티 인식(NER)^[19]
• 생체 배열 분석^[20][21][22]
• 비디오 ^[23]이해

2020년에는 변압기 아키텍처, 구체적으로는 GPT-2가 ^[24]체스를 두도록 조정될 수 있는 것으로 나타났습니다.트랜스포머는 컨볼루션 뉴럴 ^[25][26]네트워크와 경쟁적인 결과로 영상 처리에 적용되었습니다.

실장

변압기 모델은 TensorFlow 및 PyTorch와 같은 표준 딥 러닝 프레임워크에서 구현되었다.

트랜스포머는 Hugging Face에서 제작한 라이브러리로 트랜스포머 기반 아키텍처와 사전 교육 모델을 ^[3]제공합니다.

「 」를 참조해 주세요.

• 인식기
• GPT-3
• 우다오
• 비전 트랜스포머

레퍼런스

추가 정보