트랜스포머

딥러닝 모델 아키텍처로 어텐션 메커니즘을 핵심으로 한다.

순환 신경망(RNN)이나 합성곱 신경망(CNN)을 사용하지 않고도 시퀀스 데이터를 효과적으로 처리할 수 있다.

트랜스포머 아키텍처의 의의는 다음과 같다:

1. 병렬 처리가 가능해 학습 속도가 빠르다.
2. 장거리 의존성을 효과적으로 포착할 수 있다.
3. 다양한 NLP 작업에서 최고 성능을 보인다.