궁금점의 기록
BERT
Hyunie
2021. 7. 22. 13:17
728x90
반응형
https://www.youtube.com/watch?v=AA621UofTUA&list=PLRx0vPvlEmdADpce8aoBhNnDaaHQN1Typ&index=8
RNN cell에서 문맥 vector가 fixed size라는 것 => 내가 정의한 사이즈를 말하는건가? - attention에는 size가 고정되지 않아짐
attention에서 FC의 역할
seq2seq 임베딩 레이어에서 차원 축소?
728x90
반응형