본문으로 건너뛰기
재미있는 삽질 기록
Home
Categories
Home
Categories
#teacher-forcing
Teacher Forcing과 Auto-regressive 생성
seq2seq decoder가 출력을 하나씩 만들어내는 방식과, 학습 때와 추론 때 입력을 다르게 주는 이유를 정리한다. Auto-regressive 생성 decoder는 한 시점에 한 토큰씩 출력을 만든다. 각 단계의 hidden state는 입력 시퀀스 전체에 대한 정보(con...
#deep-learning #seq2seq #teacher-forcing
|
2025-09-18