Open hundredeuk2 opened 1 year ago
Encoder Pooler 태우기 전 last hidden state를 Decoder input_ids와 feeding된걸 확인한 수 나오는 logit값에 대한 loss를 선정해야함.
어떻게 해야할지 선행연구와 guide code를 확인하고 논의를 해야함
목표
Encoder Pooler 태우기 전 last hidden state를 Decoder input_ids와 feeding된걸 확인한 수 나오는 logit값에 대한 loss를 선정해야함.
세부사항
어떻게 해야할지 선행연구와 guide code를 확인하고 논의를 해야함