Closed Ethan0625 closed 3 years ago
안녕하세요? train_torch.py, line 194의 chat함수의 gen부분에 관하여 질의사항 드립니다.
현재 train_torch.py에는 gen부분이 tokenizer를 통해 한글자씩 생성하는 형식으로 되어있는 것으로 알고있습니다.
해당 gen부분을 huggingface의 함수중에 generate를 사용하는 것으로 변경하려고 합니다.
train_torch.py에 KoGPT2Chat에는 generate함수가 따로 없어 기존 pretrained model인 KoGPT2모델을 generate함수에 활용하고있습니다.
활용결과 pretrained된 문장만을 생성하는데 혹시 챗봇형식으로 문장을 생성하려면 generate부분을 hugging face document를 참조하여 구현해야하는건지 여쭙고 싶습니다.
아니면 혹시 다른방법이 있는지도 궁금합니다.
안녕하세요? train_torch.py, line 194의 chat함수의 gen부분에 관하여 질의사항 드립니다.
현재 train_torch.py에는 gen부분이 tokenizer를 통해 한글자씩 생성하는 형식으로 되어있는 것으로 알고있습니다.
해당 gen부분을 huggingface의 함수중에 generate를 사용하는 것으로 변경하려고 합니다.
train_torch.py에 KoGPT2Chat에는 generate함수가 따로 없어 기존 pretrained model인 KoGPT2모델을 generate함수에 활용하고있습니다.
활용결과 pretrained된 문장만을 생성하는데 혹시 챗봇형식으로 문장을 생성하려면 generate부분을 hugging face document를 참조하여 구현해야하는건지 여쭙고 싶습니다.
아니면 혹시 다른방법이 있는지도 궁금합니다.