dependency parsing error: ValueError and KeyError

[jinmang2]

Issue raising

• https://github.com/kakaobrain/pororo/issues/80

Analyze issue

Pororo에선 dictionary 객체가 out of index도 <unk>로 고쳐줘서 에러가 발생하지 않음

• https://github.com/kakaobrain/pororo/blob/master/pororo/models/brainbert/PoSLaBERTa.py#L126

반대로 Dooly에서는 아래와 같이 label 범위 내에 있어야 하기 때문에 KeyError 발생

        heads = heads.argmax(dim=-1).detach().cpu().numpy()[:, 1:-1]
        labels = labels.argmax(dim=-1).detach().cpu().numpy()[:, 1:-1]

        labelmap0 = np.vectorize(lambda x: self._label0[x + self.tokenizer.nspecial])
        labelmap1 = np.vectorize(lambda x: self._label1[x + self.tokenizer.nspecial])

        return tokens, labelmap0(heads), labelmap1(labels), sent_lengths

C:\huggingface\DOOLY\dooly\tasks\base\sequence_tagging.py in <lambda>(x)
    277         labels = labels.argmax(dim=-1).detach().cpu().numpy()[:, 1:-1]
    278 
--> 279         labelmap0 = np.vectorize(lambda x: self._label0[x + self.tokenizer.nspecial])
    280         labelmap1 = np.vectorize(lambda x: self._label1[x + self.tokenizer.nspecial])
    281 

KeyError: 290

labeling의 결과값은 integer로 output이 나와야 함.

heads = [int(head) - 1 for head in heads]  # due to default <s> token

때문에 <unk> 토큰을 int로 바꾸는 과정에서 ValueError 발생

ValueError: invalid literal for int() with base 10: '<unk>'

Dooly에서 이를 fix하고 pororo에 PR날리기

[jinmang2]

• https://github.com/kakaobrain/pororo/issues/80 이슈에서 토론된 내용에 의하면, 모델에 의한 부분이 크다는 것을 확인할 수 있음.
• 즉, 2003ae6 은 잘못된 해결 방법임.
  • -1이 나왔다는 것은 DP의 분석이 끝난 것을 의미. 즉, 문장의 끝)
• PORORO 개발자에게 문의하여 training 상세에 대해 공유받고 hf로 학습시킬 수 있으면 Dooly에서 이를 해결한 모델을 배포(하고 싶다... ㅎㅎ)

[jinmang2]

Dooly에서의 Error는 Fix. issue closing