Closed ParkJinHyeock closed 3 years ago
GLU에 잘못 들어있던 Dense layer를 제거하고 linear complexity도 그에맞게 수정하였습니다.
complexity test에서 use_bias를 True, False 두가지로 해서 테스트를 하면 좋을 것 같습니다.
GLU에 잘못 들어있던 Dense layer를 제거하고 linear complexity도 그에맞게 수정하였습니다.