vEduardovich / dodari

AI 영한-한영 번역기, 도다리 en-ko/ ko-en AI translator
https://moonlit.himion.com/dodari
Apache License 2.0
187 stars 15 forks source link

혹시 적절한 파인튜닝이 된다고 가정할 시 LLAMA3를 이용한 번역이 적용 가능할까요? #6

Open gagongjaryo opened 4 months ago

gagongjaryo commented 4 months ago

잠깐 LLAMA3 8B모델을 써보고 있는데 솔직히 말도 안되는 성능이라서 이걸 어떻게 잘 활용할 수 있다면 엄청날 것 같아서요. 가능한지 궁금해서 적어봅니다.

nhn모델이 aihub에 있는 번역자료로 파인튜닝 됬던데 비용이 비싸지 않다면(? 그럴리가 없겠지만) 한번 파인튜닝해서 모델 만들어서 써보고 싶어서 문의를 남깁니다.

LLAMA3 ..말도안되는거 같아요 성능이.

p.s 2024.4.24 오후 2시50분 기준으로 허깅페이스가... 맛이가 있는 것 같습니다. 쓰려고하는데 안되서 뭐가 문제인가 했는데 허깅페이스가 사망 상태 같습니다. ->살아났습니다 (57분)->불안불안하네요 (3시 2분)

vEduardovich commented 4 months ago

가능합니다. 심지어 간단합니다. 저도 llama3 8B 성능에 가슴이 설레였습니다. 이것만 된다면 PC사양이 조금 떨어지는 분들도 훌륭한 AI 번역기를 직접 돌릴수 있으니까요.

그런데 아직은 llama3의 한국어 능력이 떨어집니다. yanolja에서 llama2 기반의 solar 언어모델을 한국어에 특화해 파인튜닝한 yanolja_eeve 모델처럼 한국어를 잘하는 모델이 곧 나올것이라 믿어의심치 않습니다. 그것을 #gagongjaryo님이 만들어주신다면 대한민국 AI산업에도 큰 힘이 될 것입니다. 저 또한 바로 모델 업데이트 하겠습니다.

라마3.. 말도 안되는거 맞는거 같습니다. 성능이ㅋ