是否可以将几个主流开发语言分别做一个更小的模型

THUDM / CodeGeeX2

CodeGeeX2: A More Powerful Multilingual Code Generation Model

https://codegeex.cn

Apache License 2.0

7.62k stars 532 forks source link

Open animalong opened 1 year ago

animalong commented 1 year ago

CodeGeeX2-6b 虽然体积小了一些，但同时支持多种语言感觉还是有点浪费，是否可以按某个开发语言单独训练一个。这样可以更小一些，对配置的要求可能会更低一些吧。作为笔记本使用者，目前还没有换电脑的想法，希望可以体验到更小更快的代码生成模型

animalong commented 1 year ago

不同的开发语言用同一个模型来支持代码生成，感觉有些浪费，是否可以按语言拆分模型？