Stanislas0
commented
1 year ago 目前模型是基于 ChatGLM2-6B 基座语言模型继续代码预训练的，那么目前模型对指令的理解如何呢，是不是做instruction tunning会更好呢。
开源的 CodeGeeX2-6B 是一个基座代码模型。欢迎使用 CodeGeeX 插件，其中的 Ask CodeGeeX 功能使用的是经过instruction tunning的版本，如下图左侧：
目前模型是基于 ChatGLM2-6B 基座语言模型继续代码预训练的，那么目前模型对指令的理解如何呢，是不是做instruction tunning会更好呢。