Closed Teryua closed 3 months ago
Mixtral模型是最新的吗?
@mMrBun 我没用Mixtral模型,这个是导入transformer包出错的问题。项目里面这行代码from transformers.models.mixtral.modeling_mixtral import MixtralBLockSparseTop2MLP, MixtralSparseMoeBlock报错,但是transformer是有MixtralBLockSparseTop2MLP这个类的
@mMrBun 解决了
ImportError: cannot import name 'MixtralBLockSparseTop2MLP' from 'transformers.models.mixtral.modeling_mixtral' 这个类MixtralBLockSparseTop2MLP明明源码里面有的