search

zejunwang1 / LLMTuner

大语言模型指令调优工具（支持 FlashAttention）
166 stars 11 forks source link

关于flashattention的问题 #8

Open zeminroot opened 11 months ago

zeminroot commented 11 months ago

请教一下，您使用的flashattention是什么版本呢？使用的是什么显卡呢？目前由于显卡的问题需要尝试安装1.x版本的flashattention，安装后出现一些列错误。

zejunwang1 commented 11 months ago

使用的是 flash attention 2，我在 A5000 显卡上做的测试，flash attention 在 A 系列的显卡上应该都能用