Open yy35959199 opened 1 year ago
可能是之前已经跑过一次descrption然后尝试再跑发现显存之前没有被清空?我现在的solution是重启后端从头重新跑一次
如果是全新从头跑的还会爆显存建议尝试修改代码去百度AI Studio蹭免费的V100 32G跑【
可能是之前已经跑过一次descrption然后尝试再跑发现显存之前没有被清空?我现在的solution是重启后端从头重新跑一次
如果是全新从头跑的还会爆显存建议尝试修改代码去百度AI Studio蹭免费的V100 32G跑【
最新测试: 30分钟和1小时的纯音频可以直接执行,之前2小时的音频爆了,不知道是原本没清空还是2小时太大了…… large-v2的英文分句比较友好,但是仍然可能会出现反复重复一段碎碎念OTZ
2小时可能是太长了,导致处理到后面免费分配的显存不够。另外音频过长就很容易出现单句重复的问题。
处理上一个任务之后释放显存我还没找到什么好办法,现在用的是torch.cuda.empty_cache()
,但是似乎没什么效果
另外调节模型参数可以避免出现单句重复的问题,如果有大量相似的视频可以试着调一个合适自己的参数
2小时可能是太长了,导致处理到后面免费分配的显存不够。另外音频过长就很容易出现单句重复的问题。
处理上一个任务之后释放显存我还没找到什么好办法,现在用的是
torch.cuda.empty_cache()
,但是似乎没什么效果
之前尝试发现了能释放显存的办法,但是目前发现内存还释放不掉...
按照教程一步步走,语言写的English,内容没放视频而是抽取了整个音轨导入,执行生成时内存爆了…… 加载模型 Loading model...
OutOfMemoryError Traceback (most recent call last) in
46 torch.cuda.empty_cache()
47 print('加载模型 Loading model...')
---> 48 model = whisper.load_model(model_size)
49
50 #Transcribe
8 frames /usr/local/lib/python3.9/dist-packages/torch/nn/modules/module.py in convert(t) 985 return t.to(device, dtype if t.is_floating_point() or t.is_complex() else None, 986 non_blocking, memory_format=convert_to_format) --> 987 return t.to(device, dtype if t.is_floating_point() or t.is_complex() else None, non_blocking) 988 989 return self._apply(convert)
OutOfMemoryError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0; 14.75 GiB total capacity; 13.66 GiB already allocated; 6.81 MiB free; 14.18 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_split_size_mb to avoid fragmentation. See documentation for Memory Management and PYTORCH_CUDA_ALLOC_CONF