jianchang512 / ChatTTS-ui

一个简单的本地网页界面,使用ChatTTS将文字合成为语音,同时支持对外提供API接口。A simple native web interface that uses ChatTTS to synthesize text into speech, along with support for external API interfaces.
https://pyvideotrans.com
Other
4.98k stars 541 forks source link

为什么合成起来这么慢,已经启用了GPU和cuda #160

Open moyangdan opened 4 days ago

moyangdan commented 4 days ago

当前使用音色 seed_path='D:/chattts/speaker/7869.csv' result=['公司全称江苏仅一联合智造有限公司中,仅一名称中,仅一联合智造指的是一种能力。仅一因过去二十多年获得了众多优秀品牌企业用户提供服务的信赖同时,积累了现代工业工程必备的装备和产线的设计、研发、加工、工艺、工装、机械、电气、自动化、智能化方面的软件和硬件技术。', '同时积累了可统筹调用的人才、配套商、供应商、外协商方面的资源,塑造了机制、体系、文化、口碑和品牌等等企业发展必备的要素,并形成了可分享的平台。', '仅一因自身发展而汇聚的各类技术,要素和优质资源,可以向与之匹配的合作伙伴分享,合力打造创新的人文环境,提升产品和服务的绝对竞争优势,赢得客户、员工、供应商、社会的高度尊重与信赖,实现健康可持续发展。', '联合智造是仅一不想成为器类的公司,器是君子不器的器,通俗叫器具或器皿,是作为某种工具,本来各有其用。', '但一种器具往往只限于一定的功能而不能相通使用。君子不器即是说,君子不能像器具那样,只具有一种功能、只限于一定的用途,而应该去 广泛地汲取知识,去博学洽闻。', '仅一是想通过与用户合作过程中的诚信和服务,自己的人格,赢得尊重的客户的信赖,通过给客户赢得创造价值的机会,能获取到让用户的客户更忠诚于用户的商机和创新课题,联合外部的智慧,共同来创造,成为柔性的像水一样组织,是能根据客户的需求随意调配和变化,公司追求是是一个平台化组织,所有直接能干事,直接做事的人都分散在社会上,', '我们就是把最难的事和最难的工作一个分解到一个个的小单元,让社会的每一个现有的组织、工艺、技术、材料、器件、能力都能够实现,我们就是分解,然后整合到一个平台上,合作就能够帮助我们解决问题。', '大家可以设想下如果大部分采用用标准的型材、器件、机构、模块、功能单元,我们来根据需求快速重新组合,实现快速交付。', '这就是我们坚持外联战略的原因,能够实现资源的灵活性和可拓展性。往大方向举例光刻机阿斯麦尔和小米汽车,整合分解数万个零件与几千家配套商;往小方向举例加热系统、就分解成温控、感应器、加热管,把单个方面实现最优功能的需要作为其他两个方面的指标,分解到专业的力量在组合起来达到最优的效果。'],len=9 WARNING:ChatTTS.core:found invalid characters: {';'} text: 0%| | 0/1024(max) [00:00, ?it/s]D:\chattts\venv\Lib\site-packages\transformers\models\llama\modeling_llama.py:649: UserWarning: 1Torch was not compiled with flash attention. (Triggered internally at ..\aten\src\ATen\native\transformers\cuda\sdp_utils.cpp:263.) attn_output = torch.nn.functional.scaled_dot_product_attention( text: 17%|████████████▋ | 175/1024(max) [00:05, 30.67it/s] code: 16%|███████████▉ | 662/4096(max) [01:16, 5.03s/it]

moyangdan commented 4 days ago

一开始很快,都过会就卡在这不动了

moyangdan commented 4 days ago

(venv) D:\chattts>python app.py Starting... 2024-06-27 11:19:14,075 - modelscope - INFO - PyTorch version 2.2.0+cu118 Found. 2024-06-27 11:19:14,076 - modelscope - INFO - Loading ast index from C:\Users\ZSQ.cache\modelscope\ast_indexer 2024-06-27 11:19:14,148 - modelscope - INFO - Loading done! Current index file version is 1.15.0, with md5 ca09b63d3b88f8d718dc31992ee42151 and a total number of 980 components indexed Start:10.19.2.113:9966