Open liusw02 opened 6 months ago
目前使用 pyltp 模块 根据词性删除标点符号与助动词 得到的结果 都保存在一个列表中,能不能 直接 按照 每段每句的格式返回 ? 这样省去使用者再去 写这方面的代码. 为了能按照文章不同段落以及不同句子来保存文本, 我使用了多个的动态变量保存迭代结果, 一个短短 27行大小27k 的文本运行了将近半个小时&内存峰值达到30G 如果是更大的文本 可能造成内存不足 如果 在模块端优化 能使使用者更加便利
目前使用 pyltp 模块 根据词性删除标点符号与助动词 得到的结果 都保存在一个列表中,能不能 直接 按照 每段每句的格式返回 ? 这样省去使用者再去 写这方面的代码. 为了能按照文章不同段落以及不同句子来保存文本, 我使用了多个的动态变量保存迭代结果, 一个短短 27行大小27k 的文本运行了将近半个小时&内存峰值达到30G 如果是更大的文本 可能造成内存不足 如果 在模块端优化 能使使用者更加便利