请问如何使用paddleslim对uie-x-base进行微调后的模型进行量化、压缩

PaddlePaddle / PaddleSlim

PaddleSlim is an open-source library for deep model compression and architecture search.

Apache License 2.0

1.56k stars 345 forks source link

Open AllenMeng2009 opened 4 months ago

AllenMeng2009 commented 4 months ago

参考https://github.com/PaddlePaddle/PaddleSlim/tree/develop/example/auto_compression 这个方法直接报错，请指导，谢谢

FrostML commented 4 months ago

UIE 一些压缩功能直接在 PaddleNLP 支持的，可以在 PaddleNLP 问问是否有相关的压缩方案

AllenMeng2009 commented 4 months ago

@FrostML 您好，请问之前有没有相关案例使用paddleslim对文字信息抽取uie或文档信息抽取uie-x微调后的模型进行压缩的方法？好的，我也问问paddlenlp那边。谢谢