PaddleSlim是PaddlePaddle框架的一个子模块,主要用于压缩图像领域模型。在PaddleSlim中,不仅实现了目前主流的网络剪枝、量化、蒸馏三种压缩策略,还实现了超参数搜索和小模型网络结构搜索功能。在后续版本中,会添加更多的压缩策略,以及完善对NLP领域模型的支持。
##CPU版本安装命令pipinstall-fhttps://paddlepaddle.org.cn/pip/oschina/cpupaddlepaddle##GPU版本安装命令pipinstall-fhttps://paddlepaddle.org.cn/pip/oschina/gpupaddlepaddle-gpu功能模型剪裁支持通道均匀模型剪裁(uniformpruning)基于敏感度的模型剪裁基于进化算法的自动模型剪裁三种方式量化训练在线量化训练(trainingaware)离线量化(posttraining)支持对权重全局量化和Channel-Wise量化知识蒸馏支持单进程知识蒸馏支持多进程分布式知识蒸馏神经网络结构自动搜索(NAS)支持One-Shot网络结构自动搜索(Ont-Shot-NAS)支持基于进化算法的轻量神经网络结构自动搜索(Light-NAS)支持FLOPS/硬件延时约束支持多平台模型延时评估点击空白处退出提示
评论