PaddleSlim是一個模型壓縮工具庫，包含模型剪裁、定點量化、知識蒸餾、超參搜尋和模型結構搜尋等一系列模型壓縮策略。
基本介紹
- 外文名：PaddleSlim
- 類型：模型壓縮工具庫
作用功能
對於業務用戶，PaddleSlim提供完整的模型壓縮解決方案，可用於圖像分類、檢測、分割等各種類型的視覺場景。 同時也在持續探索NLP領域模型的壓縮方案。另外，PaddleSlim提供且在不斷完善各種壓縮策略在經典開源任務的benchmark, 以便業務用戶參考。
對於模型壓縮算法研究者或開發者，PaddleSlim提供各種壓縮策略的底層輔助接口，方便用戶復現、調研和使用最新論文方法。 PaddleSlim會從底層能力、技術諮詢合作和業務場景等角度支持開發者進行模型壓縮策略相關的創新工作。
- 模型剪裁
- 卷積通道均勻剪裁
- 基於敏感度的卷積通道剪裁
- 基於進化算法的自動剪裁
定點量化
- 線上量化訓練（training aware）
- 離線量化（post training）
知識蒸餾
- 支持單進程知識蒸餾
- 支持多進程分散式知識蒸餾
神經網路結構自動搜尋（NAS）
- 支持基於進化算法的輕量神經網路結構自動搜尋
- 支持One-Shot網路結構自動搜尋
- 支持 FLOPS / 硬體延時約束
- 支持多平台模型延時評估
- 支持用戶自定義搜尋算法和搜尋空間
