FastDeploy 0.4.0
jiangjiajun
released this
23 Oct 06:24
·
1519 commits
to develop
since this release
0.4.0版本新增Android移动端部署支持!
What's Changed
移动端部署
- 增加FastDeploy Android C++预测库,支持arm64-v8a和armeabi-v7a架构,详见 预编译库下载
- 增加目标检测模型PicoDet的Android部署,详见示例
- 增加图像分类PaddleClas系列模型的Android部署,详见示例
模型
- 优化YOLOv5/6/7 GPU部署端到端性能,通过YOLOv5::UseCudaPreprocessing()启用GPU前处理后,T4 GPU(TensorRT)上性能提升30%~50%,详见PR说明 #370
- 增加7个Web端js部署案例,详见js部署示例
- 增加TinyPose以及PicoDet+TinyPose串联Pipeline部署支持,详见示例
- 增加Torch Vision ResNet系列模型的部署支持,详见示例
- PPOCRSystemv2 & PPOCRSystemv3重命名为PPOCRv2 & PPOCRv3
- 优化PaddleSeg & PaddleOCR中部分模型警告信息
服务化部署
推理后端
- GPU部署增加
EnablePinedMemory
接口,支持Paddle Inference和TensorRT推理时,使用Pinned Memory,提升数据从GPU拷贝至CPU的传输生能,详见PR #403
文档(仍在完善中)
- 新上线Python API文档,详见 Python API文档
- 新上线C++ API文档,详见C++ API文档
New Contributors
- @HexToString made their first contribution in #384
- @wang-xinyu made their first contribution in #370
- @LDOUBLEV made their first contribution in #392
- @chenqianhe made their first contribution in #415
Full Changelog: release/0.3.0...release/0.4.0