PaddlePaddle / PaddleCloud

PaddlePaddle Docker images and K8s operators for PaddleOCR/Detection developers to use on public/private cloud.
Apache License 2.0
284 stars 77 forks source link
deep-learning kubernetes-cluster paddlepaddle-cloud

PaddleCloud

English | 简体中文

云上飞桨(PaddleCloud)项目是面向飞桨 (PaddlePaddle)框架及其模型套件的部署工具箱,为用户提供了模型套件 Docker 化部署和 Kubernetes 集群部署两种方式,满足不同场景与环境的部署需求。

云上飞桨优势

模型套件Docker化部署

PaddleCloud 基于 Tekton 为飞桨模型套件(PaddleOCR等)提供了镜像持续构建的能力,使用这些镜像用户可以快速在本地环境体验和部署套件中的案例。 目前 PaddleOCRPaddleDetectionPaddleNLP 等飞桨模型套件已经接入CI流水线,后续还将接入更多的模型套件。除了直接使用套件的标准镜像,如果您需要对模型套件进行二次开发并希望能够持续构建定制的镜像,可以参考 tekton 目录下的文档构建您的套件镜像CI流水线。

适用场景:本地测试开发环境、单机部署环境。

文档教程

所有镜像均基于 Tekton 进行自动化构建维护,详细请查看 Tekton 文档

Kubernetes集群部署

PaddleCloud 基于 Kubernetes 的 Operator 机制为您提供了多个功能强大的云原生组件,如样本数据缓存组件、分布式训练组件、 以及模型推理服务组件,使用这些组件您可以快速地在云上进行分布式训练和模型服务化部署。 此外,PaddleCloud 还基于 Kubeflow Pipeline 为您提供了云上模型全链路的功能。您可以使用 Python SDK 来快速构建自定义的飞桨深度学习工作流,并能够利用上各飞桨云原生组件的能力,使得数据准备、模型训练、超参调优、模型服务化部署等每个步骤的工作都变得简单。

适用场景:基于 Kubernetes 的多机部署环境。

文档教程

许可证书

本项目的发布受Apache 2.0 license许可认证。