- 开发者
- 模型部署
#模型部署#
- 模型部署介绍当我们通过深度学习完成模型训练后,有时希望能将模型落地于生产,能开发API接口被终端调用,这就涉及了模型的部署工作。Modelarts支持对tensorflow,mxnet,pytorch等模型的部署和在线预测,这里老山介绍下tensorflow的模型部署。模型部署的工作实际上是将模型预测函数搬到了线上,通常一个典型的模型预测流程如下图所示:模型部署时,我们需要做的事情如下:用户... 模型部署介绍当我们通过深度学习完成模型训练后,有时希望能将模型落地于生产,能开发API接口被终端调用,这就涉及了模型的部署工作。Modelarts支持对tensorflow,mxnet,pytorch等模型的部署和在线预测,这里老山介绍下tensorflow的模型部署。模型部署的工作实际上是将模型预测函数搬到了线上,通常一个典型的模型预测流程如下图所示:模型部署时,我们需要做的事情如下:用户...
- 最近老山在研究在modelarts上部署mask-rcnn,源代码提供的是keras模型。我们可以将keras转化成savedModel模型,在TensorFlow Serving上部署,可参考老山的上篇部署文章。至于输入和输出张量,到已经预先存在model.input和model.output中了。不多说,直接上代码。from keras import backend as Kimport... 最近老山在研究在modelarts上部署mask-rcnn,源代码提供的是keras模型。我们可以将keras转化成savedModel模型,在TensorFlow Serving上部署,可参考老山的上篇部署文章。至于输入和输出张量,到已经预先存在model.input和model.output中了。不多说,直接上代码。from keras import backend as Kimport...
- 本文档介绍使用Postman测试Modelarts部署的在线服务,适用于图像分类、物体检测,其他类别的服务请参照修改。 本文档介绍使用Postman测试Modelarts部署的在线服务,适用于图像分类、物体检测,其他类别的服务请参照修改。
推荐直播
-
华为云ModelArts+Dify AI:双剑合璧使能AI应用敏捷开发
2024/10/14 周一 16:30-18:00
JePhybyte 华为云AI DTSE技术布道师
想知道如何快速部署大模型并进行AI应用敏捷开发吗?华为云ModelArts+开源Dify平台了解一下?本期直播将聚焦华为云ModelArts模型开发平台,并通过Dify平台实现模型调用和AI应用开发。用户无需懂代码,分钟级即可完成模型在线训练、微调、推理、部署上线,并可以通过Dify开源平台实现场景应用快速搭建、测试与落地应用。AI开发效率提升2-3倍,加速推动企业数智化建设,辅助经营发展。
去报名
热门标签