TensorFlow部署实践

分类: tensorflow

  

主题: deployment

  

标签: model deployment

by Crius

1 前言

经常

2 TensorFlow Serving应用

2.1 Hugo安装

Hugo安装有二进制和源码安装两种方式。 截至2016.12.9，作者两种方式都尝试了，但源码安装后有点问题：在Windows下运行始终失败，Linux下的归档功能有bug（.Site.Pages.GroupByDate时获取不到数据）。最终下载了[releases版本] [^hugo_release]0.17,运行才正常。两种方式都记录一下：

源码安装： ​

go get github.com/spf13/hugo		
cd  /gosrc/src/github.com/sp13/hugo		
go get	
go build -o /go/bin/hugo github.com/spf13/hugo

二进制安装：下载相关系统的release包，解压到任一目录，并确保此目录在PATH环境变量中。

2.2 Hugo简单使用

查看完整Hugo运行参数

hugo -help

常用命令：

  • 创建站点

运行hugo new site 命令，创建目录结构

​
+ 启动站点调试，运行hugo server命令

hugo server –port=80 –buildDrafts –watch –verbose

sudo NV_GPU=0 nvidia-docker run -it
-p 9210:8500
–mount type=bind,source=/data/cv/model/image-classify,target=/models/image-classify
-e MODEL_NAME=image-classify
-t tensorflow/serving:latest-gpu

sudo docker run -it
-p 9210:8500
-p 9211:8501
–mount type=bind,source=/data/cv/model/image-classify,target=/models/image-classify
-e MODEL_NAME=image-classify
-t tensorflow/serving:latest

sudo docker run
-p 9210:8500
-p 9211:8501
–mount type=bind,source=/data/cv/model/image-classify,target=/models/image-classify
-e MODEL_NAME=image-classify
-t tensorflow/serving:latest

curl -d ‘{“image”: [1.0,2.0,5.0]}’ -X POST http://10.168.12.10:9211/v1/models/image-classify:predict

curl -F “image=@D:\data\cv\wl\test\1.jpg; filename=‘1.jpg’” -X POST http://10.168.12.10:9211/v1/models/image-classify:predict

tensorflow serving 部署： 模型保存、导出 编译 docker

golang客户端 
    grpc
    https rest api

安卓端部署

iOS部署

JS

3 TensorFlow Go binding 探索与应用

3.1 Hugo安装

参考文献：