没有合适的资源?快使用搜索试试~ 我知道了~
dl_inference:通用深度学习推理服务,可在生产环境中快速上线由TensorFlow,PyTorch,Caffe框架训练...
共89个文件
java:25个
md:19个
py:10个
需积分: 15 2 下载量 121 浏览量
2021-03-19
22:37:20
上传
评论
收藏 806KB ZIP 举报
温馨提示
通用深度学习推理服务 可在生产环境中快速上线由TensorFlow,PyTorch,Caffe框架训练出的深度学习模型。 dl_inference是58同城推出的通用深度学习推理服务,使用dl_inference只需将模型文件放在指定目录然后启动服务就可以进行推理请求调用。dl_inference当前支持TensorFlow,PyTorch和Caffe模型,提供GPU和CPU两种布置方式,并且实现了模型多例程部署时的负载均衡策略,支持线上海量推理请求。 dl_inference具备的功能如下: 简化深度学习模型在生产环境上的推理服务部署,只需重新将模型文件放入指定目录。 支持模型多预算部署并实现负载均衡。 提供统一的RPC服务调用接口。 提供GPU和CPU两种部署方式。 PyTorch / Caffe模型支持推理前后数据处理,开放模型调用。 为什么需要dl_inference 将深度
资源推荐
资源详情
资源评论
收起资源包目录
dl_inference-master.zip (89个子文件)
dl_inference-master
modules.png 78KB
PyTorchPredictOnline
DockerImages
Dockerfile_gpu 576B
deps
localtime 388B
requirements.txt 12B
Dockerfile_cpu 560B
cpu
processor.py 1KB
predictor.py 2KB
startPredict.sh 269B
README.MD 2KB
gpu
processor.py 1KB
predictor.py 2KB
README.MD 15KB
grpc_server.png 110KB
DLPredictOnline
CHANGELOG.MD 631B
dlpredictonline
src
test
java
com
bj58
ailab
dlpredictonline
util
CommonUtilsTest.java 278B
main
proto
wpai.proto 1KB
resources
log4j2.xml 361B
nodefile.txt 144B
config.properties 138B
java
com
bj58
ailab
dlpredictonline
init
WpaiPredictOnlineInit.java 2KB
components
WPAIDLPredictOnlineGRPCService.java 7KB
util
CommonUtils.java 999B
MachineUtil.java 2KB
Md5Util.java 6KB
config
Configurations.java 4KB
Config.java 946B
entity
PredictionProtos.java 384KB
BlockingStubEntity.java 2KB
pytorchonline
PytorchOnlineService.java 3KB
grpc
ModelGrpc.java 10KB
tensorflowserving
TensorflowServingBlockingStub.java 11KB
TensorflowServingService.java 4KB
grpc
WpaiDLPredictOnline.java 8KB
README.MD 3KB
WpaiDLPredictOnlineServiceGrpc.java 12KB
README.MD 3KB
pom.xml 5KB
demo
tensorflow-serving start log.png 144KB
src
main
resources
data
ea24de6ad57e95f7f88aa0f59fc48700.jpg 63KB
java
com
bj58
ailab
demo
utils
CommonUtil.java 1KB
client
TensorflowWideAndDeep.java 7KB
WpaiClient.java 3KB
TensorflowLstm.java 7KB
README.MD 6KB
TensorflowDssm.java 7KB
TensorflowTextCnn.java 7KB
CaffeClient.java 3KB
TensorflowSptm.java 12KB
PyTorchClient.java 4KB
model
tensorflow
lstm
README.MD 490B
test_data 122KB
vocab_max 21KB
sptm
vocab 22KB
test.txt 84KB
README.MD 524B
dssm
vocab_min 21KB
README.MD 485B
test_data 122KB
textcnn
README.MD 316B
wideAndDeep
README.MD 454B
census_input.csv 10KB
pytorch
mnist
README.MD 352B
test_data
2.png 258B
9.png 300B
caffe
cpu
README.MD 253B
deploy.prototxt 35KB
gpu
README.MD 180B
deploy.prototxt 35KB
README.MD 6KB
pom.xml 3KB
README.MD 140B
pom.xml 518B
docs
custom operate.md 11KB
tensorflow api.md 5KB
.editorconfig 285B
.gitignore 133B
CaffePredictOnline
DockerImages
Dockerfile_gpu 352B
deps
requirements.txt 12B
Dockerfile_cpu 352B
cpu
postprocess.py 419B
CaffeModel.py 1KB
preprocess.py 969B
startCaffe.sh 132B
README.md 1KB
gpu
postprocess.py 419B
CaffeModel.py 1KB
preprocess.py 969B
pytorch_transfer.png 99KB
load_leveling.png 52KB
共 89 条
- 1
资源评论
善音
- 粉丝: 21
- 资源: 4611
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
最新资源
- 5G网络基础培训课件.zip
- 2024-spring-HIT-CS-大作业
- yolo目标检测项目实验
- downloadFile-1.hc
- C++课程设计:基于Qt的航班信息管理系统
- ADS7822UVerilog驱动,前面传的有点问题
- 基于python的高性能爬虫程序,使用了多线程+缓存+xpath实现的,这里以彼-岸图库为例,实现,仅用于学习交流
- 中分辨率成像光谱仪(MODIS)烧毁面积产品信息MODIS-C6-BA-User-Guide-1.2.pdf
- Screenshot_20240427_172613_com.huawei.browser.jpg
- 关于学习Python的相关资源网站链接及相关介绍.docx
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功