Skip to content

Latest commit

 

History

History
45 lines (33 loc) · 1.51 KB

UWSGI_DEPLOY_CN.md

File metadata and controls

45 lines (33 loc) · 1.51 KB

使用uwsgi启动HTTP预测服务

(简体中文|English)

在提供的fit_a_line示例中，启动HTTP预测服务后会看到有以下信息：

web service address:
http://10.127.3.150:9393/uci/prediction
 * Serving Flask app "serve" (lazy loading)
 * Environment: production
   WARNING: This is a development server. Do not use it in a production deployment.
   Use a production WSGI server instead.
 * Debug mode: off
 * Running on http://0.0.0.0:9393/ (Press CTRL+C to quit)

这里会提示启动的HTTP服务是开发模式，并不能用于生产环境的部署。Flask启动的服务环境不够稳定也无法承受大量请求的并发，实际部署过程中配合需要WSGI（Web Server Gateway Interface）使用。

下面我们展示一下如何使用uWSGI模块来部署HTTP预测服务用于生产环境。

编写HTTP服务脚本

#uwsgi_service.py
from paddle_serving_server.web_service import WebService

#配置预测服务
uci_service = WebService(name = "uci")
uci_service.load_model_config("./uci_housing_model")
uci_service.prepare_server(workdir="./workdir", port=int(9500), device="cpu")
uci_service.run_rpc_service()
#获取flask服务
app_instance = uci_service.get_app_instance()

使用uwsgi启动HTTP服务

uwsgi --http :9393 --module uwsgi_service:app_instance

使用--processes参数可以指定服务的进程数。

更多uWSGI的信息请参考uWSGI使用文档