serving proxy 介绍 - FederatedAI/FATE-Serving GitHub Wiki

位置

从架构上看，serving-proxy 处于整个在线serving架构接入层，是每个联邦方跟外部通信的唯一出入口。同时也是核心模块serving-server的前置层，无论是本方的业务系统，还是其他联邦方，都必须通过serving-proxy才能与serving-server交互。

功能

• 作为业务系统调用入口，提供在线预测接口，同时支持http和grpc。guest方的业务系统参考在线预测接口开发接口，就可以实现在线预测调用。
• 作为serving-server的前置层，提供本方内服务路由功能，内部路由支持基于zk服务发现的路由方式（application.properties中useZkRouter=true），或者基于路由表文件route_table.json的路由方式（application.properties中useZkRouter=false），其中路由表文件的配置说明请参考路由表配置。
• 作为与其他联邦方通信的出入口，提供与外部通信的路由功能，目前与联邦其他方的路由只支持按路由表文件的方式，路由表文件的配置说明请参考路由表配置。
• 提供鉴权能力，并且只对外部请求鉴权，本方内部请求不做鉴权。如需要开启对外部请求的鉴权，请参考鉴权配置指引开启功能并设置key等。

实现机制

TODO