Feature Category
Problem Statement
(1)目前admin只能同时支持一种operator,要么ray,要么k8s,希望能够同时支持多种operator,并自动根据请求路由。
(2)希望增加一种基于远端api的remote operator。
Proposed Solution
引入多 operator 架构:OperatorRegistry + Routing Layer + RemoteOperator + Addressing Layer,支持 Ray/K8s/Remote 并存,按 image 等维度声明式路由,既有路径零变更。
Detailed Feature Description
OperatorRegistry:配置驱动加载,yaml 出现哪个顶层块就加载哪个 operator
Routing Layer:submit 时按 image_prefix/image_pattern 等规则匹配目标 operator,结果固化到 sandbox meta
RemoteOperator:对接外部REST API,完整实现 submit/get_status/stop/delete
Addressing Layer:远端 sandbox 通过 header-based routing 寻址 client-proxy;本地 sandbox 走原有 host_ip/port,零变更
兼容性:老 yaml 不改照常工作;老 meta 缺字段走 default 兜底;SDK 零变更
Feature Category
Problem Statement
(1)目前admin只能同时支持一种operator,要么ray,要么k8s,希望能够同时支持多种operator,并自动根据请求路由。
(2)希望增加一种基于远端api的remote operator。
Proposed Solution
引入多 operator 架构:OperatorRegistry + Routing Layer + RemoteOperator + Addressing Layer,支持 Ray/K8s/Remote 并存,按 image 等维度声明式路由,既有路径零变更。
Detailed Feature Description
OperatorRegistry:配置驱动加载,yaml 出现哪个顶层块就加载哪个 operator
Routing Layer:submit 时按 image_prefix/image_pattern 等规则匹配目标 operator,结果固化到 sandbox meta
RemoteOperator:对接外部REST API,完整实现 submit/get_status/stop/delete
Addressing Layer:远端 sandbox 通过 header-based routing 寻址 client-proxy;本地 sandbox 走原有 host_ip/port,零变更
兼容性:老 yaml 不改照常工作;老 meta 缺字段走 default 兜底;SDK 零变更