Sooua
文章
系列
项目
服务
会员
关于
搜索
⌘K
EN
登录
#推理网关
标签 · 共 1 篇
Kubernetes / 平台工程
·
2026/06/08
·
7 分钟
不要把 LLM 网关只当反向代理:Kubernetes 推理路由需要模型感知
从 Gateway API Inference Extension 与 Envoy AI Gateway 出发,拆解模型感知推理网关的路由、优先级、指标和安全边界。
#Kubernetes
#Gateway-API
#LLMOps