文档摘要

6.2.1.1 gRPC 与 RESTful 接口 当 gRPC 的流式响应在 OVMS 里“卡住”：一个被忽略的 HTTP/2 流控窗口与模型推理吞吐量的真实博弈 你有没有遇到过这样的场景？ 在 OpenVINO Model Server（OVMS）上部署了一个支持 流式输出的语音转文本模型（比如 Whisper 的 streaming variant），前端用 gRPC 客户端调用 接口，明明模型推理耗时稳定在… 会员。《6.2.1.1 gRPC 与 RESTful 接口》收录于灏天文库文集《OpenVINO模型部署》，提供技术教程、实践指南与问题解决方案，支持在线阅读、全文检索与知识沉淀，助力开发者系统化学习。文档编号51154。

该文档为会员专享，请先登录或注册后再查看

登录 注册

---