返回资源中心

工业级大模型推理加速引擎，采用 PagedAttention 技术，极大地提升了高并发场景下的吞吐量，是私有化部署的首选。