返回资源中心

DeepSeek-V3 Inference Framework

框架库

机器学习

0 次浏览

0 个赞

推理优化大模型国产之光

访问链接

资源描述

针对 DeepSeek-V3 优化的推理部署框架，支持多卡并行、FP8 量化及高效的 KV Cache 管理，显著降低推理延迟和成本。