官方推荐

大模型推理与部署实战

从 HuggingFace 到 vLLM、Ollama、TensorRT，覆盖推理加速与生产部署。

含 13 个公开文集

在聚合阅读中开始本路径

路径包含的文集

Transformers：HuggingFace模型全家桶

23 篇文档免费

vLLM：让大模型推理快到飞起

24 篇文档免费

Llamafile：一个文件扛起整个大模型

20 篇文档免费

Llama.cpp

109 篇文档会员

Ollama

96 篇文档会员

vLLM

104 篇文档会员

Phi-3：微软Phi-3模型的实践示例

2 篇文档免费

NanoGPT轻量级GPT模型训练教程

26 篇文档会员

TensorRT加速推理

96 篇文档会员

ONNX运行时架构

96 篇文档会员

OpenVINO模型部署

94 篇文档会员

实时AI与流式计算

7 篇文档免费

AI大模型微调与参数训练实战

86 篇文档免费