灏天文库 返回首页
官方推荐

大模型推理与部署实战

从 HuggingFace 到 vLLM、Ollama、TensorRT,覆盖推理加速与生产部署。

15 个公开文集
在聚合阅读中开始本路径

路径包含的文集

Transformers:HuggingFace模型全家桶

23 篇文档 免费

vLLM:让大模型推理快到飞起

24 篇文档 免费

Llamafile:一个文件扛起整个大模型

20 篇文档 免费

Llama.cpp

38 篇文档 会员

Ollama

29 篇文档 会员

vLLM

36 篇文档 会员

Phi-3:微软Phi-3模型的实践示例

2 篇文档 免费

NanoGPT轻量级GPT模型训练教程

26 篇文档 会员

TensorRT加速推理

19 篇文档 会员

ONNX运行时架构

24 篇文档 会员

OpenVINO模型部署

27 篇文档 会员

实时AI与流式计算

17 篇文档 免费

AI大模型微调与参数训练实战

26 篇文档 免费

Colibrì · 中文源码精读教程

33 篇文档 免费

DeepSeek-Reasonix · 中文源码精读教程

35 篇文档 免费