从 HuggingFace 到 vLLM、Ollama、TensorRT,覆盖推理加速与生产部署。
Transformers:HuggingFace模型全家桶
23 篇文档 免费
vLLM:让大模型推理快到飞起
24 篇文档 免费
Llamafile:一个文件扛起整个大模型
20 篇文档 免费
Llama.cpp
38 篇文档 会员
Ollama
29 篇文档 会员
vLLM
36 篇文档 会员
Phi-3:微软Phi-3模型的实践示例
2 篇文档 免费
NanoGPT轻量级GPT模型训练教程
26 篇文档 会员
TensorRT加速推理
19 篇文档 会员
ONNX运行时架构
24 篇文档 会员
OpenVINO模型部署
27 篇文档 会员
实时AI与流式计算
17 篇文档 免费
AI大模型微调与参数训练实战
26 篇文档 免费
Colibrì · 中文源码精读教程
33 篇文档 免费
DeepSeek-Reasonix · 中文源码精读教程
35 篇文档 免费