3.2.2 外部模型导入流程（PyTorch/Safetensors -> GGUF）

文档摘要

3.2.2 外部模型导入流程（PyTorch/Safetensors -> GGUF）在大模型本地化部署的实践前沿，我们正经历一场静默却剧烈的范式迁移：从“下载即用”的黑盒模型，到“亲手锻造”的可审计、可裁剪、可复现的推理资产。而这场迁移的核心枢纽，正是 PyTorch/Safetensors → GGUF 这一看似平凡、实则暗流汹涌的转换流程。它不是简单的格式搬运工，而是一场对模型权重语义、数值精度、内存布局与硬件亲和力的系统性重铸——其成败，直接决定你后续在 Ollama、llama.cpp 或自研推理引擎中能否跑出 12 tokens/s 还是 3.7 tokens/s，能否启用加速，甚至能否在 8GB 显存的 Jetson Orin 上完成量化部署。