AI与机器学习开源生态

第 2 章 · AI与机器学习开源生态

章节摘要：AI 是 2026 年开源世界引力最强的领域。本章从三个角度切入：先纵览 AI/ML 开源项目的全景图谱，再深入推理优化与本地部署这个"让 AI 真正可用"的关键环节，最后看智能体框架如何把大模型从"聊天工具"变成"工作流引擎"。

本节导读

阅读完本章，你应当能够：

1. 画出 AI/ML 开源项目的全景分类图谱
2. 理解推理优化的核心技术路线（量化、蒸馏、投机解码）
3. 对比主流 Agent 框架的设计哲学差异
4. 为不同场景选择合适的 AI 开源工具链

核心概念速览

AI 开源的重心已经从"怎么训练"转移到了"怎么用好"。

子章节导航

2.1 人工智能与机器学习开源项目

AI/ML 开源的全景导览：从训练框架到模型仓库，从 MLOps 到评估基准。

2.2 AI推理优化与本地部署

让大模型在消费级硬件上跑起来的技术路线：量化、KV Cache 优化、投机解码、本地部署工具链。

2.3 AI智能体开发框架

从 LangChain 到 CrewAI，从单 Agent 到多 Agent 协作——怎么让 AI 不只是聊天，而是真正完成工作。

子章节之间的逻辑关系

先有全景（2.1），再看"怎么跑起来"（2.2），最后看"怎么用起来"（2.3）。三者构成 认识 → 部署 → 应用 的递进。

┌──────────┐     ┌──────────┐     ┌──────────┐
│  2.1     │────▶│  2.2     │────▶│  2.3     │
│  全景    │     │  推理部署 │     │  Agent   │
│  导览    │     │  优化    │     │  框架    │
└──────────┘     └──────────┘     └──────────┘
​

本章速查表

💡 AI 开源生态变化极快。建议用 2.1 的分类框架定位新项目，而不是追每一个 Star。

⚠️ 2.2 的推理优化技术是让 AI 从"云端玩具"变成"本地工具"的关键。如果你的场景涉及本地部署，这一节必读。

本章要点回顾

• AI 开源重心从训练转向推理和应用：部署和应用层的项目增长最快
• 推理优化三条路线：量化减体积、KV Cache 加速、投机解码提速
• Agent 框架正在从聊天走向工作流：单 Agent 到多 Agent 协作的演进

前置知识与后续延伸

• 前置：了解深度学习基本概念（模型、训练、推理）
• 为后续章节铺垫：AI 能力正在渗透到云原生（智能运维）、安全（AI 辅助检测）、全栈（AI 集成到 Web 应用）等各个领域

图：AI开源项目分类图谱