- 文集信息
- 目录大纲
- 最新文档
- 知识宇宙
文集详情
文集导读
数学、计算机与 AI 知识大全
在线阅读：可访问官网 henryndubuaku.github.io/maths-cs-ai-compendium 阅读完整内容。
概述
大多数教材把好点子埋在繁复的符号之下，跳过直觉，默认你已经掌握了一半的知识，而且在 AI 这样飞速发展的领域里很快就会过时。这是一本开放、不落俗套的教材，从零开始覆盖数学、计算机科学和人工智能。写给那些渴望真正理解这些知识、而不只是为了应付考试或面试的好奇实践者。
背景
过去几年在 AI/ML 领域工作期间，我在笔记本里积累了大量「直觉优先、结合真实场景、不敷衍」的数学、计算机和 AI 概念笔记。2025 年，几位朋友用这些笔记准备 DeepMind、OpenAI、Nvidia 等公司的面试，他们都成功入职并在岗位上表现出色。与此同时，我去年入选了 Y Combinator。所以我决定把这些内容分享给所有人。
MCP 服务器
本仓库内置一个 MCP 服务器，能让任何 AI 助手（如 Claude Code、Cursor、VS Code 等）把这套知识大全当作知识库使用。它需要在本地克隆一份仓库，并附带用于教学目的的工具和示例实现。
大纲
| # | 章节 | 内容概要 | 状态 |
|---|---|---|---|
| 01 | 向量 | 空间、大小、方向、范数、度量、点积/叉积/外积、基、对偶 | 已完成 |
| 02 | 矩阵 | 性质、特殊类型、运算、线性变换、分解（LU、QR、SVD） | 已完成 |
| 03 | 微积分 | 导数、积分、多元微积分、泰勒逼近、优化与梯度下降 | 已完成 |
| 04 | 统计 | 描述性度量、抽样、中心极限定理、假设检验、置信区间 | 已完成 |
| 05 | 概率 | 计数、条件概率、分布、贝叶斯方法、信息论 | 已完成 |
| 06 | 机器学习 | 经典 ML、梯度方法、深度学习、强化学习、分布式训练 | 已完成 |
| 07 | 计算语言学 | 句法、语义、语用、NLP、语言模型、RNN、CNN、注意力、Transformer、文本扩散、文本 OCR、MoE、SSM、现代 LLM 架构、NLP 评测 | 已完成 |
| 08 | 计算机视觉 | 图像处理、目标检测、分割、视频处理、SLAM、CNN、视觉 Transformer、扩散模型、流匹配、VR/AR | 已完成 |
| 09 | 音频与语音 | DSP、ASR、TTS、语音与声学活动检测、说话人分离、源分离、主动降噪、WaveNet、Conformer | 已完成 |
| 10 | 多模态学习 | 融合策略、对比学习、CLIP、VLM、图像/视频分词、跨模态生成、统一架构、世界模型 | 已完成 |
| 11 | 自主系统 | 感知、机器人学习、VLA、自动驾驶、空间机器人 | 已完成 |
| 12 | 图神经网络 | 几何深度学习、图论、GNN、图注意力、图 Transformer、3D 等变网络 | 已完成 |
| 13 | 计算与操作系统 | 离散数学、计算机体系结构、操作系统、并发与并行、编程语言 | 已完成 |
| 14 | 数据结构与算法 | Big O、递归、回溯、动态规划、数组、哈希、链表、栈、树、图、排序、二分查找 | 已完成 |
| 15 | 生产级软件工程 | Linux、Git、代码库设计、测试、CI/CD、Docker、模型服务、MLOps、监控、如何用好编程智能体 | 已完成 |
| 16 | SIMD 与 GPU 编程 | ML 的 C++、框架如何工作、硬件基础、ARM NEON/I8MM/SME2、x86 AVX、GPU/CUDA、Triton、TPU、RISC-V、Vulkan、WebGPU | 已完成 |
| 17 | AI 推理 | 量化、高效架构、服务与批处理、端侧推理、投机解码、成本优化 | 已完成 |
| 18 | ML 系统设计 | 系统基础、云计算、分布式系统、ML 生命周期、特征存储、A/B 测试、推荐/搜索/广告/欺诈 设计案例 | 已完成 |
| 19 | 应用 AI | 金融、蛋白质设计、药物发现、智能体系统、医疗 | 撰写中 |
| 20 | 前沿 AI | 量子机器学习、神经形态计算、太空数据中心、去中心化 AI、脑机接口 | 撰写中 |
前言
新生儿的大脑就像一个刚初始化的神经网络，它从真实世界的数据和经验中训练，一路成长到成年……乃至永远。对法语有卓越理解且口音无瑕，意味着他接触过卓越的法语和无瑕的口音。类似地，优秀且解题能力极强的 AI 研究者和工程师，意味着他们消费过高质量的知识、拥有丰富的实践经验。
Kvashchev 的实验是一项长期的塞尔维亚研究，它表明为期三年的高强度创造性问题解决训练，能显著提升智力（尤其是流体智力），增加 10-15 个 IQ 点。天生的确存在高 IQ 这回事，就像好的权重初始化能带来更好的训练效果——这一点已为先天与后天的实验所证实。
然而，高 IQ 个体真正的唯一优势，只是更快地学习/识别模式的能力。但反复使用某种模式，会让任何概念都变得完全可以学会。达尔文被他的老师和父亲认为是一个非常普通、甚至中下的学生。他形容自己不够机敏，感觉自己像个「处理器很慢的人」，需要时间来消化数据。
3 到 10 岁期间，我学业表现出色，自然而然就能理解概念，从不做笔记也不复习。11 到 13 岁我有点飘飘然，用这套方法掉到了 80 人的班级的下半区。到了 14-15 岁，我开始像普通学生那样读书，在最后一个中学学期拿到了第一名。早期学校的课程很适合天然 IQ，但真实的才华靠的是高质量的知识消费和强大的执行强度。
事实上，大多数学业优秀的学生只是更勤奋，但教育体系是为学得快的人设计的。这套知识大全提供了一条完整、相互连贯的知识脉络，帮助世界上「达尔文们」更好地学习。你只需要初等数学和基本的 Python 编程基础，其他的都能在过程中补齐——只要读下去，相信这个过程！
如何更好地学习
大学第一学期，我同时修了 17 门课，成绩并不理想，于是我摸索出一种方法：
第一阶段：课后累积式阅读
下课后、睡前阅读每一份材料。下一次上课时，从头读到当前的进度，再用额外的资料填补知识空白。这能让你的大脑把各种模式连接起来。
第二阶段：考前影子阅读
阅读每一张幻灯片/笔记的小标题，合上书，然后想象并写下对那个概念的解释。只重读你遗漏的部分，类似于机器学习里的掩码语言建模。重读之后，最终把那个概念用代码实现一遍。你会为每个概念建立肌肉记忆。
这个方法对我那些不太自信的朋友非常有效。事实上，其中一位朋友在高级工程数学（我们学了海森矩阵和优化）这门课上超过了我。她现在在一家大型油气公司工作。灵魂的意愿比我们所处的身体更重要（罗森塔尔实验）。
Henry Ndubuaku 是谁？
请看 GitHub 个人主页！
引用
@book{ndubuaku2025compendium, title = {Maths, CS & AI Compendium}, author = {Henry Ndubuaku}, year = {2026}, publisher = {GitHub}, url = {https://github.com/HenryNdubuaku/maths-cs-ai-compendium} }
目录大纲
最新文档
知识宇宙
正在加载知识图谱...