第 1 章 · 引言与概述 章节摘要:NAS 不是凭空冒出来的概念,它是对"人工设计神经网络太贵、太慢、太依赖专家"这个痛点的系统性回应。本章先讲清人工设计的四个死穴(耗时、高门槛、主观、任务依赖),再给出 NAS 的正式定义与三大支柱——搜索空间、搜索策略、评估策略,最后用性能、效率、门槛、创新四个维度说明 NAS 的价值,并扫一遍它在图像、NLP、语音、强化学习里的落地情况。读完本章,你应该能向一个没接触过 NAS 的人讲清楚"它在解决什么问题、靠什么解决"。 对多数读者来说,第 1 章往往被当作"快速浏览即可"的铺垫章节直接跳过——这是本教程最不希望你做的事。三个理由:第一,1.2 节对三大支柱的定义是全书的"总纲",后面每一章都在对这个定义做展开,跳过它等于失去地图;第二,1.
章节摘要:NAS 不是凭空冒出来的概念,它是对"人工设计神经网络太贵、太慢、太依赖专家"这个痛点的系统性回应。本章先讲清人工设计的四个死穴(耗时、高门槛、主观、任务依赖),再给出 NAS 的正式定义与三大支柱——搜索空间、搜索策略、评估策略,最后用性能、效率、门槛、创新四个维度说明 NAS 的价值,并扫一遍它在图像、NLP、语音、强化学习里的落地情况。读完本章,你应该能向一个没接触过 NAS 的人讲清楚"它在解决什么问题、靠什么解决"。
对多数读者来说,第 1 章往往被当作"快速浏览即可"的铺垫章节直接跳过——这是本教程最不希望你做的事。三个理由:第一,1.2 节对三大支柱的定义是全书的"总纲",后面每一章都在对这个定义做展开,跳过它等于失去地图;第二,1.1 节的"四重困境"是理解"为什么 NAS 长这样"的钥匙,没有这把钥匙,DARTS 的连续松弛、ENAS 的权重共享这些设计会显得莫名其妙;第三,1.3 节的价值维度会反复出现在第 5 章(约束、伦理其实都在讨论价值维度怎么扩展)。请把这章当成"地基"来读,而不是"序言"。
阅读完本章,你应当能够:
金句:搜索空间决定你能找到什么,搜索策略决定你找得多快,评估策略决定你判断得准不准——三者凑齐,架构设计才能从手工作坊变成流水线。
这张全景图值得细看三遍。第一遍看形状:痛点在左,三要素在中,应用在右——它是一条"从问题到价值"的单向流。第二遍看连接:三根支柱并不是并列堆在 NAS 名下的三个孤岛,而是同一流程的三段——搜索策略在搜索空间里采样出架构,评估策略给架构打分,分数再喂回搜索策略调整方向。第三遍看遗漏:图上没有画出来的部分——计算成本、可解释性、泛化能力——正是 NAS 的阴影面,会在第 5 章和第 6 章单独展开。读完全章再回来看这张图,你会认出每一个节点背后对应的具体方法(NASNet、DARTS、ENAS 分别落在哪根支柱上),那时这张图就从"概念图"变成了你的"心智地图"。
从深度学习的架构依赖讲起,分析人工设计的耗时、门槛、主观、任务依赖四重困境,说明 NAS 正是为解放专家、突破经验上限而生的。
给出 NAS 的正式定义,拆解"自动化、搜索空间、搜索策略、最优性能"四个关键词,介绍三大支柱与 NAS 基本流程,梳理其发展历程并理性看待优势与局限。
从性能卓越、效率提升、自动化与民主化、创新探索四个维度讲 NAS 的价值,再沿图像识别、自然语言处理、语音识别、强化学习四条主线看它的落地成果。
三节的内部顺序还有一个隐藏的设计逻辑:1.1 的"四重困境"每一条都对应 1.2 定义里的一个要素(耗时→自动化、依赖专家→搜索策略、主观→搜索空间、任务依赖→评估策略),1.2 的三大支柱又直接对应 1.3 的四个价值维度(支柱强则性能/效率/门槛/创新俱强)。换句话说,这一章不是三个独立主题的罗列,而是一条因果链:问题定义决定概念设计,概念设计决定价值边界。
读本章时建议带着两个问题自测。第一,能不能用一个 30 秒的电梯陈述讲清 NAS:给谁用、解决什么、靠什么解决、代价是什么——这四问是 1.1 到 1.3 的内容浓缩。第二,能不能指出 NAS 的"边界"——哪些问题它解决不了(空间外无解、评估贵、可解释差),这比能讲清它有多强更能体现理解深度。
1.1 为什么需要(痛点) │ ▼ 1.2 是什么(定义 + 三要素 + 流程) │ ▼ 1.3 有什么用(价值维度 + 应用地图)
先有痛点,才有解法;先有定义,才能谈价值。三节是"问题—概念—收益"的递进,不是并列。从阅读体验上说,1.1 解决"为什么要学",1.2 解决"到底在学什么",1.3 解决"学了有什么用"——三个问题依次回答完,你对 NAS 的整体认识就立住了。
这章是全教程概念密度最高的一章,建议慢读。1.2 节的定义拆解是后面的"总纲",1.1 与 1.3 是它的两翼。遇到陌生的方法名(NEAT、NASNet、DARTS)不必当场查透——本章只需要"记得住名字、分得清辈分",细节会在第 2-4 章逐个展开。把这章当成一张"关系图"而不是"名词表",重点记三类关系:谁解决谁的问题、谁是三大支柱里的哪一根、谁跟谁是同一条应用主线。