2.1 没有非线性的网络只是一张白纸


文档摘要

2.1 没有非线性的网络只是一张白纸 本节摘要:这是激活函数存在的全部理由——引入非线性。本节用一句话证明"多层线性叠起来还是线性",并用二维分类的直觉说明为什么线性表达不够用,最后用一个极简网络演示非线性如何让决策边界从一条直线变成任意曲线。 上一节我们把三要素摆上了天平,现在轮到给"表达力"这个砝码开个头。你可能听过这种说法:"不加激活函数,多少层都白搭。"这句话不是夸张,是数学上能当场格出来的。 会员。《2.1 没有非线性的网络只是一张白纸》收录于灏天文库文集《神经网络优化技巧:激活函数、损失函数、优化器选择》,原作者/来源:灏天文库,整理自「灏天文库」,提供技术教程、实践指南与问题解决方案,支持在线阅读、全文检索与知识沉淀,助力开发者系统化学习。本站整理收录,版权归原作者/开源协议所有。

该文档为会员专享,请先登录或注册后再查看


作者与出处
原作者: 灏天文库
来源:灏天文库
整理: 灏天文库整理
由灏天文库平台收录,内容或由平台用户上传,仅供学习交流
发布者: 作者: 灏天文库 转发
评论区 (0)
U