2.1 LIF 神经元动力学:泄漏、积分与发放的最简模型


2.1 LIF 神经元动力学:泄漏、积分与发放的最简模型

本节摘要:LIF(Leaky Integrate-and-Fire,泄漏积分发放)是神经形态计算的标准神经元:膜电位对输入电流积分、同时向静息电位泄漏,越过阈值就发放一个脉冲并复位。三个动作、五个参数,就能在数字电路里复现真实神经元的大部分发放行为。本节推导方程、给出可运行仿真,并讲清它的适用边界。

上一章把计算的成本压到了"事件"上,本章先把事件的发生器讲明白。LIF 是整条问题链上最重要的一个零件:第 3 章会看到它从生物模型化简而来的谱系,第 4 章的学习规则作用在它的权重上,第 5 章的芯片核心就是百万个它的电路化身。把这一个模型吃透,后面四章的硬件叙事都顺畅。

从生物膜到电路:方程的每一项是什么

真实神经元的细胞膜是一层约 5 纳米的脂质双分子层,内外离子浓度差形成约 -70 毫伏的静息电位;离子泵维持浓度差,离子通道控制流通。膜的等效电路是经典的"膜电容并联泄漏电阻":输入电流给膜电容充电,同时通过泄漏电阻放电。写成方程就是:

\tau_m \frac{dV}{dt} = -(V - V_{rest}) + R_m \, I(t)

其中 \tau_m = R_m C_m 是膜时间常数(皮层锥体神经元典型值约 10 到 20 毫秒),V_{rest} 是静息电位,R_m 是膜电阻。补上两个发放规则就是完整 LIF:V 达到阈值 V_{th}(约 -55 毫伏,即从静息去极化约 15 毫伏)时发放脉冲,随后 V 复位到 V_{reset};复位后常有几毫秒的不应期,期间难以再次发放。

这五个成分的生物学对应值得记住:积分是膜电容在攒电荷,泄漏是离子跨膜漏出,阈值是钠通道正反馈的触发点,复位是发放后的短暂去极化阻滞,不应期是通道恢复时间。LIF 把复杂的通道动力学(第 3 章的 Hodgkin-Huxley 模型有四个状态变量)压缩成一个变量,保留的恰是计算最需要的部分:阈值非线性。

# LIF 神经元的离散仿真:60 行以内看完全部行为 # 参数取皮层神经元典型量级 tau_m, v_rest, v_th, v_reset = 20.0, -70.0, -55.0, -70.0 # ms, mV dt = 0.1 # 步长 ms T = 200 # 仿真时长 ms I_inject = 1.6 # 恒定注入电流(任意单位) v, spikes, trace = v_rest, [], [] for step in range(int(T / dt)): t = step * dt # 精确离散化:先按泄漏衰减,再加输入 v += (-(v - v_rest) + I_inject) * dt / tau_m trace.append(v) if v >= v_th: # 越阈:发放并复位 spikes.append(t) v = v_reset trace and None rate = len(spikes) / (T / 1000) print(f"发放脉冲数: {len(spikes)}, 平均发放率: {rate:.1f} Hz") # 恒流下 LIF 输出规则脉冲列;增大 I_inject 会缩短周期、抬高发放率

跑一下并调参数,两个现象值得专门观察。其一,注入电流低于某个值时一个脉冲都不发——LIF 有发放阈值,这是它和线性滤波器的本质区别。其二,发放率随电流近似线性增长(这是后来"率码"编码的物理基础),但在大电流下因不应期而饱和。这两个现象合起来,就是 LIF 的"电流-频率转换器"身份。

图:LIF 神经元的膜电位动力学——积分、泄漏、阈值与复位

图:LIF 神经元的膜电位动力学——积分、泄漏、阈值与复位

图里有个细节值得盯着看:蓝线越往上越平——这不是画图误差,是指数充电的真实形状,泄漏项在对抗输入项。理解了这一点,你就理解了为什么 LIF 对"短暂的输入爆发"敏感、对"持续的微弱输入"不敏感:前者能在泄漏吃掉电荷之前冲过阈值,后者永远冲不过。这个时间选择性正是脉冲计算的时间维度的来源。

取舍:LIF 简化掉了什么、为什么可以

对照第 3 章的完整谱系,LIF 砍掉了三样东西。一是通道动力学:不建模钠钾电导的开关过程,发放的波形细节全丢了——但数字芯片里脉冲就是一个逻辑事件,波形本来就不存在。二是适应性:真实神经元持续刺激下发放率会衰减,LIF 要靠外挂自适应项(第 3 章的 AdEx 模型)补。三是树突计算:真实神经元的树突做非线性整合,LIF 假设所有输入线性加权求和——这恰好让"突触权重乘脉冲再求和"的电路实现成为可能。

💡 判断该不该用 LIF 的实用准则:研究发放时序模式、适应性行为,用更真实的模型(Izhikevich、AdEx);做感知任务、边缘推理、芯片实现,LIF 几乎总是对的选择——硬件省下的每一份面积和功耗,都来自这份简化。Loihi 芯片每核塞下 8192 个神经元,靠的正是 LIF 量级的简洁。

三个实现层面的高频问题,提前在这里裁决。第一问:复位用硬复位还是软复位(减去阈值而不是清零)?软复位保留了"超出阈值多少"的信息,训练时梯度流更健康,4.2 节会再次碰到它;硬复位省一个减法器,适合只推理的芯片。第二问:时间常数选多大?从任务反推——要响应的信号变化有多快,tau 就设在其周期的同一量级:视觉事件流常用 10 到 30 毫秒,音频常用 5 到 20 毫秒,控制回路更短。tau 设得远大于信号周期,神经元变成"只看平均"的积分器,时序信息全丢;远小于信号周期,又敏感到噪声。第三问:LIF 和深度学习里的 ReLU 神经元到底什么关系?它们在"率码、长时间窗"的极限下近似等价——LIF 的平均发放率近似正比于输入电流,这正是 ANN 转 SNN 路线(4.3 节)能成立的数学基础;差别在于 LIF 多了时间维度和事件稀疏性,代价是要为它们付训练与编码的复杂度。

硬件视角再补一个数字:一个最小 LIF 电路在数字工艺里的成本大约是几十个逻辑门加几个寄存器——积分用加法器、泄漏用移位(2 的幂次 tau)或乘法、发放用比较器。第 5 章 TrueNorth 每核能塞 256 个神经元、Loihi 2 每核 8192 个,靠的就是这份"单元便宜",让规模优势可以堆出来。

LIF 的全部智慧浓缩成一句话:用电容记住历史(积分),用电阻遗忘细节(泄漏),用阈值做决定(发放)。智能计算需要的记忆、遗忘与决策,三个无源元件加一个比较器就够了。

下一节我们解决另一半问题:神经元发出来的这一串串脉冲,怎么反过来编码输入的数值信息。


作者与出处
原作者: 灏天文库
来源:灏天文库
整理: 灏天文库整理
由灏天文库平台收录,内容或由平台用户上传,仅供学习交流
发布者: 作者: 灏天文库 转发
评论区 (0)
U