[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"aihot-art-92221":3},{"itemId":4,"vertical":5,"category":6,"source":7,"score":8,"title":9,"summary":10,"analysis":11,"url":12,"coverUrl":13,"direction":13,"marketSignal":13,"publishedAt":14},"92221","ai","论文研究","MarkTechPost",63,"Sakana AI提出误差扩散训练法，无需反向传播即可训练符合Dale原则的网络","Sakana AI提出误差扩散训练法，无需反向传播即可训练符合Dale原则的网络。","Sakana AI提出误差扩散训练法（Error Diffusion），无需反向传播即可训练符合Dale原则的神经网络，在MNIST和CIFAR-10上分别达到96.7%和61.7%的准确率。这一方法绕开了反向传播的权重传输问题，更贴近生物神经网络的局部学习机制。\n· 误差扩散是一种局部学习规则，每个权重更新仅依赖突触前活动、突触后激活导数和单个全局误差信号，不传输转置权重或使用随机反馈矩阵。\n· 为满足Dale原则（神经元要么兴奋要么抑制），网络每层拆分为兴奋性和抑制性两个流，所有可学习权重保持非负，交叉流连接通过结构负号实现抑制。\n· 双流架构每层需要四倍参数（约32M vs 8M），但实现了生物合理性。\n· 创新点“模数误差路由”将每个隐藏单元固定映射到一个输出通道，从而将误差扩散从二分类扩展到多分类。\n· 针对多分类引入层特定sigmoid宽度、输出层无偏置等三项改进，提升了性能。\n看点：误差扩散为生物启发式学习提供了新路径，避免了反向传播的生物学不可行假设，但双流架构的参数膨胀和当前仅在小型数据集上的验证，距离大规模实用仍有距离。","https:\u002F\u002Fwww.marktechpost.com\u002F2026\u002F07\u002F17\u002Fsakana-ais-error-diffusion-trains-dale-compliant-dual-stream-networks-reaching-96-7-mnist-and-61-7-cifar-10-without-backpropagation\u002F",null,"2026-07-18 14:32:43"]