Vibe News

一种完全不用反向传播的训练方法，让深达一千层的神经网络也能训练收敛，效果逼近反向传播。做出这项工作的是萨卡纳人工智能公司的研究者。反向传播要求全网络严格按前向、反向、更新三步走，大脑做不到这种精确同步。已有的局部方法叫预测编码，靠相邻层互传误差学习，但网络越深越窄，信号传到前面几层就衰减殆尽。新方法给每一层加了一个反馈变量，让局部计算变成比例积分反馈控制器，对线性网络可以证明，这套局部机制算出的信号和反向传播完全一致。评论区有人指出，它在手写数字识别上准确率只有百分之八十五，怀疑够不够格叫反向传播的替代方案。