每天听简报,了解最新科技、AI、软件资讯
有开发者完整逆向了苹果 M1 芯片里的 ANE 神经网络引擎,揭开它为什么跑不好大模型的秘密。 这项硬件早在 2017 年就已立项,底层数据流完全是为传统的图像卷积网络量身定做。 但今天主流的 Transformer 架构,彻底打破了当年假定的规律复用模式。 整个 ANE 拥有 16 个核心和两千多个乘加计算通道,内部甚至用固定的数学查找表做非线性激活。 由于架构过度特化,苹果在最新的 M5 芯片里,已经选择将神经网络加速单元直接并入显卡。 评论区不少同行感慨终于解开了疑惑,专用芯片一旦固化在硅片上,很难跑赢算法的剧变。
进度保存在本设备 · 登录同步