每天听简报，了解最新科技、AI、软件资讯
一个只有三亿参数、微调自谷歌老模型BERT的小模型，脱网跑在苹果M4的神经网络引擎上。作者拿它在本地玩起了贪吃蛇，全程不联网，也没用到GPU。这个叫Laya的东西不是聊天式大模型，更像一个分类器。给它一段场景描述和几个问题，它直接给答案打概率分。作者贴出内存快照，运行峰值物理内存只有七百八十兆，不到一个G。有人用能耗监控工具实测，发现它几乎只跑神经网络引擎，很少碰GPU。评论区更在意它的意义，有人说这种能稳定做判断的本地小模型才是未来。也有人反驳，BERT这套技术都快十年了，真有这个能耐，数据中心早该被冲击了。
进度保存在本设备 · 登录同步