每天听简报,了解最新科技、AI、软件资讯
开源社区近期推出了一款名为Jeff的微型决策模型,参数量仅为零点八B,却能在三十毫秒内完成零样本多选题决策。开发者通过微调通义千问与Gemma模型,彻底摒弃了常规大模型生成长文本的缓慢机制,仅凭单次前向传播直接输出各个选项的标准概率。无论是在客服意图分流、内容审核打标,还是在游戏动作判断场景,它在苹果电脑或单卡工作站上都能实现闪电响应。更引人注目的是,该项目完全由本地单张显卡训练完成,没有任何闭源数据参与,为高频实时的离线业务决策提供了极致轻量的落地样本。
进度保存在本设备 · 登录同步