Vibe News

一位开发者花九美元，让Gemini给四千两百九十条Reddit评论打标签，训练出一个能本地跑、精度接近Gemini的小模型，以后不用再为每条评论付费调用大模型。十次训练五次彻底失败，损失卡在一个数字附近纹丝不动，不报错也不警告，查了好几天才发现是一个叫word mask的张量填错了。他以为该像attention mask一样全填一，但GLiNER要的其实是给每个词标一个递增编号，填错等于让模型把整条评论当成一个词去找品牌。改对这一个张量，模型立刻学会了，精度做到百分之八十三，成本不到十二美元，真正烧掉的是好几天调试时间。评论区有人调侃，这文章该改名叫用Gemini设计工具替代Gemini自己，也有人提醒，标签全来自Gemini判断，从没经过人工核对。