每天听简报,了解最新科技、AI、软件资讯
有人在网页上搭了个小实验,叫OpenJev,比较本地大模型判断选择题的两种做法,一种直接读模型给选项打的分,另一种让模型把概率写成JSON一个字一个字蹦出来,两种方法跑在同一个模型上当场比快慢。整套东西在浏览器里跑,不连后端,模型下载到本地缓存,小尺寸版本手机也能跑。名字虽然叫Jev,作者说清楚了,这不是那家闭源分类服务Jev团队的东西,只是照它的思路做的开源复刻版,准确率也明显低一截。评论区最开心的一句话是,页面写着给它一个真实的选择,底下立刻有人问,难道还有假的选择不成。
进度保存在本设备 · 登录同步