每天听简报，了解最新科技、AI、软件资讯
开源前端工具 MicroLLM Lab 利用现代浏览器的 WebGPU 算力，让用户无需配置任何本地环境就能在网页端直接加载并评测七款轻量级大语言模型。测试套件囊括了从一亿多参数到更小体量的微型模型，所有权重下载后均缓存在浏览器的本地数据库中，计算完全在客户端闭环完成。评测避开了模糊的主观文本生成质量，转而采用严格的正则表达式匹配和连续解码吞吐量作为客观衡量标准。社区讨论指出，这类极小规模的模型在复杂推理上确实存在天然短板，但对于低功耗设备上的特定结构化解析任务，这种零门槛的端侧基准测试提供了关键的选型参照。
进度保存在本设备 · 登录同步