每天听简报,了解最新科技、AI、软件资讯
电商公司 Shopify 给自己的 GraphQL 智能体搭了一套持续学习闭环,用 PyTorch 和 vLLM 这两个开源框架,把生产环境里天天冒出来的失败案例,直接变成模型权重的改进。团队自己讲得很直白,前沿大模型确实是上线最快的路子,但用量真涨起来之后会怎样,这正是他们想回答的问题。这套闭环要解决三件事,怎么给失败案例定义质量标准,怎么用另一个模型当裁判打分并校准这个裁判,以及怎么把训练任务拆开分布到多张 GPU 上跑。相当于让智能体在生产事故里自己学习,不用团队手动修每一个问题。Shopify 工程团队还会在 PyTorch 北美大会上讲,经过针对性训练的小模型在范围明确的任务上能反超前沿大模型,成本更低,延迟更低,吞吐量更高。
进度保存在本设备 · 登录同步