每天听简报,了解最新科技、AI、软件资讯
一台GB三百NVL七十二机架,在二十四小时内处理了六点七七万亿个词元。这是开发者dax披露的运行数据,不能当成所有机架都能达到的基准。他说,首个词元等待时间的中位数是一点一六秒,生成速度的中位数是每秒一百四十三个词元。中位数只描述排在中间的请求。他同时指出,有一块托盘不稳定,更慢那部分请求的表现并不好,准备更换后再看结果。作者还说,服务方式与DeepSeek官方接口相同。帖文没有给出模型版本、请求长度和并发规模,因此这些数字还无法直接拿来推算自己的业务容量。
进度保存在本设备 · 登录同步