每天听简报，了解最新科技、AI、软件资讯
开源社区近期推出轻量级大模型服务框架 Janus。项目采用单个 Go 语言二进制文件打包，核心体积仅约五十兆字节，彻底摆脱对复杂运行环境与容器的依赖。底层基于通用图形接口调用推理引擎，全面支持超微、英特尔以及英伟达多平台显卡硬件加速，无独立显卡时可自动回退至中央处理器。系统提供标准兼容接口，支持与各类代码助手无缝协同，并具备模型热插拔与推理链提取功能。社区极客评价，这种轻量级零依赖设计，大幅降低了本地大模型的运行门槛。
进度保存在本设备 · 登录同步