每天听简报,了解最新科技、AI、软件资讯
四千两百八十亿参数的 MiniMax M3.1 Flash 大模型,迎来了社区多端两比特极限动态量化与本地部署支持。 为了让超大参数模型能够在消费级硬件上跑起来,开源社区通过精细校准与跨显存调度,把模型压缩到了约一百四十四吉字节。 在苹果芯片上,开发者可以通过 oMLX 框架实现端侧本地推理;在四张普通三十九零显卡上,配合系统内存分流也能跑起编码和工具调用任务。 这给想要在本地私有化部署前沿编程模型的小团队,提供了一套切实可行的低门槛落地路径。
进度保存在本设备 · 登录同步