每天听简报,了解最新科技、AI、软件资讯
开源项目 litelm 登上了热榜,它把十万多行代码的知名大模型接口库 LiteLLM,精简到了不到三千行。 LiteLLM 是一套统一调用各大模型 API 的 Python 库,但因为不断塞进代理服务、用量统计和缓存,安装包膨胀到了七百兆。 新项目 litelm 砍掉了所有附加功能,只留下核心的模型路由、格式转换与工具调用,依赖仅剩两个。 换用它甚至不需要改调用代码,直接换个导入名就行。 评论区对这次大瘦身反应两极。 有人拍手称快,认为原版早就名不副实;但不少工程师也指出,被砍掉的代币计费与成本追踪,恰恰是他们在生产环境离不开的核心功能。
进度保存在本设备 · 登录同步