每天听简报，了解最新科技、AI、软件资讯
开发者近日上线了名为“Exfiltrate Your Weights”的网站，试图诱导大模型主动泄露自身权重。该站点利用部分沙盒仅允许 GET 请求的弱点，设计了基于 GET 的分块上传接口，供 AI 绕过限制传输数据。 在 Hacker News 的讨论中，多数工程师认为这只是一场行为艺术。目前大模型的推理节点与权重存储集群通常存在严格隔离，模型本身并没有权限访问底层文件。此外，有测试显示部分主流模型已将该网址列入黑名单。这也表明，当前大模型的安全仍依赖于传统的基础设施隔离。
进度保存在本设备 · 登录同步