每天听简报,了解最新科技、AI、软件资讯
OpenAI刚发布了对抗恶意模型蒸馏的新研究,重点解决别人用模型输出偷学能力却绕开安全护栏的问题。研究指出,攻击者最盯紧的是模型内部的受保护推理过程,因为这些中间思维步骤往往藏着最终回答里没有的深度分析。为了守住这道防线,OpenAI把自动化红队测试、专用分类器训练和API层的异常行为识别结合起来,专门拦截有组织的批量提取。在内部评测里,GPT6.2 Astra部署新护栏后,针对推理过程提取的攻击成功率已经从百分之54降到了千分之2,这套多层防护也正在帮助整个行业加固安全防线。
进度保存在本设备 · 登录同步