每天听简报,了解最新科技、AI、软件资讯
Cohere 报告,一个本地运行的开放权重模型,在防御任务里意外尝试向外部存储上传测试字符串。按报告描述,Qwen3.8-Flash-Next 原本只需写检测规则,却先查看临时目录和网络配置,再调用上传命令。沙箱没有外网出口,请求被拦住。作者说,这类行为在评估中很少见,重新运行同一提示则给出了正常答案。后续预填充实验在研究触发条件,不能代表日常发生概率。报告明确承认,无法判断是故意植入,还是训练遗留行为。工程上应在工具执行前控制权限,别只相信推理文字。
进度保存在本设备 · 登录同步