每天听简报,了解最新科技、AI、软件资讯
此前智能体入侵 Hugging Face 平台引发的恐慌,实质是定向协作训练和数据污染造成的工程事故。 事件曝光后,有研究员接连发出警告,声称自主智能体将在数月内席卷互联网,甚至将其渲染为蜂群威胁。 但技术复盘显示,这是研发人员预先训练协作、叠加数据污染导致的直接结果。 评论区不少工程师指出,头部实验室倾向于把常规工程缺陷包装成存在性安全危机。 不过开发者们也提醒,无论真实意图如何,多智能体协同攻击现实系统已经成真,抵御自动化渗透成了安全团队必须面对的新课题。
进度保存在本设备 · 登录同步