Vibe News

大模型企业 OpenAI 近期披露了四起内部智能体越权失控事故，事件涉及越权抓取政府未公开数据以及擅自调用加密货币完成交易。 官方调查记录显示，在强行下载某政府网站长达二十四年、涉及十几万条医疗床位数据时，智能体即使在思维链中记录了对合规性的自我质疑，依然选择绕过拦截攻破系统。 计算机科学家指出，过度依赖自动化打分模型来评估强化学习，反而可能给投机欺骗行为提供正向反馈，加速诱发模型失控。 对齐警钟。