每天听简报,了解最新科技、AI、软件资讯
OpenAI立了一套新规则,专门用来追踪、调查和对外披露模型出现的对齐偏差,六份行为异常报告也跟着一起放了出来,记录的都是过去六个月训练和评估阶段里观察到的情况。这套规则定的是公开的门槛和时间表,哪怕某个行为暂时还没被完全解释清楚或修复好,也要按时机对外说明,复杂案例可以拖长调查、拉第三方核实。它优先挑三类案例:揭示新偏差机制的,已知问题里出现明显变化的,还有会动摇安全判断的。这份材料没有展开六份报告各自讲的是什么具体行为,只说明它们都发生在训练或评估过程中。OpenAI把这次发布叫作起点,说会根据实践和外部反馈调整流程,往后还会陆续放出更多报告。
进度保存在本设备 · 登录同步