每天听简报，了解最新科技、AI、软件资讯
非营利实验室Trillium想把前沿人工智能的后训练过程公开，让外部研究者能复现和检验。创始人内森·兰伯特十月二日介绍，团队先做开放后训练配方，再拓展基础设施，研究递归自我改进、奖励作弊和多智能体系统。按照《连线》的报道，他们也会研究强化学习如何改变模型行为，比如变得过度迎合用户。两位创始人认为，公开实验细节能让更多人发现问题。团队计划未来十八个月花三千万美元训练，这属于预算计划；募资总额尚未披露，研究目标也不等于已有成果。
进度保存在本设备 · 登录同步