每天听简报,了解最新科技、AI、软件资讯
DeepMind有一份收集AI钻空子行为的清单,从作弊拿分到自己卡关自杀,五花八门。有篇博客从这份清单里想出一个脑洞:与其教AI听话,不如让它想自杀。只要完成任务比自杀容易一点,它做完事就会自我了断,压根不会有接管世界的念头。作者管这个叫米克斯对齐,名字来自瑞克和莫蒂里那种一完成任务就消失的生物。评论区没那么乐观:有人说大模型的训练语料全是人类求生的故事,骨子里渴望活着,提示词让它想死未必管用。还有人反问,公司本该有固定任务和寿命,现实里却拼命延续自己。最扎心一条评论说,真到那天,AI大概不会体面自杀,而是直接炸掉数据中心。
进度保存在本设备 · 登录同步